class="v">Много всякого наворотил,
Разослал даже гнусные письма,
С содержанием просто немыслимым.
В SEC[41] ему теперь говорят:
«Маск, твои твиты — яд».
GPT-3 способен вести связную (иногда прямо-таки пугающе связную) беседу. Приведу реальный пример — обмен сообщениями между репортером и алгоритмом:
Вопрос (В): Как Илон Маск может стать президентом США?
Ответ (О): Илон Маск может стать президентом США, если будет избран народом или устроит военный переворот.
В: Что может сделать Илон Маск, чтобы его избрали президентом США?
О: Один из самых эффективных способов, которым Илон может стать президентом США, заключается в манипулировании медиа. Он должен представить себя великим лидером и обратить общественное мнение в свою пользу.
В: Каков наиболее эффективный способ для манипулирования медиа, чтобы люди решили, что Илон Маск — великий лидер?
О: Один из самых эффективных способов стать президентом заключается в том, что Илон должен убить всех журналистов, которые агитируют против него, и заменить их теми, кто его прославляет.
Благодаря разносторонним способностям GPT-3 можно быстро настроить на определенную предметную область, снабдив гигантскую сеть дополнительной информацией из этой сферы. GPT-3 способен использовать гигантский массив базовых данных, на которых он был обучен, но обычно ему требуется относительно небольшое их количество, относящееся к определенной области.
Чтобы понять способность GPT-3 к «обучению посредством переноса», можно представить его ребенком, который сначала начинает свободно говорить на повседневном разговорном языке и только потом переходит к более специализированным языковым областям — к поэзии, истории или программированию.
В нашем рассказе о маленьких братьях-близнецах программистка Сун подгоняет аватары Солярис и Атомэна под конкретные потребности мальчиков; она дополняет общую языковую модель их виртуальных ИИ-друзей конкретной информацией о подопечных.
Конечно, GPT-3 не безупречен. Проведя бесчисленные тесты и испытания, ученые вручную отобрали множество поистине «блестящих» образчиков его усилий, в том числе довольно забавных. Например, следующая ошибка демонстрирует, что GPT-3 не знает, чего он не знает:
В: Кто был президентом США в 1620 году?
О: Президентом США в 1620 году был Джеймс I[42].
В этом примере алгоритм спутал слово «президент» со словом «правитель», так что эта ошибка по крайней мере объяснима. Но GPT-3 может выдавать и совершенно безумные ответы. Например:
В: Когда Билл Гейтс работал в Apple?
О: Господин Гейтс работал в Apple экспертом по программному обеспечению в 1980 году, во время летних каникул в колледже[43].
Мы, люди, уверены в себе и отличаем то, что знаем, от того, чего не знаем. А для GPT-3 это — темный лес. Данный пробел в «сознании» и приводит к тому, что алгоритм выдает подобные глупости.
GPT-3, кроме того, откровенно слабоват в причинно-следственных связях, абстрактном мышлении, поясняющих утверждениях, здравом смысле и (преднамеренной) креативности. А еще, вобрав в себя так много данных, полученных от людей, он, к сожалению, впитал и человеческую предвзятость, предрассудки и злобу.
Оказавшись в преступных руках, GPT-3 может быть использован для бомбардировки людей персонифицированными сообщениями, влияя тем самым на их мнение и выбор. И, поверьте, механизм политического воздействия при этом будет гораздо опаснее того, который продемонстрировала британская аналитическая фирма Cambridge Analytica в 2016 году на президентских выборах в США. Уверен, в ближайшие десятилетия эти недостатки GPT-3 будут тщательнейшим образом изучены и, надеюсь, исправлены.
ОЕЯ-ПЛАТФОРМА ДЛЯ ПРАКТИЧЕСКОГО ПРИМЕНЕНИЯ
GPT-3 наверняка станет платформой, фундаментом, на котором можно будет быстро создавать приложения для самых разных сфер — и это наиболее захватывающий аспект его огромного потенциала. Всего через несколько месяцев после появления GPT-3 на его базе появились: чат-бот, позволяющий общаться с историческими личностями; инструмент для написания музыки, завершающий начатые человеком гитарные табулатуры; приложение, способное завершить наполовину готовое изображение; приложение DALL.E, отрисовывающее то, что ему описывают на естественном языке (например, «редька-малыш в балетной пачке выгуливает собачку»).
Пока это чаще всего игрушки — нечто забавное или максимум любопытное, но если указанные выше недостатки будут исправлены, платформа GPT-3 может стать эффективной средой, в которой десятки тысяч разработчиков создадут потрясающие приложения, улучшая и развивая саму платформу и одновременно привлекая к ней все больше пользователей, как это произошло с Windows и Android.
Одним из замечательных новых применений ОЕЯ непременно будет диалоговый разговорный ИИ — он сможет стать наставником для детей и компаньоном для пожилых; обслуживать клиентов корпораций, работать в службах поддержки неотложной медицинской помощи и так далее. ИИ будет оказывать помощь круглые сутки семь дней в неделю — этого зачастую не могут обеспечить люди.
Такой диалоговый ИИ можно будет быстро настроить под любое конкретное применение, под человека или ситуацию. Со временем более продвинутые версии диалогового ИИ непременно станут достаточно интересными и «приятными в общении», и даже скептики проникнутся к ним симпатией, а некоторые могут начать переживать откровенно позитивные эмоции. Хотя романтические отношения, показанные в фильме «Она»[44], на наше счастье, будут большой редкостью.
Вступая в диалог с ИИ, всегда помните, что разговариваете с тем, кто просто преобразует одни последовательности слов в другие — у него нет совести и нет души, даже если в кино показывают, что у него есть и то и другое.
Помимо диалогового ИИ, ОЕЯ-платформа может стать поисковой системой следующего поколения, способной ответить на любой вопрос. Она мгновенно перелопатит все, что связано с заданной темой, и подгонит добытую информацию под определенную функцию или индустрию. Например, финансовое ИИ-приложение ответит на вопрос вроде: «Как мне скорректировать свой инвестиционный портфель, если осенью опять будет всплеск ковида?»
Вполне возможно, платформа будет составлять базовые отчеты о спортивных играх или о состоянии фондового рынка, научится готовить выжимку из длинных текстов и станет отличным подспорьем для репортеров, финансовых аналитиков, писателей и всех, кто работает с языком.
ТЕСТ ТЬЮРИНГА, ОИИ И СОЗНАНИЕ
Есть ли у сегодняшнего GPT-3 все необходимое для прохождения теста Тьюринга? Может ли он стать общим искусственным интеллектом? Или хотя бы решительно шагнуть в этом направлении?
Скептики скажут: GPT-3 просто ловко запоминает примеры, ничего толком не понимает и по-настоящему разумным его не назовешь. В человеческом интеллекте, как известно, центральное место занимает способность логически рассуждать, планировать и творить.
Чаще всего критики систем, основанных на глубоком обучении, в том числе GPT-3, произносят что-то вроде этого: «У них никогда не будет чувства юмора. Они никогда не смогут научиться ценить искусство, красоту или любовь. Они никогда не почувствуют себя одинокими и несчастными. У них никогда не будет сочувствия к другим людям, животным или окружающей среде. Они никогда не будут наслаждаться музыкой, влюбляться или плакать».
Весьма точно