интеллект существенно превзойдет человеческий, мы получим от него потрясающие механизмы борьбы со страданиями и реализации человеческого потенциала. Системы на искусственном сверхинтеллекте глубоко поймут Вселенную, превратятся во всеведущих оракулов, станут отвечать на самые мучительные вопросы и находить гениальные решения проблем. Кто-то даже полагает, что нам придется стать киборгами и объединиться со всемогущим ИИ — а иначе Homo sapiens исчезнет как биологический вид.
Но такой оптимизм разделяют не все. В лагере сторонников сингулярной антиутопии в числе прочих можно увидеть Илона Маска, который назвал искусственный сверхинтеллект «величайшим риском для нашей цивилизации», сравнив его создание с «призывом демона». Эта группа предупреждает, что когда люди создают самосовершенствующийся искусственный интеллект, рядом с которым меркнет наш собственный разум, то это изобретение захочет контролировать своего создателя или как минимум отстранить от дел.
Так куда же — к киборгам или к машинам-повелителям — свернет сингулярность к 2045 году? По моему мнению, оба варианты сомнительны. Концепция сингулярности основана на предположении, что экспоненциальный рост ИИ приведет к появлению сверхинтеллекта. Я согласен: вычислительная мощь ИИ выросла экспоненциально, и это несомненно. Но количество в нашем случает не перейдет в качество само по себе.
Для качественного скачка нам понадобятся новые научные прорывы наподобие глубокого обучения. Представим только: при сегодняшнем уровне компьютерных мощностей отсутствует глубокое обучение. Да отрасль искусственного интеллекта просто бы не зародилась!
Чтобы в будущем появился сверхинтеллект, нам необходимы дальнейшие открытия. Например, придется выяснить, как эффективно смоделировать творчество в искусстве и науках. Или как устроено стратегическое мышление — умение рассуждать, контрфактуальное мышление[167]. Как насчет сочувствия, эмпатии и человеческого доверия? А осознанность и связанные с ней потребности, желания и эмоции?
Без всех этих способностей ИИ не станет вровень даже с человеком, не говоря уже о боге или демоне. Возьмем осознанность: мы не только не можем построить осознанный ИИ, но и не понимаем, какие физиологические механизмы обеспечивают человеческую осознанность.
Возможны ли перечисленные научные прорывы? Не исключено, что однажды мы приблизимся к ним — но это будет непросто и нескоро. Можно сказать, за 65 лет истории ИИ качественный скачок произошел лишь однажды — это было глубокое обучение. А чтобы получить сверхинтеллект, нам нужен по меньшей мере десяток таких революционных преобразований. И едва ли они произойдут за какие-то два десятка лет.
ИСТОРИЯ ИИ: СЧАСТЛИВЫЙ ФИНАЛ?
В этой книге мы увидели, как искусственный интеллект отворяет человечеству двери в лучезарное будущее. Он создаст невероятные ценности, многократно увеличит наши возможности благодаря симбиозу человека и машины, усовершенствует наши рабочие процессы, улучшит сферу досуга, игр и общения, избавит нас от однообразных занятий и, как мы увидели в последней главе, приведет нас в эпоху изобилия.
В то же время ИИ принесет с собой множество новых проблем и даже угроз: зашитые в алгоритмы предубеждения, дипфейки, нарушения конфиденциальности и утечки персональных данных, автономное оружие, вынужденная смена профессии или даже потеря работы. Но это проблемы не искусственного интеллекта, их создали люди — по небрежности, недостаточной информированности или злому умыслу.
В десяти историях, собранных здесь, эти проблемы удалось разрешить благодаря человеческой изобретательности, творчеству, стойкости, мудрости, смелости, сочувствию и любви. В каждом рассказе ключевую роль сыграли присущие нам, людям, чувство справедливости, способность учиться, дерзкий полет мысли и вера в человеческую свободу выбора.
В истории искусственного интеллекта мы не будем пассивными зрителями — напротив, мы ее авторы. Ценности, которые мы вкладываем в свои представления об ИИ, станут самосбывающимися пророчествами. Уверовав, что расширение возможностей искусственного интеллекта превратит нас в «бесполезный класс», мы сами лишим себя любого шанса на адаптацию к новой реальности.
Если же мы удовлетворимся дарами эпохи изобилия и перестанем развивать свой разум и взаимоотношения друг с другом, то прекратим эволюционировать как вид. А если мы впадем в уныние и опустим руки перед перспективой сингулярности, то сами загоним себя в ловушку отчаяния — и неважно, придет сингулярность или нет.
С другой стороны, мы можем с благодарностью отнестись к тому, что с нас сняли нагрузку рутинных задач и освободили от гнета нищеты и голода. Мы можем ценить и беречь нашу свободную волю (которой не обладает искусственный интеллект). Мы можем смотреть на симбиоз человека с ИИ и верить, что от него родится что-то принципиально новое. И тогда у нас появится стимул направить прогресс в нужную нам сторону: задавать ИИ ту форму, которая идеально дополнит человека, позволит нам «смело идти туда, где никто еще не был».
С помощью ИИ мы исследуем новые миры, но, что еще важнее, мы исследуем самих себя. Он подарит нам комфортную жизнь и чувство безопасности, чтобы у нас были силы на близкие отношения с людьми и самореализацию. Он уменьшит наши страхи, тщеславие и жадность, поможет сконцентрироваться на более высоких человеческих потребностях и желаниях.
Он возьмет на себя бытовую нагрузку и производственную рутину, заставит нас искать ответы на вопросы, что делает нас людьми и какой должна быть судьба человечества. В итоге мы напишем не просто историю искусственного интеллекта — мы напишем нашу собственную историю.
И если мы научимся держать равновесие между технологическими достижениями и обществом, то этот баланс, без сомнения, станет величайшим достижением в истории человечества.
Благодарности
Эта книга появилась по счастливому стечению обстоятельств. Нас, авторов, свели Линь Цилин и Анита Хуан. У них возникла идея выпустить книгу в жанре научной фантастики, которая совмещала бы художественный вымысел и популяризацию науки, ради того чтобы исследовать будущее.
Вскоре Кай-Фу встретился с Маркусом Доле, главой издательства Penguin Random House, — следом за неожиданным знакомством с Лори Эрламом на одной конференции. Маркус сразу же загорелся идеей книги и познакомил нас с потрясающими Дэвидом Дрейком и Полом Уитлэтчем из издательства Crown, входящего в Penguin Random House.
На этом удачные совпадения не закончились: Кай-Фу и Лори выкроили время и пересеклись с Дэвидом и Полом в Нью-Йорке — как раз перед тем, как закрыли границы из-за пандемии. И наконец, вынужденно сидя по домам в 2020 году, мы смогли в тишине и уединении закончить книгу, затратив на этот титанический труд всего лишь год.
Из счастливых случайностей складываются новые возможности, но только люди могут реализовать этот потенциал. Мы глубоко признательны Цилин, Аните, Маркусу, Дэвиду и Полу за их творческий подход, энтузиазм и тщательность, благодаря которым эта книга увидела свет. Кроме того, мы хотим поблагодарить других сотрудников издательств Crown и Currency, включая Кэти Берри, Джиллиан Блейк, Эннсли Роснер, Дайану Мессина, Джулию Сеплер, Эмили Хоталинг, Сару Брейвогел, Роберта Сиека, Эдвина Васкеса, Мишель Джузеффи, Дженнифер Бак, Салли Франклин и Эллисон Фокс.
Создание этой книги потребовало гигантских