ту разницу во власти и те фрустрации, которые возникнут, когда небольшая элита будет управлять машинами, производящими почти все товары и услуги, необходимые экономике[617].
Еще более мрачная картина будущего была представлена в рассказе Э. М. Форстера 1923 г. «Машина останавливается»[618]. Когда автоматическая система доставки продуктов и швейная система начинают ломаться, никто из героев не имеет ни малейшего представления о том, как их починить. В работах о профессиях эта проблема носит название проблемы производственной цепочки: даже если бы могли придумать роботов, способных, к примеру, воспроизвести деятельность современных врачей, маловероятно, чтобы эти роботы могли внести вклад в развитие медицины в целом или предложить инновации и импровизации, как большие, так и малые, являющиеся отличительным признаком хорошего медицинского обеспечения. Эта проблема стоит на пути излишне амбициозной программы роботизации, даже если роботы могут следовать лучшим практикам, сверяясь с ними по проверочному списку. Придуманная реальность Форстера – производительные машины, которыми управляют далекие властители и которые постепенно выходят из строя и становятся ненадежными, – служит яркой иллюстрацией актуальным трендам в автоматизации.
Искусственный интеллект и машинное обучение могут усовершенствовать сектор услуг в разных отношениях, однако такое совершенствование способно завершиться созданием систем, которые будут дороже существующих. Развитие ИИ питается данными, а правильный сбор данных – дело дорогостоящее. Для гарантии того, что повышение качества на базе данных будет соответствовать хорошо задокументированным требованиям алгоритмической отчетности, отсутствия предубеждения, конфиденциальности и уважения к нормам сообщества, требуется труд. Лучший способ избежать безработного будущего – развивать механизмы финансирования и распределения, которые поддерживают высококачественную автоматизацию. Мы должны переименовать эти постоянные расходы в «лечение издержками», которые представляются справедливой оплатой этого труда, снижающего уровни безработицы и в то же время неравенства[619]. Сегодняшние законы слишком часто лишают прав рабочих, поощряя при этом крупные фирмы к концентрации власти. Этот дисбаланс следует устранить[620].
«Вопрос о роботах» сегодня стал таким же насущным, как и в 1960-х гг.[621] Тогда все в основном волновались из-за автоматизации рабочих мест в промышленности. Сегодня основное внимание уделяется компьютеризации услуг[622]. В настоящее время экономисты и инженеры – основной голос в публичных спорах о «восстании роботов». Вопрос о том, должен ли робот выполнять ту или иную работу, решается в рамках относительно простого анализа прибылей и издержек. Если робот может выполнять определенную задачу дешевле работника, значит, он должен его заменить. Этот микроэкономический подход к заполнению рабочих мест отдает приоритет накоплению капитала, а не культивации и развитию демократически управляемых сообществ экспертизы и практики. Поскольку ИИ и роботы играют значительную роль в услугах, но в то же время страдают от таких серьезных проблем, как предубеждение и неточности, подобные сообщества экспертных знаний и навыков – наше главное решение.
Политика автоматизации должна строиться на двух основаниях: все более алгоритмические процессы, скрывающиеся за нашим повседневным опытом, должны стать подотчетными, а гонка вооружений с нулевой суммой в области автоматизации – ограниченной. Когда производительный сектор экономики становится более затратным, итогом может быть прибыль, особенно если это отвлекает ресурсы от секторов, склонных провоцировать непродуктивную гонку вооружений. Замедление автоматизации, которая контролирует, стигматизирует или обманывает невинных людей – важнейшая задача регуляторов XXI в. Нам нужно не просто больше ИИ; нам нужен ИИ более высокого качества, а также больше технологий, направленных на дополнение навыков сотрудников и их дохода. Для этого мы должны выйти за пределы ложной концепции «болезни издержек» и перейти к «лечению издержками», обеспечивая справедливой компенсацией людей, занятых уходом, и других ключевых работников сферы услуг. Когда работники пытаются разобраться с новыми формами подсказок и поддержки, основанными на программном обеспечении и роботах, они заслуживают законы и программы развития, спроектированные для демократизации возможностей производства, автономии и профессионального статуса.
8. Вычислительная мощность и человеческая мудрость
Робототехника может быть средством увеличения возможностей рабочей силы, а не только ее замены. В наших силах направлять развитие ИИ в таких различных областях, как образование, медицина и охрана порядка. Запрос элиты на внедрение искусственного интеллекта следует подчинить социально значимой цели усиления интеллекта (УИ). Общая линия технологического развития не обязана завершиться заменой людей машинами.
Все аргументы, развиваемые в этой книге, не пользуются популярностью среди лидеров корпоративного мира, которые сегодня контролируют большинство важных проектов автоматизации. Также они не слишком сходятся с господствующими экономическими парадигмами. В целом царит узкая концепция эффективности. Если машина может выполнять задачу так, как она определяется сегодня (или выполнять ее хуже, поскольку она искажается и упрощается для ускорения автоматизации), она почти наверняка будет дешевле работника-человека.
Властители идей в сфере бизнеса обычно представляют рабочую силу в качестве одного из факторов производительного процесса, который следует максимально удешевить. Я же в своей трактовке рабочей силы и профессий поставил этот подход под сомнение.
Общества рассматривали определенные группы работников как нечто большее, чем просто вклад в производственные процессы. Это человеческий капитал, в который нужно инвестировать, – таковы доверенные лица, советники-эксперты и умелые ремесленники. Мы обращаемся к ним, чтобы они помогли управлять будущим развитием своих областей. Профессионализация может быть расширена и во многих других областях, что позволит решить кризис рабочих мест, который ошибочно считается естественным следствием развития автоматизации.
Видеть в осмысленном труде издержки, а не прибыли зрелой экономики – это значит проявлять близорукость, свойственную микроэкономике. Такое скудное понятие эффективности подрывает также и разумную макроэкономику, отвергая здравоохранение и образование, которые рассматриваются в качестве паразитов, оттягивающих на себя товары и услуги из других областей. В главе 7 этот нарратив был перевернут, а социальные услуги были представлены в качестве областей, достойных инвестирования. Человеческий контроль над ИИ и роботами в армии и полиции не обязательно влечет экономические помехи или стратегическое отставание. Он, напротив, может быть защитой как от обыденных несчастных случаев, так и от катастрофических просчетов, возникающих в системах автоматического контроля и разрушения.
Такая распространившаяся среди элит микро- и макроэкономическая близорукость легко находит поддержку и в популярной культуре. В бесчисленных фильмах и телевизионных шоу роботы изображаются в виде солдат, полицейских, компаньонов, слуг и даже друзей и любовников. Конечно, некоторые фильмы – суровые предостережения; «Робокоп» и культовый фильм «Роботы-убийцы» – это далеко не пропаганда автоматизации. Однако на более глубоком уровне любое изображение роботов с человеческими знаниями, эмоциями и амбициями стремится приучить аудиторию к мысли о том, что в основе своей люди – это всего лишь паттерны стимулов и реакций, поведения и информации, а потому они могут существовать не только в плотской форме, их можно воспроизвести и путем компьютерного моделирования.