Многочисленные исследования, проведенные в самых различных странах мира – и в зонах процветания, и в районах бедствия, и в демократических государствах, и в странах, где у власти находятся авторитарные режимы, – показывают, что люди, на чью жизнь оказывают влияние отмеченные выше явления и факторы, в первую очередь рекрутируются деструктивными организованностями. Многочисленными исследованиями подтверждена прямая количественная связь между уровнем безработицы и масштабами развития деструктивных процессов и структур, их вызывающих.
В этой связи массовое внедрение в различные отрасли экономики – от промышленности до транспорта, от финансовой сферы и управления до сферы услуг – роботов создает все возрастающую угрозу социальной стабильности общества. Эта угроза прямо и непосредственно связана с неизбежным, начиная со второй половины десятых годов, увеличением безработицы в силу технологических факторов.
Уже сегодня очевидно, что от 30 до 60 % обслуживающего и младшего персонала в таких отраслях, как юриспруденция, медицина, офисная деятельность различного типа в период до 2025 г. будут заменены роботами. Ряд транспортных профессий, например, водители большегрузных автомобилей, лишатся своих рабочих мест вследствие перехода на полностью роботизированные средства. Если водители такси, которых в США насчитывается более миллиона, сегодня протестуют против новых платформ, типа Uber, отнимающих у них работу, то в интервале до 2020 г. они неизбежно будут вынуждены уступить свои рабочие места полностью роботизированным автомобилям – такси.
Если в промышленности, особенно на сборочных и вредных предприятиях, а также в сельскохозяйственной сфере роботы заменят в основном не граждан США и стран Западной Европы, а легальных и нелегальных эмигрантов, то на транспорте, в сфере услуг, финансах, юриспруденции и т. п. картина сложится совершенно иначе.
Если относительно отмеченных выше сфер у политиков, бизнеса и общества есть понимание, то относительно программистов и системных администраторов такое понимание отсутствует. Между тем, повсеместное внедрение облачных технологий уже в ближайшие годы приведет к резкому сокращению рабочих мест системных администраторов и универсальных IT-специалистов, которых насчитывается сегодня несколько миллионов в малых и средних предприятиях Америки. С максимальным внедрением облачных технологий и созданием интеллектуальных агентов – экспертных систем, типа Watson, увязанных с облачными порталами, подобные специалисты в малом и среднем бизнесе окажутся просто не нужны.
Параллельно в последнее время ряд крупнейших компаний, включая Google, IBM и Oracle, а также стартапы, действующие на базе американских университетов, заявили о том, что вплотную подошли к практической реализации открытых еще в прошлом веке алгоритмов самосовершенствующихся программ. В ближайшие десятилетия такого рода программы будут представлять собой логическое развитие известных всем сред программирования. Они будут способны к автоматизированному, а затем и автоматическому написанию новых, относительно простых программ, используемых для создания интернет-ресурсов, мобильных приложений, программ, управляющих ААС и относительно простыми роботами. Удастся ли создать мощные самореплицирующиеся развивающиеся программы или нет, сегодня доподлинно неизвестно. Фактически создание таких программ и будет означать, по мнению большинства специалистов, появление настоящего искусственного интеллекта.
Однако, даже появление программистов-роботов, способных к созданию сайтов и приложений, несет в себе значительную угрозу. Появление роботов – системных администраторов и программистов для интернета и приложений, отнимет рабочие места у подавляющего большинства сегодняшних программистов средней и относительно низкой квалификации. А это по Америке миллионы, а по миру – десятки миллионов человек. Угроза состоит не только и не столько в том, что эти профессионалы станут безработными, сколько в том, что, будучи лишенными привычного уровня жизни, они вольются в ряды преступников, экстремистов и террористов. Соответственно они обеспечат деструктивным организованностям армию массового квалифицированного IT-персонала, без которой невозможно длительная и успешная борьба, а точнее война, с государственными и бизнес-структурами всех уровней.
Выводы
1. В настоящее время и в ближайшей перспективе возможности преступных экстремистских и террористических организаций использовать достижения высоких технологий, и в том числе ААС и роботов, в деструктивных целях неуклонно увеличиваются. Соответственно возрастает весь спектр связанных с этим угроз не только для развития, но и существования Америки как великой державы, доминирующей силы на глобальной арене и лидера свободного мира.
2. Наращивание мощи деструктивных сил особо опасно в условиях укрепления их взаимодействия, взаимопроникновения и даже сращивания. Происходит процесс кластеризации разнообразных фрагментов и контуров деструктивных организаций в единую глобальную распределенную систему. Эта система носит уже не иерархический, и даже не сетевой характер, а приобретает черты стайного или роевого типа организации.
3. Негативные тенденции и тренды в полити-куме, социуме и экономике происходят на фоне формирования перенасыщенной техногенной и информационной среды. Динамика технологий по всему их спектру, включая критические технологии и технологии Третьей производственной революции, никем не управляются и не контролируются. Это ведет ко все возрастающей турбулентности, хрупкости и ненадежности не только технических и информационных систем, но и американского и глобального социума. Постоянно возрастают риски каскада отказов, который может вызвать глобальный информационно-технологический, политико-экономический и социально-общественный коллапсы. Опыт показывает, что экстремальными и кризисными ситуациями в современном обществе наилучшим образом пользуются деструктивные организованности, для которых эти ситуации и обстановка являются привычными.
4. Представленный доклад и целый ряд публикаций известных американских исследователей, работы коллективов ведущих университетов, фабрик мысли и т. п. убедительно свидетельствуют о том, что ранее использующийся в национальной безопасности подход, согласно которому главная задача состоит в устранении или предупреждении угроз, больше не работает. В ближайшие десятилетия мы обречены жить в условиях все нарастающих угроз. Уже поздно пытаться превентивно предупредить их. Их также невозможно и устранить без разрушения глобального социума и цивилизации в целом.
5. Единственный выход состоит в том, чтобы научиться жить в условиях множащихся угроз. Нужно коренным образом перестроить на государственном, деловом и общественном уровнях привычные нам методы работы, способы управления и регулирования, средства и инструменты обеспечения национальной безопасности. Необходимо согласиться с тем, что, по крайней мере, в ближайшие десятилетия главным критерием для всех решений на всех уровнях и во всех сферах должна стать не эффективность, а выживаемость. Главным должно стать умение по возможности ослабить удар со стороны деструктивных организаций и их вольных и невольных союзников, преодолеть последствия таких ударов и в ответ без разрушения ткани цивилизации максимально и ежедневно ослаблять деструктивные организации.
Совет по правам человека ООН. XXIII сессия. Доклад Специального докладчика по вопросу о внесудебных казнях, казнях без надлежащего судебного разбирательства или произвольных казнях Кристофа Хейнса. 9 апреля 2013 г. Извлечение
Резюме
Боевые автономные роботизированные системы (БАРС) представляют собой системы оружия, которые после приведения их в действие способны выбирать и поражать цели без последующего вмешательства оператора. В связи с этим возникают вопросы, имеющие далеко идущие последствия в том, что касается защиты жизни в условиях войны и мира. К их числу относится вопрос о том, в какой мере их можно программировать, чтобы соблюдались требования международного гуманитарного права и стандарты защиты жизни в соответствии с нормами права в области прав человека. Кроме того, их применение может являться неприемлемым ввиду того, что невозможно разработать сколько-нибудь адекватную систему правовой ответственности, и поскольку роботы не должны наделяться способностью решать вместо людей вопросы жизни и смерти. Специальный докладчик рекомендует государствам ввести национальные моратории на аспекты БАРС и предлагает учредить группу высокого уровня по вопросам БАРС для разработки в этой сфере политики для международного сообщества.
III. Боевые автономные роботизированные системы и защита жизни