Более предпочтительным, по крайней мере, на ближайшие 2-3 года, представляется использование термина «сложные многофункциональные экспертные системы». Наиболее яркий и известный всем пример подобной системы – это программно-аппаратный комплекс компании IBM Watson. Если в первой своей реинкарнации, продемонстрированной по национальному телевидению, он носил специализированный характер и представлял собой игровую экспертную систему, то затем были созданы специализированные экспертные системы по онкологическим и сердечнососудистым заболеваниям и решению задач помощи линейной полиции в крупных американских городах.
В настоящее время компания IBM, частично приоткрыв Watson через систему API, и представляя разработчикам возможность создавать разно-функциональные и разнопредметные приложения, ведет дело к созданию универсальной экспертной системы. Известно, что такие же работы ведутся в Google, Oracle, Microsoft и др.
Нельзя не отметить, что создание специализированных, а тем более универсальных сложных экспертных систем – это дорогое удовольствие. Известно, что на проект Watson IBM затратило более 2 млрд. долларов. Поэтому IBM уже объявило о том, что начиная с 2017 г. она будет продавать программно-аппаратные комплексы Watson следующих поколений, так же как сегодня продаются мощные сервера и серверные линейки. Законы рынка диктуют, что если одна из компаний приступила к коммерциализации своих разработок, то и другие компании в этой сфере будут стремиться как можно скорее предоставить свои аналогичные изделия платежеспособным потребителям. По прогнозам в ближайшие 3-4 года любое платежеспособное лицо сможет приобрести универсальную, либо сложноспециализированную экспертную систему, как самодостаточный программно-аппаратный комплекс.
Не вызывает сомнений, что располагающие поистине неограниченными финансовыми ресурсами транснациональные преступные группировки, экономически мощные террористические организации, типа Исламского Государства[3], и экстремистские группы, за спиной которых зачастую стоят неответственные государства, сразу же после выхода высокоинтеллектуальных экспертных систем на рынок, заполучат их. Этому дополнительно будет способствовать хорошо отлаженная ныне практика создания различного рода подставных компаний, анонимных трастов, венчурных фондов, специализированных фирм по поглощению разоряющихся компаний и т. п. «Слабый искусственный интеллект» неминуемо до конца десятых годов попадет в руки деструктивных органи-зованностей, что намного увеличит их могущество и возможности.
Угроза использования ААС, робототехники и информационных технологий деструктивными организациями
Расширяющиеся возможности использования деструктивными организациями достижений информационных технологий, плодов Третьей производственной революции, в том числе ААС и робототехники в условиях системного кризиса глобального хозяйства, социума и политикума создают новые неотвратимые угрозы со стороны террористов, преступников и экстремистов.
Детальный анализ с использованием как количественных, так и когнитивных методов позволил выделить наиболее опасные и труднопарируемые угрозы. При этом не ставилась задача их ранжирования. Ранжирование угроз зависит от конкретной ситуации в тот или иной период времени как в глобальных масштабах, так и в разрезе стран и отдельных регионов.
Ослабление карающей силы закона. Развитие высоких технологий, и в частности ААС и робототехники, базирующихся на информационных решениях, с каждым годом все сильнее подрывает действенность закона, его карающую силу, особенно в развитых государствах.
Действенность закона прямо зависит не только от справедливости суда и соразмерности преступления и наказания, но и от неотвратимости карающих мер за те или иные правонарушения. Однако цифры показывают, что уже сегодня, а тем более завтра, у высокотехнологичных, прежде всего компьютерных и робототехнических преступников все больше шансов оставаться безнаказанными.
В первую очередь это связано с недостатками в работе различного рода правоохранительных органов – полиции, контрразведки, антитеррористических подразделений. Согласно независимо подтвержденным цифрам из официальных и неофициальных источников, средний процент раскрываемости преступлений в 2014 г. в медианных по уровню правонарушений районах крупных городов США составлял более 70 %. В то же время процент раскрываемости высокотехнологичных, в своей массе компьютерных, преступлений в этих же городах – около 11 %. Т. е. компьютерный преступник имеет в 7 раз меньше шансов понести наказание за свое правонарушение, чем преступник, если можно так выразиться, традиционный.
Дополнительно есть данные о том, что полиция старается не открывать дела по заявлениям, связанным с компьютерными преступлениями, уговаривая заявителей отказаться от них. В качестве аргумента приводятся соображения, что слишком мало шансов, что преступление будет раскрыто, а преступники наказаны. Согласно экспертным оценкам некоторых действующих и бывших работников полиции крупных американских городов, число непринятых или отозванных заявлений в 2-3 раза превышает число дел, принятых к рассмотрению. С учетом этой цифры оказывается, что у преступников, использующих высокие технологии, включая ААС и робототехнику, почти в 20 раз больше шансов быть непойманным, чем пойманным. Естественно это порождает у преступников уверенность в собственной безопасности и одновременно деморализует правоохранительные органы и общество.
Причин такой ситуации достаточно много. Главными из них являются гораздо худшая оснащенность правоохранительных органов программно-аппаратными средствами, более низкий уровень квалификации в сфере информационных технологий, объективные затруднения, связанные со сбором доказательств, а также юрисдикционный характер деятельности правоохранительных органов в ситуации межрегиональной и трансграничной высокотехнологической преступности.
Вторая причина, ведущая к ослаблению закона, связана с принципиально различной ситуацией в сфере обеспечения безопасности в реальном мире и киберсреде. Как известно, ААС и роботы в подавляющей своей части связаны между собой и с центральными серверами через сеть, в основном – интернет. Также известно, что коммуникационные решения для интернета вещей, в который включаются роботы, отличаются незащищенностью. Они, как правило, базируются на открытых протоколах и слабо защищенной шифрованной связи, которая без труда подвержена взлому. Иными словами, если традиционные бытовые устройства, станки, производственные линии находятся под защитой, будучи отделенными от внешнего пространства физическими препятствиями, то вполне физические объекты, к которым относятся роботы и ААС, могут выполнять свои функции только благодаря наличию у них программного обеспечения и в подавляющем большинстве случаев, внешнего телекоммуникационного канала. А здесь, по сути, никаких препятствий и ограничений не существует. Нельзя требовать соблюдения и исполнения закона в среде, которую нельзя защитить. Это нонсенс.
Любые принимаемые законодателями меры и новые правовые акты, чем дальше, тем больше будут повисать в воздухе, и представлять собой не руководство к действию, а ненужные тексты. Это происходит вследствие того, что в цифровой среде, в отличие от реального мира, не существует технологической инфраструктуры соблюдения закона и обеспечения его действия.
Дело зашло сегодня столь далеко, что даже не подключенные к интернету, а замкнутые на хорошо защищенные корпоративные сети роботы могут стать орудием, а в каком-то смысле и субъектом преступления. В 2014 г. в США было впервые раскрыто преступление, которое с известной долей преувеличения осуществил не человек, а робот. Причем в сфере не физического воздействия, а кражи интеллектуальной собственности. В одной из крупнейших автомобильных корпораций был разработан и испытан принципиально новый вид аккумуляторов, позволяющий преодолеть известное ограничение подзарядки для электромобилей. Вскоре после этого выяснилось, что все патентные документы и конструкторская документация этого ключевого изобретения, которое по оценкам компании могло принести ей несколько миллиардов долларов, оказалась в распоряжении одного из азиатских автопроизводителей. Спустя несколько месяцев в результате цепи случайностей, а не целенаправленного расследования, выяснилось, что преступная группа вступила в сговор с одним из работников компании, производящей элемент управляющего блока роботов, используемых на сборочных линиях автомобильной компании. В аппаратную часть было заложено шпионское программное обеспечение, которое согласно программе было активировано, когда робот был собран из модулей, поставлен в американскую компанию-производитель и приступил к работе. После этого, благодаря роботу, заключенное в нем шпионское программное обеспечение проникло в корпоративную сеть, с которой был соединен робот. В корпоративной сети программное обеспечение распознало файл с нужной документацией. После чего, используя опять же робота, оно активировало второго трояна, который создал уязвимость корпоративной сети изнутри, использованную для отправки нужных файлов преступной группе. Преступная группа передала нужные файлы заказчику – азиатскому автопроизводителю.