С. Применение государствами БАРС во время вооруженного конфликта
63. Следующий вопрос заключается в том, смогут ли БАРС применяться с соблюдением норм МГП. Постольку поскольку ответ на этот вопрос является отрицательным, этот вид оружия должен быть запрещен. Однако, как заявляют сторонники БАРС, это не означает, что БАРС никогда не должны совершать ошибок – мерилом должно являться поведение людей, которые будут принимать решения, что не всегда отвечает самым высоким стандартам[38].
64. Некоторые эксперты говорят, что в некоторых отношениях роботы можно заставить соблюдать требования МГП даже лучше людей[39]. Робототехник Рональд Аркин, например, предложил способы оснащения военных роботов «этическим регулятором», с тем чтобы они удовлетворяли таким требованиям[40].
65. Иного рода соображение состоит в том, что если существует техническая возможность запрограммировать БАРС таким образом, чтобы они соблюдали нормы МГП лучше людей, то тогда, по существу, может иметь место обязательство применять их[41] – точно так же, как некоторые правозащитные группы выдвигают тот довод, что при наличии «умных» бомб лучше применять такие бомбы, а не те, которые имеют не столь избирательное действие.
66. Особое значение в этом контексте имеют правила МГП, касающиеся различения и соразмерности. Правило различения имеет целью минимизировать последствия вооруженного конфликта для гражданского населения за счет запрещения выбора гражданского населения в качестве цели и объекта неизбирательных нападений[42]. В ситуациях, когда БАРС не могут надежно отличать комба-тантов или других участников боевых действий от гражданского населения, их применение должно быть запрещено.
67. Есть ряд факторов, которые, вероятно, будут ограничивать способность БАРС действовать в этом отношении в соответствии с этими правилами, в том числе технологическое несовершенство современных сенсоров[43], неспособность робота понимать контекст и трудность применения языка МГП при определении на практике статуса не-комбатантов, который должен быть преобразован в компьютерную программу[44]. Роботам, например, будет трудно определить, ранен ли человек и не участвует в бою, а также понять, находятся ли солдаты в процессе сдачи в плен.
68. Нынешнее распространение асимметричных военных действий и вооруженных конфликтов немеждународного характера, к тому же в городской обстановке, служит существенным ограничителем способности БАРС отличать гражданское население от законных военных целей. Это особенно справедливо в тех случаях, когда необходимо произвести сложную оценку ситуации для определения, например, «прямого участия в боевых действиях». Эксперты отмечают, что в военных действиях по борьбе с повстанцами и при нетрадиционных методах ведения войны, когда комбатантов можно вычислить только с помощью интерпретации поведения, неспособность БАРС интерпретировать намерения и эмоции будет служить серьезным препятствием для соблюдения правила различения[45].
69. Однако люди необязательно превосходят машины в своей способности проводить различие. В некоторых условиях технология может обеспечивать более высокую степень точности. Например, солдат в ситуации, когда неясно, является ли незнакомое лицо комбатантом или гражданским, может под воздействием инстинкта самосохранения сразу открыть огонь, тогда как робот может использовать иную тактику, чтобы приблизиться, и только когда будет обстрелян, открыть ответный огонь. Следовательно, роботы могут действовать «консервативным образом»[46], и «могут стрелять вторыми»[47]. Кроме того, в некоторых случаях мощные сенсоры и процессорная мощность БАРС могут потенциально рассеивать «туман военных действий» для обычных солдат и предупреждать совершение таких ошибок, которые нередко приводят в вооруженном конфликте к злодеяниям, и тем самым содействовать сохранению жизни людей[48].
70. Правило соразмерности требует, чтобы ущерб, который, как ожидается, будет причинен гражданскому населению, соизмерялся до начала нападения с военным преимуществом, которое предполагается получить в результате операции[49]. Соблюдение этого правила, которое считается «одним из самых сложных правил международного гуманитарного права»[50], в значительной мере зависит от субъективных ценностных оценок и субъективного анализа специфики конкретных обстоятельств.
71. Соответствие нападения правилу соразмерности необходимо определять в каждом конкретном случае в зависимости от специфики условий и с учетом всей совокупности обстоятельств[51]. Военное значение цели, которое определяет степень допустимого сопутствующего ущерба, постоянно меняется и зависит от момента в конфликте. Выражается беспокойство на тот счет, что неограниченность правила соразмерности в сочетании со сложным характером обстоятельств может вылиться в нежелательное и неожиданное поведение БАРС со смертоносными последствиями[52]. Неспособность «конструировать» и контекстуализировать обстановку может иметь следствием решение БАРС начать нападение на основе не только неполного, но и ошибочного понимания обстоятельств[53]. Следует, однако, признать, что это случается и с людьми.
72. Соразмерность, как это широко признается, предполагает необходимость вынесения суждения конкретно человеком. Доминирующие правовые толкования этого правила прямо базируются на таких понятиях, как «здравый смысл», «добросовестность» и «стандарт разумности командира»[54]. Остается только выяснить, в какой мере эти понятия могут быть переведены на язык компьютерных программ сегодня или в будущем.
73. Помимо этого, оценки соразмерности нередко предполагают вынесение суждений скорее качественного, а не количественного плана[55].
74. Ввиду вышеизложенного возникает вопрос о том, смогут ли БАРС во всех случаях (с одной стороны) или же никогда не смогут (с другой) удовлетворять этому совокупному набору стандартов. Ответ на этот вопрос, вероятно, является не столь однозначным в том смысле, что в некоторых случаях они могут удовлетворять ему (как, например, в случае оружейной системы, настроенной только для ведения ответного огня и применения в традиционных боевых условиях), а в других случаях не могут (например, когда гражданское лицо с большим металлическим предметом в руках необходимо отличить от комбатанта в гражданской одежде). Будет ли тогда существовать возможность категоризации различных ситуаций, чтобы можно было запрещать применение БАРС в одних случаях и разрешать в других? Некоторые эксперты утверждают, что, по крайней мере, на начальном этапе определенный анализ таких аспектов, как соразмерность, должен проводиться командирами, тогда как другие аспекты можно оставить на решение БАРС[56].
D. Правовая ответственность за БАРС
75. Индивидуальная ответственность и ответственность государства имеют основополагающее значение для обеспечения ответственности за нарушение норм международного права прав человека и международного гуманитарного права. В отсутствие перспективы понести ответственность действенность факторов сдерживания и предупреждения понижается, что ведет к ухудшению защиты гражданского населения и возможному совершению военных преступлений[57].
76. Роботы неспособны принимать нравственные решения, и как следствие их никаким известным способом невозможно привлечь к ответственности, если они лишают жизни, что обычно влечет за собой уголовную ответственность, если подобные решения принимаются людьми. Кто же тогда должен нести ответственность?
77. Комбинированный характер технологии БАРС и многочисленность уровней, которые, вероятно, будут вовлечены в принятие решений об их применении, выливаются в потенциальное существование пробела, или вакуума ответственности. К числу кандидатов на привлечение к юридической ответственности относятся разработчики программного обеспечения, создатели или продавцы аппаратных компонентов, военные командиры, подчиненные, применяющие эти системы, и политические лидеры.
78. Традиционно уголовная ответственность в первую очередь будет, по-видимому, вменяться военным: ответственность командования следует считать одним из возможных решений проблемы ответственности за нарушения, совершаемые БАРС[58]. Поскольку командир может нести ответственность за самостоятельные действия подчиненного лица, вменение ответственности командиру за действия автономного робота может служить аналогией. Однако уголовная ответственность командования традиционно вменяется только тогда, когда командир знал или должен был знать, что подчиненное ему лицо планировало совершить преступление, и не принял мер для его предотвращения либо в случае его совершения не принял мер для наказания виновного[59]. Важно будет установить, в частности, будут ли командиры в состоянии достаточно хорошо понимать сложный характер программирования БАРС, чтобы их можно было привлекать к уголовной ответственности.