ЦАХАЛ: убийца с искусственным интеллектом

Огнем и «мечом»

Операция ЦАХАЛ «Железные мечи» против группировки ХАМАС уже стала самой продолжительной в истории Израиля. И самой кровавой. В результате боевых действий погибло более 40 тысяч мирных жителей - примерно 2% от довоенного населения Газы, ещё около 93 тысяч получили ранения разной степени тяжести.

Официальные потери Израиля: 904 убитых мирных жителя и 702 военнослужащих, ранено более 13 тысяч человек. При этом газета The New York Times, ссылаясь на высокопоставленных американских чиновников, утверждает, что Израиль добился всего, на что был способен в военном плане. Разрушил или захватил важнейшие подземные маршруты ХАМАС для переправки оружия и продовольствия из Египта в Газу. Около 14 тысяч комбатантов в Газе, по заявлениям израильских военных, были убиты или взяты в плен. В ЦАХАЛ также утверждают, что они ликвидировали половину руководства «Бригад Кассама» - военного крыла ХАМАС, включая высших руководителей Мухаммеда Дейфа и Марвана Иссу.

Однако эксперты, приглашённые CNN, проанализировали 16 из 24 батальонов ХАМАС, действующих на севере сектора Газа, и получили несколько иные результаты. По их оценкам, ЦАХАЛ удалось уничтожить только 2 бригады, 9 понесли значительные потери, но 7 уже пополняются, а 5 батальонов вообще не понесли серьёзного ущерба и в полном составе воюют с самого начала конфликта.

В то же время одна из важнейших целей Израиля - возвращение примерно 115 заложников, которые всё еще удерживаются в Газе, по всей видимости, не может быть достигнута военным путём. Например, по мнению действующих и бывших американских и израильских чиновников, продолжающиеся бомбардировки не только увеличивают риски для гражданского населения, но и для заложников, о судьбах которых так печётся Тель-Авив. Кстати, по отчёту спутникового центра ООН UNOSAT, в секторе Газа в разной степени разрушены 18% зданий.

Однако, вероятно, это довольно оптимистичные данные. Жертв и разрушений в анклаве значительно больше. Почему же так произошло?

«Евангелие», «Алхимик», «Лаванда»

Отметим, что бороться с ХАМАС израильтяне предполагали по науке. В этом плане стоит обратить внимание на сообщение портала Israel Defense от 14 февраля 2023 года. Ещё за восемь месяцев до атаки ХАМАС на Израиль, на конференции AI Week в Тель-Авивском университете, глава Центра искусственного интеллекта подразделения 8200, полковник израильской армии Йоав рассказал, что создана программа ИИ, которая может находить опасных террористов на основе списка, введённого в систему. «Этот процесс выполняется за считанные секунды, на что в прошлом у сотен специалистов ушло бы несколько недель», - утверждал полковник.

Он же сообщил, что во время операции «Страж стен», которая проходила в мае 2021 года, ЦАХАЛ смог идентифицировать командиров ракетных и противотанковых подразделений ХАМАС, действовавших на территории сектора Газа. Якобы программа ИИ смогла найти террористов среди огромного числа людей и передать эту информацию следователям Разведывательного отдела.

Отмечается, что именно искусственный интеллект помог определить ЦАХАЛ 200 новых целей. Кроме того, уже непосредственно в ходе операции «Страж стен» подразделение 8200 смогло модифицировать инструменты и приёмы работы программы ИИ примерно 150 раз. Это вдобавок к системам «Евангелие» и «Алхимик», якобы позволяющим вырабатывать точные целеуказания для ударов по террористам.

В 2024 году британская газета The Guardian, ссылаясь на источник в израильской разведке, сообщила, что Армия обороны Израиля (ЦАХАЛ) использовала программу «Лаванда». Эта программа позволяла вычислять местоположения потенциальных членов ХАМАС и предоставлять целеуказания для авиаударов. Таких эпизодов отмечено не менее 37 тысяч.

Просто статистика

Полноценное расследование о применении ИИ «Лаванда» было проведено израильским журналистом Ювалем Абрахамом, который установил, что на ранних этапах операции «Железные мечи» военные ЦАХАЛ безоговорочно доверяли искусственному интеллекту определение целей в секторе Газа. Один из источников заявил, что военный персонал часто выступал в роли «штампа для подтверждения решений принятых "Лавандой"», и на это в каждом случае уходило около 20 секунд. Прежде чем дать разрешение на авиаудар, необходимо было убедиться, что отмеченная цель - это мужчина, поскольку в рядах военного крыла ХАМАС и джихадистов женщин нет. Однако всем было известно, что программа может ошибаться примерно в 10% случаев, а то и чаще. Кроме того, человек, попавший в поле зрения искусственного интеллекта, мог вообще не иметь отношения к ХАМАС.

Но для ЦАХАЛ это оказалось не так важно. «В статистическом подходе есть что-то, что ведёт вас в соответствии с определёнными нормами. В ходе этой операции было совершенно нелогичное количество ударов. На моей памяти это беспрецедентно. И я гораздо больше доверяю в определении целей статистическому подходу, чем солдату, потерявшему друга два дня назад. Все там, включая меня, потеряли людей 7 октября. А машина всё делала хладнокровно. И это упростило задачу», - рассказал один из израильских военных.

Раньше израильским военным приходилось получать разрешение на ликвидацию человека, который, по их мнению, являлся высокопоставленным членом военного крыла ХАМАС. Для этого нужно было пройти сложный и долгий процесс согласования. Необходимо было установить точное местонахождение этого человека и определить момент, когда он окажется в зоне досягаемости для атаки. Но спустя две недели после начала войны было дано разрешение на уничтожение ещё и рядовых боевиков ХАМАС, и времени для стандартных процедур принятия решения уже не хватало.

Поэтому было решено, что указания «Лаванды» будут приниматься к исполнению без дополнительной проверки. Из-за этого в число «ошибок» ЦАХАЛ попали и те, у кого было такое же имя, как у боевика ХАМАС. Или у жертвы оказывался мобильный телефон с похожим номером. Более того, ЦАХАЛ предпочитал наносить удары, когда потенциальная цель находилась дома, а ещё лучше - ночью в постели. Естественно, при этом страдали и домочадцы.

На сегодняшний день программа «Лаванда» обладает информацией о значительной части населения сектора Газа, насчитывающего 2,3 миллиона человек. Используя эту информацию, программа определяет, насколько каждый отдельный палестинец может быть связан с военным крылом ХАМАС. Для этого есть различный набор параметров, например, нахождение в одном чате с известным боевиком, соответствующие контакты в социальных сетях, частая смена мобильного телефона или адреса проживания. По некоторым данным, искусственный интеллект присвоил почти каждому жителю Газы рейтинг от 1 до 100, который отражает вероятность того, что он может быть боевиком.

А вот учёт домов, строений, стратегических предприятий, которые использовались ХАМАС, ведётся в программе «Евангелие», но как часто эта программа допускает ошибки, не сообщается. Видимо, изрядно, учитывая, сколько школ и госпиталей попало под обстрелы.

Порог человечности

Кроме того, как пояснили источники в израильской разведке, когда дело дошло до нанесения ударов по рядовым боевикам ХАМАС, которых выбрала «Лаванда», израильское командование предпочло использовать только неуправляемые бомбы, отказавшись от высокоточных боеприпасов. «Мы не хотим тратить дорогие бомбы на незначительных людей - это очень дорого для страны, и простых бомб не хватает», - заявили в израильской разведке.

Что касается «сопутствующего ущерба», то в первые недели войны на каждого рядового боевика ХАМАС, определённого «Лавандой», допускалась гибель до двадцати мирных жителей, хотя до событий 7 октября 2023 года ничего подобного не было, ни о каком «сопутствующем ущербе» речь никогда не шла. Но теперь это реальность. Если цель - высокопоставленный чиновник ХАМАС в звании командира батальона или бригады, то даже гибель ста тысяч мирных жителей считается допустимой.

Прежде израильская разведка проводила процедуры оценки ущерба после так называемых точечных авиаударов - чтобы узнать, поражена ли цель и сколько мирных жителей при этом погибло. Но после 7 октября 2023 года условности были отменены, поэтому источники в израильской разведке сообщают, что они не в курсе, сколько мирных жителей на самом деле гибнет после каждого удара и поражена ли вообще «цель» - тот самый рядовой боевик ХАМАС.

«Было очень удивительно, что нас попросили разбомбить дом, чтобы убить пехотинца ХАМАС, важность которого в боевых действиях была слишком низкой, - рассказывают в ЦАХАЛ. - Мы называем такие цели "мусорными целями"».

После того как израильская армия вошла на север сектора Газа, количество целей, выявленных «Лавандой», там сократилось, так как многие стали уходить на юг. Поэтому рейтинг причастности к ХАМАС для выработки целеуказаний был снижен. После чего «Лаванда» стала вносить в список потенциальных целей даже несовершеннолетних.

ИИ думает за вас

Стоит сказать, что после публикации разоблачительной статьи редакция The Guardian получила официальный ответ, где говорилось, что некоторая информация, изложенная в статье, абсолютно беспочвенна, а другая отражает неправильное понимание директив ЦАХАЛ. Сообщалось, что ЦАХАЛ наносит удары только «по военным объектам и боевикам в соответствии с правилами пропорциональности и предосторожностями». А исключительные инциденты подвергаются тщательному изучению и расследованию, так как ХАМАС «систематически использует гражданское население в качестве живого щита и ведёт боевые действия внутри гражданских зданий, включая жилые дома, больницы, мечети, школы и объекты ООН».

Кроме того, по утверждению ЦАХАЛ, Израиль не применяет систему искусственного интеллекта для выявления боевиков-террористов. Дескать, существует лишь база данных, которая используется аналитиками разведки, и инструменты искусственного интеллекта для идентификации целей, «которая осуществляется сугубо в индивидуальном порядке».

Вполне очевидно, что прямые доказательства существования «Лаванды» мир получит не скоро. Однако косвенные доказательства в виде неосторожных заявлений главы Центра искусственного интеллекта ЦАХАЛ и верифицированные The Guardian результаты журналистского расследования Юваля Абрахама уже получили огласку, и с этим ничего не поделать, хотя израильтяне будут упираться всеми руками и ногами.

Но дело даже не в этом, а в разнице между статистикой и человечностью. Действия ЦАХАЛ в секторе Газа показали, что «техническое» применение искусственного интеллекта может привести к катастрофе, особенно если ему доверить решение о применении ядерного оружия.