Боевые роботы - грандиозный потенциал и спорные алгоритмы

ИИ «Арматы» может распознавать цели на поле боя и без экипажа

Как сообщила пресс-служба концерна «Уралвагонзавод», в беспилотном режиме тестировался танк Т-14 «Армата». Выполнялись такие задачи, как движение по маршруту и выход на определённую точку для стрельбы, а также автоматический захват целей и их уничтожение.

«Танк Т-14 разработан как экипажная машина, его применение в беспилотном режиме - отдельные специальные задачи», - подчёркивают специалисты.

Тем временем источник РИА Новости в оборонно-промышленном комплексе сообщил агентству, что система управления огнём танка Т-14 «Армата» впервые в истории танкостроения показала на испытаниях способность без участия экипажа находить и распознавать цели на поле боя. По словам неназванного эксперта, система управления огнём (СУО) «Арматы» имеет цифровой каталог с сигнатурами типовых целей поля боя, включая танки, БПМ, вертолёты и так далее. Элементы искусственного интеллекта позволяют бортовым вычислительным средствам машины самостоятельно искать цели на фоне сложной подстилающей поверхности, распознавать их, в том числе по видимой из-за укрытия части объекта, проводить селекцию по приоритету и брать на сопровождение.

При этом, подчеркнул собеседник агентства, решение о поражении по-прежнему принимает человек - командир машины. В других образцах бронетехники, включая иностранные танки, сейчас есть только автомат сопровождения цели, предполагающий, что экипаж находит и выбирает объект для сопровождения вручную.

Один из этапов испытаний СУО танка прошёл на стенде с помощью математических моделей и полунатурных макетов целей, включающих фотоконтрастные образы и матрицы-имитаторы теплового излучения. Также проводились испытания на полигоне, где в роли объектов поиска для «Арматы» выступали образцы российской бронетехники. По итогам всех этапов подтверждено соответствие эффективности системы заявленным боевым характеристикам.

Не единым Т-14 жива роботизированная техника

Эксперты допускают, что вслед за «Арматой» может быть роботизирована, к примеру, боевая машина поддержки танков «Терминатор». Это очень перспективный образец, настоящая гордость отечественного ОПК! «Терминатор» создан с учётом реального боевого опыта. Его основная задача - поддерживать танки и пехоту во время городских боев. Еженедельник «Звезда» уже не раз писал об одной из главных проблем современных танков - в условиях плотной застройки ОБТ сами становятся относительно лёгкой мишенью. А манёвренный и обладающий мощным вооружением «Терминатор» способен эффективно действовать в такой обстановке.

Справка

«Терминатор» - многоцелевая высокозащищённая боевая гусеничная машина огневой поддержки, способная поражать легкобронированные цели. Совместно с войсковой ПВО может вести борьбу с вертолётами и низколетящими малоскоростными самолётами противника. Бронемашина выполнена на шасси Т-72 и вооружена двумя 30-мм автоматическими пушками 2А42, 7,62-мм пулемётом ПКТ. А также четырьмя пусковыми контейнерами для управляемых ракет семейства 9М120 («Атака»).

Западные эксперты считают «Терминатор» не имеющей аналогов разработкой. Журналисты немецкого издания Stern как-то назвали его «бронемашиной на стероидах» и сравнили с футуристической техникой из фильмов о Терминаторе. Сейчас это метафора, но кто знает, что произойдёт через несколько лет…

Роботы и «проблема вагонетки»

Вопрос, однако, в другом. Понятно, что в городском бою довольно сложно найти и идентифицировать цель. Так же понятно, что машинный интеллект (т.е. способность компьютера моделировать и реализовывать различные виды естественной интеллектуальной деятельности человека) выполнит эту работу на порядок быстрей, чем даже самый профессиональный человек-оператор.

Но ведь поиск целей - только половина дела. Самое важное - команда на уничтожение. Можно ли давать компьютеру это право? На этот счёт есть противоположные точки зрения. Возьмём тот же городской бой. Допустим, через свои датчики компьютер роботизированного «Терминатора» «видит» группу вооружённых людей, превративших гражданский объект в узел обороны, а мирных жителей - в живой щит. И пока расчёты ПТРК BGM-71 TOW готовятся обстрелять танковую колонну, компьютер должен принять решение, кому из участников этой драмы жить, а кому умирать. 

В робототехнике есть так называемая «проблема вагонетки». Она формулируется по-разному. В гражданской сфере моделируется, к примеру, ситуация, когда беспечная девочка-пешеход выбегает на дорогу и машинный интеллект беспилотного автомобиля должен решить, сбивать её или, допустим, свернуть в придорожный столб и убить водителя (или вырулить на встречку, рискнув заодно жизнями пассажиров и другой машины). 

Отдельный вопрос - на кого ляжет ответственность за ошибку. Ведь понятно, что возложить ответственность на машинный интеллект не получится, он не субъектен. Вероятно, в этом случае ответственность придётся «размазывать» между программистами, производителями и эксплуатантами, что, в целом, представляется плохим вариантом - вроде как никто конкретно не виноват.

Связку «компьютер - человек» пока не разорвать

В любом случае, по сути мы имеем дело с весьма сложным, до конца не понятым и спорным алгоритмом. А раз так, то пока оператор не сможет в любой момент времени получать полную, детальную и ментально понятную расшифровку причин принятия машинным интеллектом тех или иных решений, вручать компьютеру «лицензию на убийство» нежелательно. С другой стороны, время, потраченное оператором на ревизию ситуации, фактически обнуляет преимущество, полученное из-за быстродействия машинного интеллекта. 

Апологеты машинного интеллекта отметают доводы скептиков. Они, в общем, закономерно утверждают, что человек не совершенен, а в экстремальной обстановке боя его несовершенства проявляются ярче, чем в гражданской жизни. Отсюда решения, которые часто не оптимальны в силу переживаемого психологического стресса и физической усталости. Другое дело машинный интеллект, который не испытывает эмоциональной перегрузки и боли. Он скрупулёзно следует всем протоколам о применении оружия и приказам командования, а потому его решения в целом рациональнее. 

Отключить боевой робот нельзя

Да, здесь существует масса проблем. В частности, проблема предсказуемости. Теоретически противник может узнать о протоколах и действовать не по машинной логике, а по парадоксу, загоняя компьютер в смысловой тупик. Но ведь и самообучающиеся программы могут приходить к совершенно парадоксальным с нашей точки зрения решениям, становясь слабо предсказуемыми.

Ещё одна проблема - «красная кнопка». Боевой робот должен быть отключаем извне, поскольку в противном случае человек рискует потерять над ним контроль из-за, к примеру, программного сбоя. Но наличие «красной кнопки» делает систему весьма уязвимой для противника - робот не человек, чтобы вывести его из строя ещё до боя, индивидуальный подход не нужен, достаточно знать общие недостатки используемой операционной системы - в случае крупносерийного производства есть опасность взлома всей серии. 

В общем, проблем с роботизацией военной сферы уйма, многие принципиальные вопросы ещё толком не сформулированы (как известно, чтобы точно сформулировать вопрос, надо хотя бы в общих чертах знать на него ответ). Однако прогресс не остановить. И это понимают все крупнейшие геополитические игроки. Это видно невооружённым глазом. К примеру, на февральском Международном военно-техническом салоне IDEX 2021, собравшем цвет оборонной промышленности со всего мира, главной темой стала роботизация оборонной промышленности, в частности, системы вооружений с машинным интеллектом. Кстати говоря, в Абу-Даби свои боевые машины, оружие и боеприпасы - всего более 400 образцов - привезли и ведущие российские оборонные предприятия. Так что наша страна не выпадает из тренда. 

А что дальше? Так или иначе, но война будущего будет представлять собой соревнование оборонно-промышленных комплексов по выпуску большего количества качественной боевой робототехники. 

Массовое использование дронов принципиальным образом изменит многовековые представления о войне, её тактику и стратегию, и что ещё хуже, законы и обычаи. По всему выходит, что такой перелом произойдёт уже в ближайшие несколько десятилетий. Именно поэтому российский ОПК всерьёз озаботился роботизацией основных систем вооружений. К технологическому скачку имеет смысл готовиться уже сейчас, несмотря отсутствие «новой этики» - впрочем, для человечества такое положение дел не в диковинку.