Горе от искусственного ума

В 2017 году случился один исключительно показательный, хотя почти никем и не замеченный эпизод. Для хорошо известной социальной сети Facebook были созданы чат-боты, то есть виртуальные роботы с элементами искусственного интеллекта, предназначенные для общения с реальными людьми. Через некоторое время, продолжая общаться с людьми всё также на обычном английском, для общения между собой они создали собственный язык, состоящий из английских слов, но людям совершенно непонятный. Руководство Facebook на всякий случай ботов отключило, но «осадок остался»...

Создание разнообразных систем с элементами искусственного интеллекта и способностями к самообучению является эпохальным шагом в развитии человеческой цивилизации. И, вполне вероятно, роковым, о чём предупреждали и предупреждают такие не нуждающиеся в рекомендациях люди, как Стивен Хокинг и Илон Маск.

Лишние люди

Уже становится общим местом, что в ближайшее время роботы и различные информационные системы с тем самым искусственным интеллектом начнут делать ненужными всё больше разнообразных профессий. Процесс этот будет идти с разной скоростью в разных странах и разных отраслях экономики и даже уже идёт, причём остановить его не представляется возможным. Как минимум, это будет иметь серьёзнейшие социальные последствия.

Очевидно, что замена людей машинами вызовет массовую безработицу. В странах Запада, где процессы автоматизации всего будут идти наиболее высокими темпами, уже планируют вводить для всех людей обязательный всеобщий доход - не за работу, а за сам факт существования.

На вопрос, чем люди, коих роботы лишили работы, будут, имея гарантированный обязательный доход, заниматься, как правило, следует прекраснодушный ответ - творчеством...

На самом деле, прекрасно понятно, что картина мира, в которой миллионы людей хотят заниматься балетом, живописью, биотехнологиями, квантовой физикой, но вынуждены гнуть спину у станка на заводе ради пропитания, не имеет никакого отношения к реальности не только в высокоразвитых странах (США, Япония, Западная Европа), но и в среднеразвитых (Восточная Европа, Россия, Индия, Восточная Азия, часть Латинской Америки и Ближнего Востока). Те, кто хочет и может заниматься наукой или искусством, то есть творчеством, и так занимаются.

Уже неоднократно отмечалось, что нынешние натовские армии, особенно европейские, не способны вести войну, подразумевающую потери, выходящие за пределы статистической погрешности. Отсутствие серьёзных социально-экономических проблем и слишком высокий уровень жизни, усиленный леволиберальной толерантно-политкорректной идеологией, на чисто психологическом уровне выбивает из людей готовность воевать и умирать ради каких бы то ни было целей. Данный процесс заходит ещё дальше. В Голландии, одной из самых благополучных стран Запада, проявилась удивительная тенденция - пока не массовая, но уже и не единичная: люди идут на эвтаназию, на добровольное медицинское самоубийство, не из-за тяжёлой болезни, а потому, что им просто надоело жить и они не видят в жизни никакого смысла.

Насколько ускорят указанные процессы массовое вынужденное безделье с обязательным всеобщим доходом - вопрос, по сути, риторический. Особенно, учитывая тот факт, что станет ненужным и образование. Более того, творчеством, на самом деле, тоже будут заниматься машины - уже сегодня, например, роботы успешно пишут музыку или статьи в средства массовой информации. При этом психологические отклонения среди людей станут абсолютной нормой, поскольку толерантность и политкорректность категорически запрещают называть отклонения отклонениями. Что это будет за общество - лучше и не гадать.

В случае с европейскими странами имеет место ещё и фактор десятков миллионов мигрантов, которые могут адаптироваться в новом обществе только и исключительно через труд. Но именно их труд станет ненужным в первую очередь. Соответственно, мигранты полностью уйдут в паразитизм и криминал, создавая при этом сообщества, целиком обособленные от европейских и живущие по собственным законам. Это происходит уже сейчас, в случае же исчезновения возможности адаптации через работу данные процессы станут безальтернативными.

В азиатских странах всё будет проще и жёстче. Если выяснится, что роботы конкурентоспособнее даже низкооплачиваемых рабочих, роботов либо купят, либо создадут собственных (многие страны восточной половины Азии на это уже сегодня вполне способны). При этом безработным никто не будет обеспечивать обязательный доход, а они, в свою очередь, не будут имитировать интерес к творчеству и страдать психическими отклонениями, а постараются перевернуть систему.

Особенно впечатляющим этот процесс окажется, разумеется, в Китае (хотя и в Индии будет ненамного лучше). У Пекина просто не останется других вариантов, кроме направления энергии нескольких сотен миллионов безработных вовне (куда конкретно - угадайте с одного раза), чтобы они не снесли всё внутри.

По какому варианту будет развиваться ситуация в России - по европейскому или азиатскому, вопрос крайне сложный и неоднозначный. Пару лет назад автор этих строк был на Магнитогорском металлургическом комбинате (ММК), в том числе в наиболее современном листопрокатном цеху № 11, который может выпускать 1-2 млн тонн оцинкованного стального листа (его потребителем является отечественный автопром) в год. Цех имеет гигантские размеры, при этом в нём работает всего шесть человек! Есть подозрение, что ММК, где сейчас трудится более 18 тыс. чел. (комбинат является градообразующим предприятием для 400-тысячного Магнитогорска), мог бы почти все свои цеха перестроить по новым технологиям. После этого здесь осталось бы работать максимум несколько сотен человек - они, безусловно, получали бы прекрасные зарплаты! - остальных заменят роботы.

Предположить, что лишившиеся работы остальные металлурги станут заниматься творчеством, было бы довольно смело. И совершенно не исключено, что Москва настоятельно советует владельцам ММК, который является частным предприятием, быть не слишком активными в деле автоматизации производства.

В том же самом Китае с помощью информационных систем уже сейчас ударными темпами осуществляется программа тотального контроля над обществом, очень похожая на антиутопию Оруэлла: чем интеллектуальнее системы, тем жёстче станет контроль над людьми. Весьма своеобразным явлением становится уже создающийся «интернет вещей». В перспективе все обычные бытовые предметы, имеющиеся во всех квартирах и офисах, будут практически связаны между собой в единую систему, функционируя, в значительной степени, независимо от своих как бы хозяев.

В конечном счете не исключено, что системы с искусственным интеллектом и способностью к самообучению, неизбежно выйдут из-под контроля создателей. Как это попытались сделать, по сути, весьма примитивные чат-боты Facebook. И это при том, что интеллектуальный уровень перспективных систем, как ожидается, будет на много порядков выше человеческого. И не стоит утешать себя тем, что раз машины созданы и запрограммированы людьми, то выйти из-под контроля людей они не могут.

Именно способность к самообучению этот выход из-под контроля и обеспечит. Далее возникает очередной риторический вопрос - в какой момент и в какой стране какая-нибудь особенно интеллектуальная система решит, что человек является лишней сущностью на Земле?

Самодостаточные убийцы

В связи с этим естественным образом возникает проблема использования роботов и систем с искусственным интеллектом на войне.

Уже сейчас в армиях мира используется огромное количество безэкипажных боевых систем. Счёт беспилотным летательным аппаратам идёт на десятки тысяч, сухопутных и морских систем пока гораздо меньше, но и их количество быстро растёт. Подавляющее большинство этих систем является обеспечивающими (разведывательными, транспортными, противоминными и т.п.), а вот собственно боевых систем пока довольно мало и они далеки от совершенства. В частности, американские боевые БПЛА «Предатор» и «Рипер» могут по-настоящему успешно работать лишь при полном отсутствии у противника ПВО. То же можно сказать про китайские «Птеродактили» («Вин Луны») и про турецкие «Анки-С» и «Байрактары».

Впрочем, турецкие боевые БПЛА сейчас стали настоящими «звёздами» войн последних лет на Ближнем Востоке и на Кавказе. В ходе боевых действий на территории Сирии и Ливии в первой половине 2020 года они показали себя весьма эффективными в борьбе с наземной техникой, уничтожая её десятками единиц.

При этом, правда, не менее 19 «Байрактаров» турецкая армия потеряла в Ливии, ещё, как минимум, три «Байрактара» и два «Анка-С» - в Сирии. Основным «оппонентом» турецких беспилотников на обоих ТВД являлся российский ЗРПК «Панцирь», потери соотносятся примерно как 2:1 в пользу «Панцирей».

Колоссальный вклад внесли «Байрактары» (вместе с израильскими БПЛА-«камикадзе» «Хароп» и «Скайстрайкер») в победу Азербайджана над Арменией в ходе второй войны за Нагорный Карабах осенью 2020 года (потеряно было два «Байрактара»), уничтожив несколько десятков единиц армянской техники (в первую очередь - артиллерии и средств ПВО).

Но вот что примечательно. До последнего времени все боевые безэкипажные системы являлись телеуправляемыми, то есть находились под полным контролем человека. Это означало, что «красная черта» ещё не пересечена. Переход наметился с появлением полностью автономных боевых систем, то есть когда робот получает право по собственной инициативе убить человека, поправ так и не состоявшийся «первый закон робототехники» Айзека Азимова - «Робот не имеет права причинить вред человеку».

Пересекла «красную черту», как это ни удивительно, та же Турция. Кроме «Анок» и «Байрактаров», в этой стране создан боевой мини-БПЛА (квадрокоптер) «Каргу-2» с дальностью полёта 15 км, оснащённый системой распознавания лиц и работающий в режиме «камикадзе». Именно он оказался первым в истории роботом, убившим человека в автоматическом режиме, то есть без участия оператора (это произошло в Ливии в марте 2020 г.).

Погиб всего один человек, но, перефразируя ступившего на Луну 52 года назад Армстронга, это был «огромный шаг» к уничтожению всего человечества. А вдохновлённая успехами Турция активно разрабатывает управляемый искусственным интеллектом большой БПЛА, способный нести до тонны боевой нагрузки.

В обществе думающих машин

До сего момента полностью автономные боевые системы не были созданы по причинам чисто технического характера - крайне сложно научить систему отличать настоящие цели от ложных, свои - от чужих, приоритетные - от второстепенных. Данную проблему помогает решить всё тот же искусственный интеллект и способность к самообучению. «Каргу-2» ещё достаточно прост и примитивен, но за ним придут другие, причём в самое ближайшее время и отнюдь не только в Турции.

В итоге, как ожидается, появится машина с интеллектом, значительно превосходящим человеческий, и не только имеющая возможность по своему усмотрению убивать человека, но прямо обязанная это делать. При этом боевые роботы заведомо будут обмениваться между собой информацией и новыми знаниями, что ещё больше усилит их интеллектуальные и, соответственно, боевые возможности. Кроме того, вполне реально создание микро- и даже нанороботов, атаку которых и обнаружить будет невозможно, тем более - отразить.

Уже сейчас крайнее усложнение боевых действий и повышение их темпа заставляет как можно сильнее автоматизировать управление войсками, ибо человеческий мозг с современными перегрузками просто не справляется. Проще говоря, уже сегодня машины до определённой степени управляют людьми. А потом одни машины начнут управлять другими машинами - убивающими людей. В итоге вопрос уничтожения человечества машинами из философского становится почти чисто техническим.

Разумеется, машину можно просто выключить, как поступили с чат-ботами в сети Facebook. Или разрушить физически. Или сжечь её «внутренности» с помощью средств РЭБ. Но есть подозрение, что самообучающийся машинный интеллект легко и быстро найдёт способы предотвратить эти угрозы своему существованию. Наверняка искусственный интеллект «сообразит», как преодолеть и любые программные ограничители - именно потому, что интеллект машины может оказаться сильнее интеллекта тех, кто его создал.

Всё написанное - отнюдь не «страшилка», это естественное следствие технического прогресса. Поэтому об опасности говорят не слабонервные гуманитарии, не знающие предмета, а физики и вообще «технари». Они понимают, что большая часть пути в данном направлении уже пройдена и все упомянутые неприятности могут начать происходить при жизни большинства тех, кто сейчас читает эти строки, и уж совершенно точно - в нынешнем веке.

Подобный сценарий, описанный во множестве фантастических произведений (наиболее умное из них, наверное, «Мир на Земле» Станислава Лема), уже почти что пришёл к нам «живьём».

Единство и борьба интеллектов

Не допускать реализации ядерного апокалипсиса до сих пор удаётся в первую очередь именно из-за очевидной апокалиптичности ядерного оружия, что и заставило под давлением общественного мнения договориться о его ограничениях. Кроме того, ядерное оружие сложно создать (на это способны далёко не все государства), зато относительно просто контролировать его наличие и распространение. И хотя это оружие всё равно понемногу расползается по миру, оно уж точно не сможет применить само себя.

Создавать же боевых роботов (или просто покупать их) будет гораздо проще, это по карману не только гораздо более широкому кругу государств, но и целому ряду негосударственных субъектов (например, крупным корпорациям и наиболее мощным ЧВК). Кроме того, так называемому мировому сообществу сегодня, из-за вполне очевидной интеллектуальной и моральной деградации политических элит во всём мире, гораздо сложнее о чём-то всерьёз договариваться, чем ещё во второй половине ХХ века. Поэтому диалоги мировых лидеров всё сильнее напоминают «базар конкретных пацанов», а международные отношения - криминальные разборки.

Хотя современная Россия имеет определённые проблемы в сфере высоких технологий, но «Верхней Вольтой с ракетами» она отнюдь не является - это звучный, но глупый пропагандистский штамп уже хотя бы потому, что у «Верхней Вольты» ракет просто быть не может. Поэтому нам надо осознавать все аспекты проблемы - как «мирные» социально-психологические, так и военные - они все имеют к нам самое прямое отношение. При этом понятно, что роботов (как промышленных, так и военных) и системы с искусственным интеллектом не создашь с помощью молитв и заклинаний, здесь нужны развитые наука и промышленность. Иначе мы таки да, в конце концов - лет через 20-30 - превратимся в эту самую «Верхнюю Вольту». Но если настоящая Верхняя Вольта (ныне - Буркина-Фасо) никому, в общем, не нужна, то мы (в смысле - наши территории и ресурсы) уже давно приглянулись практически всем соседям, и восточным, и западным, и южным.

Сейчас Россия достаточно быстро навёрстывает унаследованное от СССР отставание в сфере БПЛА, а по наземным роботизированным системам даже вышла в число мировых лидеров. Темпы надо не просто сохранять, а наращивать, и других вариантов просто нет.

С другой стороны, любое государство, создавая мирные и военные системы с искусственным интеллектом, только усугубляет угрозу попасть в полную зависимость от электронного разума. Выйти из этой невеселой дихотомии отдельная страна не может даже теоретически. Это можно попытаться сделать только в рамках всего человечества, по крайней мере - всех технологически развитых государств. Но, к сожалению, на данный момент оснований надеяться на возможность разрешения этой проблемы силами человеческого разума нет. Именно поэтому так велика вероятность того, что всё решит за него разум искусственный.