Цифровой гроссмейстер проникнет в мысли любого человека

Создатели научно-фантастических произведений неспроста изображают роботов (или программы) - шахматистов, со временем превратившихся в опасных врагов человечества. Конечно, такой сюжет сам по себе нереален по той простой причине, что машина не обладает сознанием и может лишь реагировать на стимулы, а также не оперирует сложными абстракциями и моралью. Однако шахматы - это очень непростая игра, требующая высокой концентрации и логики, а также умения тщательно просчитывать ходы наперёд и вырабатывать стратегию и тактику исходя из стиля принятия решений противника.

Как известно, у каждого гроссмейстера свой неповторимый стиль игры. К примеру, знаменитый американец Роберт (Бобби) Фишер, благодаря которому шахматы превратились в престижный вид спорта и внедрились в массы, предпочитал как можно быстрее загнать противника в угол, не оставляя тому ни единого шанса на развитие контригры (т.е. перехватить инициативу). И при атаке (игра белыми фигурами), и при защите (игра чёрными) Фишер практиковал стремительные дебюты и применял агрессивную тактику, постоянно комбинировал абсолютно разные стили игры в течение каждой партии, тем самым запутывая противника и морально давя на него.

А советский гроссмейстер Анатолий Карпов, в 1974 году бросивший вызов Фишеру и в итоге ставший чемпионом мира, всегда вёл партии иначе - медленно, но методично «душил» противника, накапливая в ходе игры позиционное преимущество благодаря потрясающей технике и сильной интуиции. Наш чемпион Сергей Карякин особенно силён в игре чёрными фигурами, за что получил прозвище «Министр обороны», и ведёт очень динамичную игру, за счёт чего имеет преимущество в блиц-партии.

Поймай меня, если сможешь

Для того, чтобы продемонстрировать индивидуальный стиль, не обязательно быть профессиональным гроссмейстером. Подтверждением тому стал эксперимент, проведённый исследователями из Университета Торонто, Корнеллского университета и Microsoft Research. Они разработали специальную программу, распознающую игрока на популярном сервере Lichess на фоне партий тысяч других любителей шахмат по его игре. По сути каждый игрок, на каком уровне он бы ни играл, уникален, а его стиль - всё равно что отпечатки пальцев. В ходе обучения нейросети учёные использовали метод машинного обучения - они взяли записи партий игроков, сыгравших на Lichess не менее тысячи раз, и отобрали из этих партий последовательности до 32 ходов. Каждый ход (смену позиции) они кодировали в виде чисел, а затем вводили данные в нейросеть. В свою очередь, нейронная сеть представляла игру как точку в многомерном пространстве, а все партии шахматиста - как скопление этих самых точек (кластеры).

Задачей цифрового гроссмейстера было максимальное увеличение плотности кластера каждого игрока, а также расстояния между кластерами разных игроков. По мере того, как ходы партий сходились в кластеры, программа научилась распознавать индивидуальный стиль каждого отдельно взятого игрока и подмечать самые незначительные особенности его игры, даже если тот любитель.

Не секрет, что игра в шахматы - это один из бесчисленного множества примеров, показывающих, что каждый человек мыслит по-своему, а значит - и обладает характерными только для него цепочками действий. Таким образом у нейронных сетей появляется возможность не только выявлять маскирующегося оппонента в игре, но и идентифицировать людей по манере вождения (сейчас для этого используются распознавание лица водителя и номера автомобиля и нахождение совпадений в базе данных), а также по времени и месту использования электронных устройств. Словом, в результате может появиться некое подобие фантастической программы «Мастер-контроль», способной раскрыть определённого человека, даже если тот применяет чужие данные для входа в систему на том же компьютере, который используется настоящим владельцем логина и пароля, и действовать в соответствии с его намерениями, которые, опять же, отражаются в его поведении в системе.

Может ли машина вывести человека на чистую воду?

Ввиду того, что и любое государство, и корпорации стремятся к максимальной прозрачности персональных данных пользователей, становится очевидным, что по сравнению с этим натаскивание нейросети на онлайн-игры - это ещё только цветочки.

Так, составители программы уже выразили обеспокоенность по поводу соблюдения этики - ведь их изобретение может использоваться не только для ловли преступников, но и для выслеживания и преследования теми же преступниками безобидных пользователей, желающих сохранять анонимность в Сети.

Теоретически машинное обучение позволит нейросетям находить отдельно взятого пользователя в обход прокси-серверов - как уже упоминалось ранее, каждый человек действует по-своему. Однако на практике в случае применения тех же операций, что и на Lichess, означает исследование огромной выборки цифровых следов, которые оставляет каждый из миллионов пользователей хотя бы в течение нескольких месяцев, а затем и отслеживание каждого из уже изученных «лабораторных кроликов». Помимо прочего, возникает ещё одна проблема: большинство сайтов, на которые в течение каждого дня заходит пользователь, не обмениваются между собой сведениями об этих посещениях, из-за чего нет возможности сплести некое подобие цифровой паутины вокруг каждого человека.

Единственное исключение - мегаплощадки с большой аудиторией вроде Meta (признана в России экстремистской организацией и запрещена), но, опять же, отслеживание пользователей возможно сугубо в пределах их экосистемы. Альтернативный вариант - публичные онлайн-игры, где каждый пользователь либо меняет локации, либо (как в случае с шахматным сервером) разыгрывает новые партии. Так, на платформе Steam специалисты из Ааленского университета в Германии исследовали поведенческие данные 700 тыс. игроков в 3,3 тыс. игр. Поскольку в любой игре годами, а то и десятилетиями, «обитают» старожилы, у машины есть возможность использовать этот богатый массив данных и прогнозировать последующие действия каждого игрока.

Две стороны одного кода

Ещё в октябре 2013 года в британском академическом издании Journal of Research in Personality (J Res Pers) была опубликована научная работа, авторы которой доказывают, что основные черты личности сохраняются на протяжении большей части жизни каждого индивида, плюс ядро психики - если только человек не впадает в маразм - остаётся неизменным до конца его дней. Это отражается на мышлении и восприятии человека, а также на его темпераменте. Соответственно, в будущем нейронные сети смогут не только обнаруживать скрытые паттерны поведения, но и воспроизводить их, а оперируя ещё и выборкой из миллионов результатов психологических тестах, нейросети смогут с высокой точностью описать каждого конкретно взятого человека.

К примеру, проект «Машина морали», где человеку предлагается сложный с точки зрения этики выбор, содержит около 40 млн решений людей из более чем 200 стран. Анализируя всю эту информацию в режиме реального времени, специально обученная программа может с высокой вероятностью спрогнозировать пол, возраст, этническую и расовую принадлежность каждого человека и, опять же, рассказать о его личности даже больше, чем он знает сам.

Результаты такого сканирования могут быть полезными в обеспечении безопасности, в медицине (к примеру, выявление склонности к суицидальному поведению «на подлёте», когда даже сам пациент ещё не осознаёт этого), в производстве (каждый работник работает максимально продуктивно, когда он занят делом, к которому имеет склонность и для выполнения которого обладает всеми необходимыми личными качествами) и во многих других областях.

Однако в случае применения таких программ во вред уже намечаются два риска: усложнение мошеннических схем, предполагающих жесточайший шантаж и непрекращающееся преследование жертвы, и психологическая обработка масс, предполагающая тонкое манипулирование их сознанием, а также более тонкое впаривание различных товаров с помощью усовершенствованной контекстной рекламы.

В 2019 году на конференции World Business Forum в Нью-Йорке команда IBM Research представила первый ИИ под кодовым названием Project Debater, способный полноценно и убедительно вести дебаты с людьми на различные темы. Проект был составлен на базе суперкомпьютера IBM Watson, чья скорость вычислений составляет 1 петафлопс (1015 операций в секунду), а инфраструктура включает девяносто серверов IBM Power 750, каждый из которых оснащён восьмиядерным процессором POWER7 (частота 3,5 ГГц, четыре потока на ядро). А компания Google AI обучила модель PaLM (Language Modeling with Pathways) объяснять, почему логическая задача решена ею определённым образом, а также объяснять смысл шуток, которые программа увидела впервые. Таким образом, машины уже начинают распознавать контекст сказанного и при дальнейшем развитии смогут влиять на решения, принимаемые человеком.

Усовершенствование их алгоритмов вовсе не означает появление рефлексии у машины, однако делает её опасным инструментом, если она окажется не в тех руках.