Искусственный интеллект может полностью поменять облик современной войны, полагает американский военный эксперт Пол Шарр. Он может заменить пилотов боевых самолетов и разработать абсолютно новые тактические приемы и стратегии. Те страны, которые смогут понять и использовать возможности ИИ, получат преимущество перед другими армиями. Рассказываем, как, по мнению ведущего эксперта в области, искусственный интеллект уже может превосходить человека на поле боя и в чем до сих пор отстает.
Кто такой Пол Шарр и почему к его мнению прислушиваются
Пол Шарр (Paul Scharre) — вице-президент и директор по исследованиям Центра новой американской безопасности (CNAS). Некоммерческая организация сотрудничает с американскими военными и правительственными структурами. В частности, в мае 2022 года Центр вместе с Палатой представителей организовывал военную игру, в которой в деталях моделировалось вторжение Китая на Тайвань и участие в этой войне США.
Шарр проходил службу в силах специальных операций США и в этом качестве совершил несколько служебных командировок в Ирак и Афганистан. Затем он работал экспертом в канцелярии министра обороны США, где занимался новыми технологиями, в том числе беспилотными и автономными боевыми системами. Шарр имеет степень доктора военных наук Королевского колледжа Лондона, степень магистра политэкономии и государственной политики и степень бакалавра физики Вашингтонского университета Сент-Луиса.
Также один из руководителей CNAS известен как автор нескольких книг о войнах будущего. Одна из них, «Ничья армия», попала в новогоднюю подборку лучших книг 2018-го от Билла Гейтса. В книге автор показывает, что может произойти, если люди дадут машинам право решать, убивать кого-то на поле боя или сохранять ему жизнь. Вывод, к которому приходит Шарр — люди не должны самоустраняться с поля битвы.
Преимущества ИИ в бою
В новой статье «Нечеловеческое преимущество ИИ», опубликованной на портале War on the Rocks, Пол Шарр оценивает место, которое искусственный интеллект может и должен занять в войнах будущего. Для обоснования своей точки зрения он приводит несколько ярких примеров, в которых отчетливо видны отличия между поведением человека и машины.
Еще в августе 2020 года Минобороны США стало одним из организаторов соревнований между человеком (опытным пилотом истребителя F-16) и искусственным интеллектом компании Heron Systems. ИИ победил со счетом 15:0. Имитации воздушного боя тогда происходили с использованием тренажеров, но конечной целью американских военных стали испытания ИИ на настоящих боевых самолетах.
Описывая «воздушный бой» с участием искусственного интеллекта, пилот-истребитель охарактеризовал его способности как «сверхчеловеческие». Он не просто летал лучше человека — он воевал по-другому. ИИ от Heron Systems использовал в бою приемы, которые запрещены при обучении летчиков из-за риска столкновения, и успевал делать точные выстрелы за доли секунды — в режиме, «почти невозможном» для человека. Что интересно, ИИ не был запрограммирован на такой бой: этой тактике он научился сам.
Преимущества иного разума
Демонстрируя нечеловеческие способности ИИ, Шарр вспомнил матч по го между программой AlphaGo, разработанной британской компанией DeepMind, и одним из лучших мастеров этой игры среди людей корейцем Ли Седолем. На 37-м ходу второй игры матча AlphaGo сделала очень странный ход, который некоторые комментаторы восприняли как ошибку. Ли Седоль был так ошеломлен этим нелогичным с точки зрения человека ходом, что встал из-за стола и вышел из комнаты. В итоге ИИ выиграл тот матч. Как первый и третий.
Долгое время даже сильнейшие компьютерные программы могли играть в го лишь на уровне людей-любителей. Стандартные методы с перебором возможных ходов и позиций, которые программы используют для игры в шахматы, в го не годились. Число возможных комбинаций здесь огромно, и оценить силу каждой возникающей позиции на доске очень сложно.
Чтобы уловить интуитивный аспект игры, создатели AlphaGo использовали нейронные сети. Сначала программу познакомили с многочисленными играми в го между людьми, а затем она тысячи раз играла с разными версиями самой себя, учась на своих же ошибках.
Но в четвертой партии Ли Седоль сделал одновременно неочевидный и блестящий 78-й ход, перевернувший игру, в которой его перспективы выглядели не очень хорошо. Это позволило ему уступить ИИ не в сухую — со счетом по партиям 4:1. По словам одного из создателей AlphaGo, программа предвидела возможность такого хода Ли Седоля. Но, опираясь на тысячи и тысячи сыгранных людьми партий, пришла к выводу, что игрок-человек почти наверняка (с вероятностью 1 к 10 000) походит иначе. AlphaGo слишком хорошо знала, как люди действуют в го, из-за чего и проиграла одну партию из пяти.
Необычный победный ход AlphaGo в третьей партии не был случайностью. Программа играет иначе, чем люди. Она часто проводит несколько атак на разных частях доски, в то время как люди, как правило, сосредотачиваются на одном участке. AlphaGo придумала несколько новых удачных начальных ходов, в том числе таких, которые люди просто не понимают. Эксперты, изучавшие стиль игры программы, описывают ее как «инопланетянина» или гостя «из другого измерения».
Иной взгляд на стратегию
Пол Шарр считает, что стратегические компьютерные игры (такие, как StarCraft II и Dota 2) являются ценными площадками для проверки производительности ИИ. В этих играх противники сражаются за контроль над территорией и ресурсами. Хотя они намного проще реального мира, по сравнению с другими играми компьютерные стратегии заметно сложнее.
Игрок в StarCraft II может выбирать в каждый момент времени из списка, включающего до 1026 возможных действий. Это значит, что общее число возможных комбинаций здесь практически бесконечно. При этом, в отличие от го, часть информации об игровом мире скрыта «туманом войны». Игрокам приходится взаимодействовать с динамичной и постоянно меняющейся средой, обладая ограниченными знаниями о ней. Кроме того, компьютерные стратегические игры вынуждают уравновешивать краткосрочную тактику с долгосрочным планированием. Если обычная шахматная партия заканчивается до 80 ходов, а партия в го — до 150, в распоряжении игрока в Dota 2 около 20 тысяч временных интервалов, в которые он может сделать «ход».
ИИ преуспел в компьютерных стратегиях за счет способности быстро обрабатывать информацию, принимать решения и совершать действия. И дело здесь не только в том, что ИИ быстрее. Хотя он действительно намного быстрее «соображает», чем самые профессиональные игроки-люди: без искусственных ограничений скорости он практически непобедим при имитации тактики небольших подразделений. Но даже с искусственно заниженными характеристиками он оказывается лучшим тактиком, усваивает и анализирует больше информации, более точен и не тратит впустую ценные действия, время и ресурсы. Также ИИ лучше координирует атаку нескольких подразделений.
Искусственный интеллект, разработанный компанией OpenAI (одним из ее основателей был Илон Маск), при игре в Dota 2 легко идентифицирует атаки игроков-людей и отражает их быстрее, чем игроки-люди — даже при искусственной задержке для принятия решения в 200 миллисекунд, которая вводилась для имитации времени реакции человека.
Сверхчеловеческие качества
Искусственный интеллект обходит людей в различных сложных играх благодаря целому набору присущих им преимуществ.
Во-первых, он гораздо быстрее обрабатывает информацию и перерабатывает ее в объемах, которые человеку просто не по плечу. В воздушных боях ИИ не обременен физиологически заложенной медлительностью человеческого мышления и рефлексов, в стратегических играх он может одновременно выполнять несколько разных задач, а в шахматах способен заглядывать вперед на большее число ходов, чем лучшие гроссмейстеры.
Во-вторых, ИИ способен более целостно воспринимать всю картину игры. В StarCraft II или Dota 2 нейросети не нужно сосредотачивать свое внимание на одной части карты, где разворачивается бой, как это делает человек. Она может получать и анализировать информацию сразу обо всей карте. Это делает ИИ более осведомленным и лучше ориентирующимся в обстановке. Более полная картина, в свою очередь, позволяет лучше распределять ресурсы.
Наконец, ИИ более внимателен и не допускает ошибок по небрежности, характерных даже для опытных людей. Он способен выполнять задачи почти безупречно, что является преимуществом во многих играх. Преимущества гарантированного избегания ошибок из-за невнимательности может оценить каждый, кто хотя бы раз, играя в шахматы, «случайно» терял ладью или даже ферзя.
Похоже, что ИИ также обходит людей в координации действий с союзниками и в долгосрочном планировании. Если игроки-люди в Dota 2, как правило, делят между собой карту и редко «залазят» на участок соседа-союзника, союзные друг другу игроки ИИ «гоняют» свои юниты по всей карте, гибко подстраиваясь под потребности команды в ходе игры.
Гибкость ИИ и новые стратегии
ИИ уже обогатил многие игры новыми тактиками и стратегиями, демонстрируя более широкий диапазон поведения, чем люди. Более широкая поведенческая изменчивость иногда напрямую ведет к выигрышу — как, например, в покере, где непредсказуемость является ключевым преимуществом.
При этом искусственный интеллект способен резко менять стратегию по ходу игры. Как только нейросеть AlphaGo получает надежное преимущество, она перестает быть агрессивным новатором и играет от обороны, лишь максимизируя свои шансы на победу, а не увеличивая разрыв с соперником. Но это не значит, что ИИ по определению осторожничает сверх меры: в шахматах AlphaZero охотно легко жертвует фигурами в самом начале игры, рискуя для достижения долгосрочного преимущества.
В целом ИИ действует, по сравнению с человеком, более рационально, можно сказать, хладнокровно. Если люди могут иметь склонность к оборонительной либо наступательной тактике, ИИ способен быстро переключаться между ними, выбирая ту, которая оптимальна для достижения цели.
Выводы Шарра
Шарр считает, что люди могут использовать преимущества ИИ в бою, но должны при этом понимать, что этот новый «брат по оружию» «думает» совершенно иначе. И это различие в образе «мышления» может быть преимуществом. Также ИИ заметно превосходит людей в управлении сложными системами вроде тех, которые создаются в стратегических компьютерных играх. Это тоже может быть большим преимуществом в войне.
Разумеется, конкретные алгоритмы и тактики, которые ИИ использует для игры в го, шахматы, покер, StarCraft II или Dota 2, не могут быть использованы в реальном бою. Но сверхчеловеческая скорость, точность, координация, просчет рисков и агрессивность ИИ могут быть чрезвычайно ценными и опасными качествами при ведении настоящих боевых действий. Искусственный интеллект, обученный командным навыкам, потенциально может сделать своих противников на поле боя деморализованными и беспомощными — такими, какими уже сейчас ощущают себя его противники в компьютерных играх.
При этом у ИИ есть и очевидные недостатки. Он пока может быть нестабилен, с большим трудом адаптируется даже к небольшим изменениям в правилах тех игр, в которые играет. Каждый раз, когда разработчики Dota 2 вносили в него достаточно скромные обновления (например, новых персонажей или новые предметы), ИИ «привыкал» к ним с большим трудом.
Кроме того, получив новый набор начальных условий, он действует методом проб и ошибок. В одном из матчей по Dota 2 игровых персонажей для ИИ выбирали зрители. Получив заведомо плохой состав, OpenAI неудачно пытался использовать хорошо знакомую ему тактику, подходящую для других персонажей. В настоящем бою такие промахи могут оказаться фатальными.
В условиях, когда искусственному интеллекту будет необходимо сотрудничать с людьми, их «инопланетное» мышление может также быть недостатком. Скорее всего, его придется специально обучать для того, чтобы в своих действиях он больше походил на людей.
По мнению Шарра, американским военным следует увеличить расходы на создание систем ИИ, эксперименты и военные игры с ним, чтобы лучше понять его военный потенциал и найти способы его наилучшего применения.
Читайте также
