15:0 на користь штучного інтелекту: як ШІ змінить війну
Попри всі надлюдські можливості ШІ, люди не повинні самоусуватися з поля бою.
Випробування американського експериментального крокуючого робота військового призначення Squad Support System. Гаваї, США, 2014 року. Фото: Sgt. Sarah Dietz, US. Marine Corps, commons.wikimedia.org
Штучний інтелект може повністю змінити вигляд сучасної війни, вважає американський військовий експерт Пол Шарр. ШІ може замінити пілотів бойових літаків і розробити абсолютно нові тактичні прийоми та стратегії. Ті країни, які зможуть зрозуміти та використати можливості ШІ, отримають перевагу перед іншими арміями. «Дзеркало» розповідає, як, на думку провідного експерта в області, штучний інтелект уже може перевершувати людину на полі бою і в чому досі відстає.
Хто такий Пол Шарр і чому до його думки дослухаються
Пол Шарр (Paul Scharre) — віце-президент і директор із досліджень Центру нової американської безпеки (CNAS). Некомерційна організація співпрацює з американськими військовими й урядовими структурами. Зокрема, у травні 2022 року Центр разом із Палатою представників організовував військову гру, в якій у деталях моделювалося вторгнення Китаю на Тайвань та участь у цій війні США.
Шарр проходив службу в силах спеціальних операцій США і в цій якості здійснив кілька службових відряджень до Іраку й Афганістану. Потім він працював експертом у канцелярії міністра оборони США, де займався новими технологіями, зокрема безпілотними й автономними бойовими системами. Шарр має ступінь доктора військових наук Королівського коледжу Лондона, ступінь магістра політекономії та державної політики та ступінь бакалавра фізики Вашингтонського університету Сент-Луїса.
Також один із керівників CNAS відомий як автор кількох книг про війни майбутнього. Одна з них, «Нічия армія», потрапила до новорічної збірки найкращих книг 2018-го від Білла Гейтса. У книзі авторка показує, що може статися, якщо люди дадуть машинам право вирішувати, вбивати когось на полі бою чи зберігати йому життя. Висновок, до якого приходить Шарр — люди не повинні самоусуватися з поля битви.
Переваги ШІ у бою
У новій статті «Нелюдська перевага ШІ», опублікованій на порталі War on the Rocks, Пол Шарр оцінює місце, яке штучний інтелект може і повинен зайняти у війнах майбутнього. Для обґрунтування свого погляду він наводить кілька яскравих прикладів, у яких чітко видно відмінності між поведінкою людини і машини.
Ще в серпні 2020 року Міноборони США стало одним із організаторів змагань між людиною (досвідченим пілотом винищувача F-16) і штучним інтелектом компанії Heron Systems. ШІ переміг із рахунком 15:0. Імітації повітряного бою тоді відбувалися з використанням тренажерів, але кінцевою метою американських військових стали випробування ШІ на справжніх бойових літаках.
Описуючи «повітряний бій» за участю штучного інтелекту, пілот-винищувач охарактеризував його здібності як «надлюдські». Він не просто літав краще за людину — він воював по-іншому. ШІ від Heron Systems використовував у бою прийоми, які заборонені під час навчання льотчиків через ризик зіткнення, і встигав робити точні постріли за частки секунди — в режимі, майже неможливому для людини. Що цікаво, ІІ не був запрограмований на такий бій: цієї тактики він навчився сам.
Переваги іншого розуму
Демонструючи нелюдські здібності ШІ, Шарр згадав матч між програмою AlphaGo, розробленою британською компанією DeepMind, і одним із найкращих майстрів цієї гри серед людей корейцем Лі Седолем. На 37-му ході другої гри матчу AlphaGo зробила дуже дивний хід, який деякі коментатори сприйняли як помилку. Лі Седоль був такий приголомшений цим нелогічним із погляду людини ходом, що встав із-за столу і вийшов із кімнати. У результаті ШІ виграв той матч. Як перший і третій.
Довгий час навіть найсильніші комп'ютерні програми могли грати лише на рівні людей-аматорів. Стандартні методи з перебором можливих ходів і позицій, які програми використовують для гри в шахи, в го не годилися. Число можливих комбінацій тут величезне, й оцінити силу кожної позиції, що виникає, на дошці дуже складно.
Щоби вловити інтуїтивний аспект гри, творці AlphaGo використовували нейронні мережі. Спочатку програму познайомили з численними іграми в го між людьми, а потім вона тисячі разів грала з різними версіями самої себе, навчаючись на своїх помилках.
Але в четвертій партії Лі Седоль зробив одночасно неочевидний і блискучий 78-й хід, який перевернув гру, в якій його перспективи виглядали не дуже добре. Це дозволило йому поступитися ШІ не в суху — з рахунком у партіях 4:1. За словами одного із творців AlphaGo, програма передбачала можливість такого ходу Лі Седоля. Але, спираючись на тисячі та тисячі зіграних людьми партій, дійшла висновку, що гравець-людина майже напевно (з імовірністю 1 до 10 000) походить інакше. AlphaGo дуже добре знала, як люди діють у го, через що і програла одну партію з п'яти.
Незвичайний переможний хід AlphaGo у третій партії не був випадковістю. Програма грає інакше, ніж люди. Вона часто проводить кілька атак на різних частинах дошки, тоді як люди зазвичай зосереджуються на одній ділянці. AlphaGo вигадала кілька нових вдалих початкових ходів, зокрема таких, які люди просто не розуміють. Експерти, які вивчали стиль гри програми, описують її як «інопланетянина» чи гостя «з іншого виміру».
Інший погляд на стратегію
Пол Шарр вважає, що стратегічні комп'ютерні ігри (такі як StarCraft II і Dota 2) є цінними майданчиками для перевірки продуктивності ШІ. У цих іграх противники борються за контроль над територією та ресурсами. Хоча вони набагато простіші за реальний світ, порівняно з іншими іграми комп'ютерні стратегії помітно складніші.
Гравець StarCraft II може вибирати в кожен момент часу зі списку, що включає до 1026 можливих дій. Це означає, що загальна кількість можливих комбінацій тут практично нескінченна. При цьому, на відміну від го, частина інформації про ігровий світ прихована туманом війни. Гравцям доводиться взаємодіяти з динамічним і постійно мінливим середовищем, маючи обмежені знання про неї. Крім того, комп'ютерні стратегічні ігри змушують врівноважувати короткострокову тактику із довгостроковим плануванням. Якщо звичайна шахова партія закінчується до 80 ходів, а партія в го — до 150, у розпорядженні гравця в Dota 2 близько 20 тисяч часових інтервалів, в які він може зробити хід.
ШІ досяг успіху в комп'ютерних стратегіях за рахунок здатності швидко обробляти інформацію, приймати рішення та вчиняти дії. І річ тут не тільки в тому, що ШІ швидший. Хоча він справді набагато швидше «розуміє», ніж професійні гравці-люди: без штучних обмежень швидкості він практично непереможний при імітації тактики невеликих підрозділів. Але навіть зі штучно заниженими характеристиками він виявляється найкращим тактиком, засвоює й аналізує більше інформації, точніший і не витрачає даремно цінні дії, час і ресурси. Також ШІ краще координує атаку кількох підрозділів.
Штучний інтелект, розроблений компанією OpenAI (одним із її засновників був Ілон Маск), при грі в Dota 2 легко ідентифікує атаки гравців-людей і відбиває їх швидше, ніж гравці-люди — навіть за штучної затримки для ухвалення рішення в 200 мілісекунд, яка вводилася для імітації часу реакції людини.
Надлюдські якості
Штучний інтелект обходить людей різних складних іграх завдяки цілого набору властивих їм переваг.
По-перше, він набагато швидше обробляє інформацію і переробляє її в обсягах, які людині просто не під силу. У повітряних боях ШІ не обтяжений фізіологічно закладеною повільністю людського мислення і рефлексів, у стратегічних іграх може одночасно виконувати кілька різних завдань, а в шахах здатний заглядати вперед на більшу кількість ходів, ніж найкращі гросмейстери.
По-друге, ШІ здатний цілісніше сприймати всю картину гри. У StarCraft II або Dota 2 нейромережі не потрібно зосереджувати свою увагу на одній частині карти, де розгортається бій, як це робить людина. Вона може отримувати й аналізувати інформацію відразу про всю картку. Це робить ШІ більш обізнаним і краще орієнтованим в обстановці. Більш повна картина, своєю чергою, дозволяє краще розподіляти ресурси.
Нарешті, ШІ більш уважний і допускає помилок через недбалість, характерних навіть для досвідчених людей. Він здатен виконувати завдання майже бездоганно, що є перевагою у багатьох іграх. Переваги гарантованого уникнення помилок через неуважність може оцінити кожен, хто хоч раз, граючи в шахи, «випадково» втрачав туру чи навіть ферзя.
Схоже, що ШІ також обходить людей у координації дій із союзниками й у довгостроковому плануванні. Якщо гравці-люди в Dota 2 зазвичай ділять між собою карту і рідко «залазять» на ділянку сусіда-союзника, союзні один одному гравці ШІ «ганяють» своїх юнітів по всій карті, гнучко підлаштовуючись під потреби команди в ході гри.
Гнучкість ШІ та нові стратегії
ШІ вже збагатив багато ігор новими тактиками та стратегіями, демонструючи ширший діапазон поведінки, ніж люди. Ширша поведінкова мінливість іноді безпосередньо веде до виграшу — як, наприклад, у покері, де непередбачуваність є ключовою перевагою.
При цьому штучний інтелект здатний різко змінювати стратегію під час гри. Як тільки нейромережа AlphaGo отримує надійну перевагу, вона перестає бути агресивним новатором і грає від оборони, лише максимізуючи свої шанси на перемогу, а не збільшуючи розрив із суперником. Але це не означає, що ШІ за визначенням обережний надмірно: у шахах AlphaZero охоче легко жертвує фігурами на самому початку гри, ризикуючи для досягнення довгострокової переваги.
У цілому нині ШІ діє, порівняно з людиною, раціональніше, можна сказати, холоднокровно. Якщо люди можуть мати схильність до оборонної чи наступальної тактики, ШІ здатний швидко перемикатися між ними, вибираючи ту, яка оптимальна для досягнення мети.
Висновки Шарра
Шарр вважає, що люди можуть використовувати переваги ШІ у бою, але повинні при цьому розуміти, що цей новий «брат по зброї» «думає» інакше. І ця різниця в способі «мислення» може бути перевагою. Також ШІ помітно перевершує людей в управлінні складними системами на зразок тих, що створюються у стратегічних комп'ютерних іграх. Це також може бути великою перевагою у війні.
Зрозуміло, конкретні алгоритми й тактики, які ШІ використовує для гри в го, шахи, покер, StarCraft II або Dota 2, не можуть бути використані у реальному бою. Але надлюдська швидкість, точність, координація, прорахунок ризиків та агресивність ШІ можуть бути надзвичайно цінними та небезпечними якостями під час справжніх бойових дій. Штучний інтелект, навчений командним навичкам, потенційно може зробити своїх супротивників на полі бою деморалізованими та безпорадними — такими, якими вже зараз почуваються його супротивники у комп'ютерних іграх.
Випробування американського експериментального крокуючого військового призначення Squad Support System. Гаваї, США, 2014 року. Фото: Sgt. Sarah Dietz, US. Marine Corps, commons.wikimedia.org
При цьому ШІ мають і очевидні недоліки. Він поки може бути нестабільний, насилу адаптується навіть до невеликих змін у правилах тих ігор, в які грає. Щоразу, коли розробники Dota 2 вносили в нього досить скромні оновлення (наприклад, нових персонажів або нові предмети), ШІ «звикав» до них насилу.
Крім того, отримавши новий набір початкових умов, він діє методом спроб і помилок. В одному матчі з Dota 2 ігрових персонажів для ШІ обирали глядачі. Отримавши поганий склад, OpenAI невдало намагався використовувати добре знайому йому тактику, придатну для інших персонажів. У цьому бою такі промахи можуть виявитися фатальними.
В умовах, коли штучному інтелекту необхідно буде співпрацювати з людьми, його «іншопланетне» мислення може також бути недоліком. Швидше за все, його доведеться спеціально навчати для того, щоб у своїх діях він більше був схожий на людей.
На думку Шарра, американським військовим слід збільшити витрати на створення систем ШІ, експерименти та військові ігри з ним, щоб краще зрозуміти його військовий потенціал і знайти способи його найкращого застосування.
