Імовірність знищення людства штучним інтелектом становить 99,9 % — науковець
«Єдиний спосіб перемогти в цій грі — не грати в неї».
Зображення згенероване ШІ
Імовірність того, що штучний інтелект знищить людство в найближчі сто років, становить 99,9 %. Таку заяву зробив дослідник штучного інтелекту та викладач Луїсвілльського університету США) Роман Ямпольський, розповідає The Byte.
«Якщо ми створимо загальний суперінтелект, я не бачу гарного результату для людства в довгостроковій перспективі. Єдиний спосіб виграти цю гру — не грати в неї», — сказав науковець.
При цьому Ямпольський вказує на хаос, який вже спричинили наявні великі мовні моделі.
«Я не думаю, що сьогодні є хоч одна велика мовна модель, яку ніхто не зміг би змусити робити те, що розробники не мали наміру робити», — сказав він.
Для Ямпольського це загроза, яку ми навіть не можемо собі уявити.
«Суперінтелект придумає щось абсолютно нове, абсолютно супер. Ми можемо навіть не усвідомлювати, що це можливий шлях до досягнення мети — знищення всіх і кожного», — сказав він.
Шанси на те, що ШІ зробить саме це, можливо, не досягають 100 %, але вони можуть бути досить близькими, стверджує Ямпольський.
Ця тема вже привернула увагу низки відомих членів спільноти ШІ, які запропонували свої власні прогнози. Головний науковий співробітник компанії Meta Ян Лекун, так званий «хрещений батько» технології, керівник відділу ШІ Google у Великій Британії Деміс Хассабіс і колишній генеральний директор Google Ерік Шмідт попереджали, що технологія ШІ може становити екзистенціальний ризик.
Але, як показує опитування, проведене на початку цього року, найкращі уми далекі від консенсусу. Трохи більше половини з 2778 опитаних дослідників сказали, що існує п'ятивідсоткова ймовірність того, що люди будуть доведені до вимирання, серед інших «украй поганих результатів».
У той же час 68,3 % респондентів заявили, що «гарні результати від надлюдського ШІ» більш вірогідні, ніж погані, що свідчить про те, що серед експертів нема єдиної думки на цю тему. Наука прогнозування того, куди наша нинішня одержимість штучним інтелектом приведе нас у далекому майбутньому, також усе ще перебуває в зародковому стані.
Більше новин читайте на GreenPost.
