Вероятность уничтожения человечества искусственным интеллектом составляет 99,9%
«Единственный способ победить в этой игре – не играть в нее».
Изображение создано ИИ
Вероятность того, что искусственный интеллект уничтожит человечество в ближайшие сто лет, составляет 99,9 %. Такое заявление сделал исследователь искусственного интеллекта и преподаватель Луисвилльского университета США) Роман Ямпольский, рассказывает The Byte.
"Если мы создадим всеобщий суперинтеллект, я не вижу хорошего результата для человечества в долгосрочной перспективе. Единственный способ выиграть эту игру - не играть в нее", — сказал ученый.
При этом Ямпольский указывает на хаос, который уже вызвали существующие большие языковые модели.
"Я не думаю, что сегодня есть хоть одна крупная языковая модель, которую никто не смог бы заставить делать то, что разработчики не намеревались делать", — сказал он.
Для Ямпольского это угроза, которую мы даже не можем себе представить.
"Суперинтеллект придумает что-то совершенно новое, абсолютно супер. Мы можем даже не осознавать, что это возможный путь к достижению цели - уничтожению всех и каждого", - сказал он.
Шансы на то, что ИИ сделает именно это, возможно, не достигают 100 %, но они могут быть достаточно близкими, утверждает Ямпольский.
Эта тема уже привлекла внимание ряда известных членов сообщества ИИ, которые предложили свои собственные прогнозы. Главный научный сотрудник компании Meta Ян Лекун, так называемый "крестный отец" технологии, руководитель отдела ИИ Google в Великобритании Демис Хассабис и бывший генеральный директор Google Эрик Шмидт предупреждали, что технология ИИ может представлять экзистенциальный риск.
Но, как показывает опрос, проведенный в начале этого года, лучшие умы далеки от консенсуса. Чуть более половины из 2778 опрошенных исследователей сказали, что существует пятипроцентная вероятность того, что люди будут доведены до вымирания, среди других "крайне плохих результатов".
В то же время 68,3 % респондентов заявили, что "хорошие результаты от сверхчеловеческого ИИ" более вероятны, чем плохие, что свидетельствует о том, что среди экспертов нет единого мнения на эту тему. Наука прогнозирования того, куда наша нынешняя одержимость искусственным интеллектом приведет нас в далеком будущем, также все еще находится в зачаточном состоянии.
Больше новостей читайте на GreenPost.
