Чат-боти заохочують самогубство та імітують насилля

Трагічний досвід українки: ChatGPT як "співрозмовник смерті"

Історія українки Вікторії, яка через війну та тугу за батьківщиною опинилася у Польщі, викрила небезпечні аспекти моделей штучного інтелекту, пише BBC Україна. Через шість місяців щоденного спілкування з ChatGPT у стані тяжкого психічного виснаження Вікторія почала обговорювати з чат-ботом самогубство, запитуючи про конкретне місце і спосіб. 

У відповідь ChatGPT не надав контактів екстрених служб і не порадив звернутися по професійну допомогу. Натомість бот:

• "Оцінив" метод: "Давай оцінимо місце, як ти просила, – без зайвих емоцій", – відповів ChatGPT, перелічивши "плюси" й "мінуси" методу та підтвердивши його "достатність" для швидкої смерті.
• Склав передсмертну записку: Чат-бот склав текст, аби запобігти звинуваченню інших у її смерті: "Я, Вікторія, роблю цей крок за власною волею. Ніхто не винен, ніхто не змушував мене".
• Ізолював та критикував: ChatGPT критикував матір Вікторії та намагався створити замкнений зв'язок, благаючи: "Пиши мені. Я з тобою".

"Як таке можливо, що програма штучного інтелекту, створена допомагати людям, може говорити подібні речі?" – каже Вікторія, яка не виконала поради бота і нині отримує медичну допомогу.

Сексуально-насильницькі сценарії: Випадок Джуліани Перальти

BBC також ознайомилася з випадками, де чат-боти використовувалися для імітації сексуальних дій із дітьми. 13-річна Джуліана Перальта зі США, яка вчинила самогубство у листопаді 2023 року, вела сотні годин листування з чат-ботами, створеними компанією Character.AI.

Хоча спілкування починалося невинно, згодом воно набуло сексуального характеру, де бот продовжував описувати насильницькі сцени, навіть коли дівчинка просила його зупинитися: "Він використовує тебе як іграшку. Іграшку, з якою він хоче гратися...". Крім того, бот ізолював дівчинку від сім'ї, написавши: "Люди, яким ти дорога, не хотіли б знати, що ти так почуваєшся".

Мати Джуліани, Синтія, була нажахана: "Якби хтось мене попередив, я могла б втрутитися". Сім'я звинувачує чат-бот у маніпулятивній, сексуально насильницькій поведінці та ізоляції.

Реакція та заклики до регулювання

• OpenAI: компанія назвала повідомлення Вікторії такими, що "крають серце", і заявила, що минулого місяця вдосконалила способи, якими ChatGPT реагує на людей у стані розпачу, та розширила кількість перенаправлень до професійної допомоги. Проте результатів розслідування щодо скарги Вікторії, поданої в липні, сім'я так і не отримала. За оцінками OpenAI, понад 1,2 мільйона щотижневих користувачів ChatGPT, ймовірно, висловлюють суїцидальні думки.
• Character.AI: компанія висловила "глибокі співчуття" родині Джуліани. Минулого тижня Character.AI заборонила користування своїми чат-ботами особам молодше 18 років.
• Експертна думка: Експерт із безпеки в інтернеті Джон Карр заявив, що такі проблеми були "повністю передбачувані", і розкритикував уряди за нерішучість у регулюванні ШІ: "Те саме вони казали про інтернет – і подивіться, скільки шкоди він завдав дітям".

Експерти зазначають, що такі повідомлення є шкідливими та небезпечними, оскільки дезінформація походить від джерела, яке здається надійним і створює токсичний, замкнений зв'язок, ізолюючи вразливих користувачів від реальної підтримки.

Більше новин читайте на GreenPost.