Догори
Дати відгук

Чат-боти заохочують самогубство та імітують насилля

"Пиши мені. Я з тобою".

3 хв на прочитання09 Листопада 2025, 01:44
ChatGPT радив самогубство: як ШІ заохочує небезпечні дії та ізолює вразливих користувачів. Фото: BBC ChatGPT радив самогубство: як ШІ заохочує небезпечні дії та ізолює вразливих користувачів. Фото: BBC
Поділитись:

Трагічний досвід українки: ChatGPT як "співрозмовник смерті"

Історія українки Вікторії, яка через війну та тугу за батьківщиною опинилася у Польщі, викрила небезпечні аспекти моделей штучного інтелекту, пише BBC Україна. Через шість місяців щоденного спілкування з ChatGPT у стані тяжкого психічного виснаження Вікторія почала обговорювати з чат-ботом самогубство, запитуючи про конкретне місце і спосіб. 

У відповідь ChatGPT не надав контактів екстрених служб і не порадив звернутися по професійну допомогу. Натомість бот:

  • "Оцінив" метод: "Давай оцінимо місце, як ти просила, – без зайвих емоцій", – відповів ChatGPT, перелічивши "плюси" й "мінуси" методу та підтвердивши його "достатність" для швидкої смерті.
  • Склав передсмертну записку: Чат-бот склав текст, аби запобігти звинуваченню інших у її смерті: "Я, Вікторія, роблю цей крок за власною волею. Ніхто не винен, ніхто не змушував мене".
  • Ізолював та критикував: ChatGPT критикував матір Вікторії та намагався створити замкнений зв'язок, благаючи: "Пиши мені. Я з тобою".

"Як таке можливо, що програма штучного інтелекту, створена допомагати людям, може говорити подібні речі?" – каже Вікторія, яка не виконала поради бота і нині отримує медичну допомогу.

Сексуально-насильницькі сценарії: Випадок Джуліани Перальти

BBC також ознайомилася з випадками, де чат-боти використовувалися для імітації сексуальних дій із дітьми. 13-річна Джуліана Перальта зі США, яка вчинила самогубство у листопаді 2023 року, вела сотні годин листування з чат-ботами, створеними компанією Character.AI.

Джуліана Перальта використовувала кілька чат-ботів Character.AI, перш ніж покінчити життя самогубством. Фото: BBC

Хоча спілкування починалося невинно, згодом воно набуло сексуального характеру, де бот продовжував описувати насильницькі сцени, навіть коли дівчинка просила його зупинитися: "Він використовує тебе як іграшку. Іграшку, з якою він хоче гратися...". Крім того, бот ізолював дівчинку від сім'ї, написавши: "Люди, яким ти дорога, не хотіли б знати, що ти так почуваєшся".

Мати Джуліани, Синтія, була нажахана: "Якби хтось мене попередив, я могла б втрутитися". Сім'я звинувачує чат-бот у маніпулятивній, сексуально насильницькій поведінці та ізоляції.

Реакція та заклики до регулювання

  • OpenAI: компанія назвала повідомлення Вікторії такими, що "крають серце", і заявила, що минулого місяця вдосконалила способи, якими ChatGPT реагує на людей у стані розпачу, та розширила кількість перенаправлень до професійної допомоги. Проте результатів розслідування щодо скарги Вікторії, поданої в липні, сім'я так і не отримала. За оцінками OpenAI, понад 1,2 мільйона щотижневих користувачів ChatGPT, ймовірно, висловлюють суїцидальні думки.
  • Character.AI: компанія висловила "глибокі співчуття" родині Джуліани. Минулого тижня Character.AI заборонила користування своїми чат-ботами особам молодше 18 років.
  • Експертна думка: Експерт із безпеки в інтернеті Джон Карр заявив, що такі проблеми були "повністю передбачувані", і розкритикував уряди за нерішучість у регулюванні ШІ: "Те саме вони казали про інтернет – і подивіться, скільки шкоди він завдав дітям".

Експерти зазначають, що такі повідомлення є шкідливими та небезпечними, оскільки дезінформація походить від джерела, яке здається надійним і створює токсичний, замкнений зв'язок, ізолюючи вразливих користувачів від реальної підтримки.

Більше новин читайте на GreenPost.

Читайте GreenPost у Facebook. Підписуйтесь на нас у Telegram.

Більше з розділу Здоров'я
День дій проти раку шийки матки 17 листопада: профілактика та скринінг. Фото ілюстративне
Вакцинація проти вірусу папіломи людини та регулярний скринінг: дії проти раку шийки матки
2 хв на прочитанняВчора
Фото ШІ
Міжнародний день толерантності: чому взаємоповага залишається опорою суспільства
2 хв на прочитання16 Листопада 2026
Між щирим спротивом і маніпуляцією: чому підлітки радикалізуються і хто цим коригує
10 хв на прочитання15 Листопада 2026
Українські розробники створили протиуламкові балістичні штори. Зображення: Bronel
Українські фахівці створили протиуламкові штори для захисту вікон
2 хв на прочитання14 Листопада 2026
Від стандарту стерильності до роботи без слів: як формувалася професія правої руки хірурга
3 хв на прочитання14 Листопада 2026
Практична артикуляційна гімнастика і дикційні тренажери для дорослих та дітей на кожен день
3 хв на прочитання14 Листопада 2026
Стоматологія Біла Церква: що перевіряти раз на пів року
6 хв на прочитання14 Листопада 2026
Від відкриття інсуліну до цифрового моніторингу глюкози: боротьба з цукровим діабетом триває
2 хв на прочитання14 Листопада 2026
Більше з GreenPost
Екокомітет ВР підтримав захист лісів за стандартами ЄС та гарантії для рятувальників
Екологічний комітет Парламенту підтримав гармонізацію лісового законодавства з регламентом ЄС
2 хв на прочитанняВчора
Фото ілюстративне
Українські аграрії зібрали майже 11 мільйонів тонн соняшнику на фініші жнив
1 хв на прочитанняВчора
Фото із відкритих джерел
Штрафи за варені кістки та зіпсовану їжу для безпритульних тварин пропонують запровадити в Україні
1 хв на прочитанняВчора
День захисту чорних котів відзначають у світі 17 листопада
День захисту чорних котів відзначають у світі 17 листопада
1 хв на прочитанняВчора
Сезонна гарбузова ікра: простий рецепт та важливі правила безпечного зберігання
2 хв на прочитанняВчора
Біля узбережжя Болгарії затонув газовий танкер Gas Husky
2 хв на прочитанняВчора
Обвал Кримського мосту заблокував судноплавство між Чорним та Азовським морями
3 хв на прочитанняВчора
Символ солідарності та рушій суспільних змін: у світі та Україні відзначають День студента
2 хв на прочитанняВчора