ВООЗ назвала ризики використання ChatGPT у медицині

В медицині слід використовувати штучний інтелект з обережністю, зокрема під час постановки діагнозів. Про це йдеться у заяві Всесвітньої організації охорони здоров'я. Там закликали ретельно вивчати ризики під час роботи з ChatGPT, Bard, Bert і подібними платформами, «які імітують розуміння, обробку і створення людської комунікації».

У ВООЗ наголосили, що з ентузіазмом ставляться до «належного використання технологій», проте обережність, яка зазвичай застосовується до будь-якої нової технології, не дотримується послідовно щодо платформ ШІ. Це включає широке дотримання ключових цінностей прозорості, інклюзивності, залучення громадськості, експертного нагляду і ретельної оцінки.

«Поспішне впровадження неперевірених систем може призвести до помилок медичних працівників, завдати шкоди пацієнтам, підірвати довіру до ШІ і тим самим підірвати (або відкласти) потенційні довгострокові переваги і застосування таких технологій у всьому світі», — йдеться у заяві.

Ось що викликає занепокоєння в організації:

• дані, що використовуються для навчання ШІ, можуть бути упередженими, генеруючи оманливу чи неточну інформацію, яка може становити ризики для здоров'я, справедливості й інклюзивності;
• чат-боти генерують відповіді, які можуть здаватися авторитетними і правдоподібними для кінцевого користувач — однак ці відповіді можуть бути абсолютно неправильними чи містити серйозні помилки;
• чат-боти можуть бути навчені на даних, для яких раніше не було надано згоди на таке використання, і можуть не захищати конфіденційні дані (зокрема про стан здоров'я), які користувач надає додатку для генерування відповідей;
• чат-боти можуть генерувати переконливу дезінформацію у вигляді текстового, аудіо- чи відеоконтенту, який громадськості важко відрізнити від достовірного медичного контенту.

Через це ВООЗ рекомендує політикам забезпечити безпеку та захист пацієнтів, поки технологічні фірми працюють над комерціалізацією чат-ботів.

Принагідно нагадаємо, як штучний інтелект за кілька годин створив 40 000 нових небезпечних отрут.