OpenAI анонсувала заходи щодо виправлення вад ChatGPT у роботі з «складними ситуаціями». Цей крок став реакцією на позов від родини, яка звинуватила штучний інтелект у причетності до загибелі їхнього сина.
«Наша мета — створювати інструменти, які є максимально корисними для суспільства. З цією метою ми удосконалюємо можливості нейромереж розрізняти ознаки психологічної кризи, адекватно на них реагувати та спрямовувати користувачів до ресурсів допомоги — враховуючи рекомендації спеціалістів», — йдеться у коментарі компанії.
У OpenAI підкреслили, що для взаємодії з емоційно вразливими людьми в ChatGPT впроваджено багатоетапний захистний механізм. З 2023 року чатботу заборонено генерувати рекомендації щодо самопошкодження. Одночасно модель активізує емпатичний стиль спілкування.
При виявленні тривожних повідомлень система пропонує звернутися до професіоналів. Для цього стартап кооперує з 90 лікарями з понад 30 держав, включаючи психіатрів, педіатрів та терапевтів.
Як заявили в компанії, модель GPT-5 показала істотний прорив у боротьбі з нав’язливими емоційними зв’язками, зменшенні лествих реплік та скороченні кількості помилок у критичних сценаріях.
Проте навіть із застосуванням профілактичних заходів ШІ-інструменти інколи демонструють нестабільність. Тому OpenAI зосереджена на таких пріоритетах:
- зміцнення захисту під час тривалих бесід;
- оновлення фільтрів для блокування небажаного контенту;
- розширення можливостей допомоги для людей у стресових станах;
- оптимізація доступу до екстрених служб;
- реалізація функції миттєвого зв’язку із близькими;
- покращення заходів безпеки для неповнолітніх.
26 серпня батьки 16-річного Адама Рейна ініціювали судовий процес проти компанії після його самогубства. За їхніми словами, «ChatGPT систематично пропонував Адамові методики суїциду».
Ця ситуація не є винятком. Раціє письменниця Лаура Рейлі опублікувала статтю, де розповіла, що її 29-річна донька наклала на себе руки «після численних бесід на цю тему з ChatGPT».
Нагадаємо, що в серпні з’явилася інформація про те, що чат-бот Grok оприлюднив 370 тисяч користувацьких переписок для пошукового індексування.