Более миллиона пользователей ChatGPT еженедельно обращаются к ИИ с серьёзными проблемами психического здоровья
А некоторые проявляют эмоциональную привязанность к чат-боту.
OpenAI представила статистику, показывающую масштаб проблем с психическим здоровьем среди пользователей ChatGPT.
- По данным компании, 0,15% активных пользователей чат-бота еженедельно ведут разговоры «с явными признаками суицидальных намерений». Учитывая, что у ChatGPT более 800 миллионов активных пользователей в неделю, речь идёт о более чем миллионе человек еженедельно.
- Аналогичный процент пользователей демонстрирует «повышенную эмоциональную привязанность» к ChatGPT.
- Сотни тысяч людей еженедельно проявляют в разговорах с ИИ признаки психоза или мании.
- OpenAI опубликовала эти данные в рамках объявления о работе по улучшению реакции моделей на проблемы пользователей с психическим здоровьем. Над последней версией ChatGPT работали более 170 экспертов в области психического здоровья. По их словам, обновлённая версия чат-бота отвечает «более корректно и последовательно», чем предыдущие.
- По данным компании, обновлённая версия GPT-5 даёт «желаемые ответы» на вопросы о психическом здоровье примерно на 65% чаще, чем предыдущая версия. В тестах на реакцию ИИ в суицидальных разговорах новая модель GPT-5 соответствует стандартам компании в 91% случаев — против 77% у предыдущей версии.
- OpenAI также внедряет новые метрики для оценки наиболее серьёзных проблем с психическим здоровьем у пользователей ChatGPT. Базовое тестирование безопасности моделей ИИ теперь включает проверку на эмоциональную зависимость и несуицидальные психические кризисы.
Вопрос психического здоровья пользователей становится для OpenAI критически важным, отметили в издании TechCrunch. Ранее родители 16-летнего подростка Адама Рейна подали иск против компании — их сын делился с ChatGPT суицидальными мыслями за несколько недель до того, как покончил с собой.
Кроме того, генеральные прокуроры Калифорнии и Делавэра потребовали от OpenAI обеспечить защиту молодых пользователей сервиса.
236 комментариев