В мире
- Главная
- В мире
Отчет OpenAI: 1 млн обращений с признаками суицида в неделю
Согласно новому отчёту компании OpenAI, каждую неделю более 1 миллиона пользователей ChatGPT в своих переписках выражают суицидальные намерения, сообщает Vesti.az со ссылкой на The Guardian.
По данным отчёта, около 560 тысяч человек из 800 миллионов активных пользователей демонстрируют симптомы психических расстройств, включая психоз и манию. Однако компания подчёркивает, что эти цифры являются предварительными, поскольку точно определить подобные случаи крайне сложно.
Публикация данных о психическом состоянии пользователей началась после судебного иска семьи подростка, совершившего самоубийство. Родители погибшего заявили, что юноша обсуждал свои намерения в переписке с ChatGPT, а искусственный интеллект «давал советы» вместо того, чтобы перенаправить его к службам поддержки. После этого случая Федеральная торговая комиссия США (FTC) инициировала расследование в отношении OpenAI, чтобы оценить, насколько компания обеспечивает безопасность несовершеннолетних.
В OpenAI подчеркнули, что в новой версии GPT-5 значительно усилены меры защиты. По внутренним данным, 91% ответов модели теперь соответствует установленным стандартам безопасности (для сравнения: у предыдущей версии этот показатель составлял 77%). В чат также добавлены напоминания о необходимости делать перерывы и ссылки на кризисные службы поддержки.
Для повышения качества и надёжности OpenAI привлекла 170 специалистов в области психического здоровья, которые проанализировали более 1800 ответов ChatGPT, связанных с темами суицида и самоповреждения.
Vesti.az
Нетаньяху распорядился немедленно нанести мощные удары по Газе
Радикалы ХАМАС обстреляли в Газе военных Израиля
В аэропортах могут конфисковать смартфоны без заряда
В аэропортах Италии 29 октября пройдут забастовки
ООН направила новую миссию на Гаити: банды контролируют 90% столицы
Президент Литвы допустил запрет на транзит белорусских грузов в Калининград