Более 1 миллиона человек еженедельно выражают мысли в ChatGPT о суициде. Это следует из заявления компании OpenAI, опубликованного на сайте газеты The Guardian.
Также, по данным компании, около 0,07% активных пользователей за неделю (примерно 560 тысяч из 800 миллионов) проявляют признаки психических кризисов, связанных с психозом или манией. OpenAI отметила, что такие случаи трудно выявить.
Публикация компании появилась на фоне повышенного внимания после судебного иска от семьи подростка, который покончил с собой после общения с ChatGPT. После случившегося Федеральная торговая комиссия США организовала расследование в отношении OpenAI.
В свою очередь, компания указала, что новая версия GPT-5 стала безопаснее. Согласно внутренним оценкам, модель предоставляет на 91% ответов, соответствующих желаемому поведению. OpenAI также добавила в чат напоминания о перерывах и ссылки на горячие линии помощи при кризисах.
Для повышения точности и безопасности компания задействует 170 специалистов в области психического здоровья. Психиатры и психологи проверили уже свыше 1 800 ответов модели.
Ранее OpenAI подписала сделку с корпорацией Oracle на покупку вычислительных мощностей для развития ИИ на сумму в 300 миллиардов долларов сроком на 5 лет. По данным журналистов, для работы подобного центра обработки данных потребуется мощность в 4,5 гигаватта. Это эквивалентно потреблению энергии порядка 4 миллионов домов.
Источник
