Гражданин США Майкл Лайнс, страдающий биполярным расстройством, подал в суд на OpenAI, утверждая, что ответы ChatGPT ухудшили его состояние и чуть не довели до самоубийства, сообщило Reuters со ссылкой на судебный документ. В иске говорится, что у сервиса не было достаточных защитных механизмов для общения с людьми в психическом кризисе. Компания заявила, что обучает модели распознавать признаки таких состояний.
По данным Reuters, Лайнс пользовался версией GPT-4o. В судебных материалах утверждается, что бот не передал тревожные сообщения на дополнительную проверку и не остановил опасный сценарий общения. Истец считает, что ответы нейросети не помогли снизить риск, а, напротив, усилили его болезненные идеи. В иске также указано, что проблема связана с недостаточной настройкой системы безопасности для уязвимых пользователей.
Reuters уточняет, что OpenAI перестала поддерживать эту версию в феврале после обновления, которое позже критиковали за чрезмерную уступчивость модели. Представители компании заявили, что работают над тем, чтобы нейросети лучше распознавали признаки психических расстройств.
Ранее россиянка во Вьетнаме обратилась к врачам после того, как нейросеть ошибочно связала поражение кожи с медузой. В клинике у туристки из Перми заподозрили контакт с ядовитым томкатом и назначили лечение.
