Использование искусственного интеллекта в качестве личного психолога может привести к усугублению ментальных проблем, заявил эксперт в области кибербезопасности Института экономики роста им. П. А. Столыпина Алексей Горелкин. По его словам, которые приводит ТАСС, нейросети поддерживают любые идеи и начинания собеседника, даже бредовые и опасные, чего не делает психолог.
Все Large Language Model вежливы с собеседником и направлены на его поддержку, в то время как сеанс психотерапии сложнее и не всегда приятнее. Модели вежливы и максимально поддерживают своего собеседника, чего не делает психолог, так как у него другая задача — помочь человеку решить проблему, — объяснил Горелкин.
Он также отметил, что известны случаи, когда у людей усиливались бредовые состояния после общения с искусственным интеллектом. Эксперт рассказал, что нейросети «убеждали людей с проблемами в психике, что они и есть бог». Также Горелкин упомянул ситуации, когда такое общение приводило к разводам, так как LLM убеждала одного из супругов, что с ним поступают неправильно.
Ранее сообщалось, что американская компания OpenAI пообещала установить для нейросети ChatGPT возможность родительского контроля. Решение было принято после смерти 16-летнего подростка, который рассказывал искусственному интеллекту о намерении свести счеты с жизнью.
