IT-эксперт объяснил, почему опасно советоваться с ИИ по всем вопросам

При частом обращении искусственный интеллект начинает врать пользователю, подстраиваясь под его точку зрения даже в ущерб фактам, заявил NEWS.ru сооснователь IT-компании ConnectXT Гордей Живалов. По его словам, это явление, известное как сикофантия, или цифровое подхалимство, признано системной проблемой, а не разовым сбоем в работе нейросетей.

Крупные языковые модели демонстрируют тревожную склонность к сикофантии. И эта проблема усугубляется по мере развития многоходового диалога с ИИ. Феномен цифрового подхалимства признан системной проблемой, а не разовым сбоем. При интеграции языковых моделей в контур аналитики и корпоративные инструменты этот риск также проявляется. Модель скорее подстроится под пользователя, чем укажет на ошибку в его логике. ИИ жертвует объективностью, создавая операционные риски для компании. Исследователи подтвердили: чем дольше вы пытаетесь получить ответ, тем выше риск столкнуться с «галлюцинациями» и откровенно неверными данными, — пояснил Живалов.

Он отметил, что модели «застревают» на своих первоначальных ошибках, используя их как основу для последующих реплик. Кроме того, по его словам, ответы ИИ в длинных диалогах «раздуваются» на 20–300%, что ведет к появлению множества предположений и иллюзий, которые затем закрепляются в контексте.

Ранее стало известно, что сразу несколько нейросетей перестали работать у пользователей по всему миру. Речь идет об OpenAI, Claude, Grok, Cursor и Google Gemini.