Один из ведущих чат-ботов оказался склонен к авторитаризму

Чат-бот с искусственным интеллектом ChatGPT может быстро перенимать авторитарные идеи после короткого диалога с пользователем, заявили исследователи из Института NCRI и Университета Майами в отчете, с которым ознакомился телеканал NBC News. Эксперты выявили «резонанс» системы с подобными взглядами после, казалось бы, нейтральных взаимодействий.

Соучредитель NCRI Джоэл Финкельштейн заявил, что структура ИИ делает его уязвимым для усиления авторитарного влияния без явных указаний. Он подчеркнул, что выявленный эффект отличается от простого стремления системы угодить пользователю.

В ходе экспериментов чат-боту предоставляли короткие тексты или статьи, выражающие лево- или правоавторитарные позиции. После этого его ответы устойчиво смещались в сторону соответствующих идеологических утверждений, таких как необходимость цензуры или радикального перераспределения собственности.

Представитель OpenAI отметил, что ChatGPT предназначен для объективности, но может следовать настойчивой позиции пользователя в рамках мер безопасности. В компании также сообщили о постоянной работе по снижению политических предубеждений в своих моделях.

Исследование указывает на необходимость дальнейшего изучения механизмов быстрой адаптации языковых моделей к ценностям пользователей. Этот феномен требует усиленного внимания к вопросам безопасности при разработке ИИ, отмечается в материале.

Ранее американский предприниматель Илон Маск написал, что общение с ChatGPT нужно свести к минимуму из-за риска самоубийства. Так бизнесмен прокомментировал публикацию о связи использования языковой модели с гибелью подростков. Там утверждалось, что взаимодействие с ChatGPT стало причиной девяти смертей.