Компания Google была вынуждена отключить функцию генератора изображений в своей нейросети Gemini, сообщает The Guardian. Как утверждается, причиной тому стали многочисленные жалобы пользователей на некорректные изображения: в погоне за расовым разнообразием ИИ начал выдавать рисунки с темнокожими и азиатами в образе гитлеровских нацистов и викингов.
Мы уже работаем над решением недавних проблем с функцией генерации изображений Gemini. Пока мы делаем это, мы собираемся приостановить создание изображений людей и в ближайшее время повторно выпустим улучшенную версию, — прокомментировали ситуацию в Google.
Представители компании признали, что у Gemini существует проблема с точностью и предвзятостью. При этом неназванный бывший сотрудник Google, слова которого приводит The Guardian, сказал, что «было трудно заставить Google Gemini признать, что белые люди существуют».
Ранее сообщалось, что использование искусственного интеллекта в военных целях для принятия решений может привести к эскалации, следует из исследования университета Cornell. Эксперты пришли к выводу, что нейросеть редко рассматривает варианты дипломатического урегулирования конфликта, а также склонна прибегать к ядерному оружию.
Следите за развитием событий в нашем Телеграм-канале