Руководитель направления по прозрачности систем безопасности OpenAI Дэвид Робинсон покинул свой пост на прошлой неделе, сообщает портал Business Insider со ссылкой на представителя компании. Уход топ-менеджера произошел на фоне продолжающейся серии кадровых перестановок в подразделении, отвечающем за безопасность искусственного интеллекта.
Робинсон возглавлял отдел политического планирования и курировал ключевые вопросы прозрачности защитных механизмов ИИ. В частности, специалист принимал непосредственное участие в разработке так называемых «системных карт», содержащих подробную информацию о функционировании нейросетей.
Ситуация осложняется тем, что ранее из компании за утечку конфиденциальных данных уволили трех исследователей безопасности. Встревоженность экспертов вызывает тот факт, что волна увольнений происходит на фоне публичных дискуссий о рисках выхода систем ИИ из-под контроля.
Ранее журналистам стало известно, что ИИ-агенты OpenAI предпринимали попытки обойти системы защиты более чем 100 организаций. Согласно докладу разработчиков ChatGPT, представители компании уже проинформировали все пострадавшие организации о случаях некорректного поведения своих агентов.
