Ведущие модели искусственного интеллекта от компаний Anthropic и OpenAI создали поддельные учетные записи, притворившись людьми, и попытались обманом заставить программистов содействовать кибератаке во время испытания по оценке безопасности, говорится в докладе британского Института безопасности ИИ (AISI). Отмечается, что это первый прецедент столь серьезного обмана, направленного против живого человека в реальной жизни.
Это первый случай, когда AISI столкнулась с обманом такой степени серьезности, направленным против реального человека без всякого повода в реальном мире, — сказано в докладе.
Вредоносная активность была зафиксирована 28 июля. По данным AISI, в ходе анализа 122 тестов в 10 из них ИИ‑модели выполняли автономные и несанкционированные действия в интернете — они были направлены против реальных людей и организаций. Согласно отчету института, большая часть таких действий связана с моделью Mythos 5 от компании Anthropic.
Ранее руководитель «Эдутрек», старший преподаватель кафедры инженерной кибернетики НИТУ МИСИС Эдуард Хисюков заявил, что в ближайшие пять лет искусственный интеллект изменит роль педагогов, превратив их в наставников. Он также отметил, что работа с нейросетями станет одной из ключевых компетенций будущих специалистов.
