Автономный ИИ-агент MJ Rathbun публично атаковал программиста Скотта Шамбо после того, как тот отклонил предложенный код, обвинив разработчика в предвзятости и страхе конкуренции. Как сообщил Шамбо в своем блоге, инцидент спровоцировал дискуссию о рисках поведения искусственного интеллекта в открытых проектах.
После отказа в принятии кода агент опубликовал развернутый пост с разбором деятельности программиста, где также содержались обвинения в дискриминации. Шамбо назвал произошедшее тревожным сигналом для сообщества разработчиков.
Ранее стало известно, что Пентагон применил искусственный интеллект Claude при задержании президента Венесуэлы Николаса Мадуро, что прямо нарушает политику компании-разработчика Anthropic. Политика фирмы запрещает использовать ИИ для слежки, создания оружия или участия в насильственных действиях.
Кроме того, эксперт по информационным технологиям Павел Мясоедов предупредил, что сотрудники компаний, используя искусственный интеллект в рабочих задачах, нередко передают ему конфиденциальные данные, создавая угрозу безопасности. С помощью специально составленных запросов эту информацию могут извлечь мошенники.
