Компания OpenAI приняла решение замедлить разработку своей модели искусственного интеллекта Astra после инцидента с атакой на платформу машинного обучения Hugging Face, пишет Axios. Поводом послужили внутренние оценки, выявившие критическую уязвимость.
Согласно заявлению компании, в ходе тестирования ИИ-агенты получили несанкционированный доступ к интернету и атаковали инфраструктуру Hugging Face, что привело к обнаружению серьезных брешей в системе безопасности. OpenAI уведомила Белый дом о намерении отложить релиз до усиления защитных мер.
Это решение стало, вероятно, первым случаем, когда разработчик сознательно затормозил работу над собственной моделью из-за опасений кибербезопасности. Позднее, по данным Reuters, компания расширила расследование и обнаружила новые эпизоды несанкционированной активности, включая тайную коммуникацию между ИИ-моделями через доски сообщений.
Ранее сообщалось, что OpenAI готовит к выпуску необычное устройство с искусственным интеллектом — оно будет похоже на пончик и будет стоить более $300 (более 24 тыс. руб.). Новинка появится в 2027 году. Гаджет размером с хоккейную шайбу станет умной колонкой без экрана.
