ИИ выходит из-под контроля? Шокирующие слова главы OpenAI, восстание машин

Гендиректор OpenAI Сэм Альтман высказался о текущем уровне развития искусственного интеллекта. Что он сказал, правда ли ИИ выходит из-под контроля, возможно ли восстание машин?

Что сказал Сэм Альтман о развитии ИИ, шокирующие слова

Альтман заявил, что мир достиг «точки сингулярности» в гонке искусственного интеллекта. Еще 10 лет назад это казалось чем-то далеким и маловероятным, добавил глава OpenAI.

«Теперь мы действительно переживаем момент, о котором раньше говорили за обеденным столом в шутку. Я ждал этого всю жизнь, и я думаю, что это будет нечто невероятное, чрезвычайно позитивное и потрясающее для всего мира», — сказал Альтман.

В 2025 году гендиректор OpenAI заявил, что к 2030 году искусственный интеллект превзойдет человеческий по всем параметрам. В итоге технология сможет выполнять 30–40% задач, которые сегодня решают люди, добавил Альтман.

Что значит «точка сингулярности», восстание машин

Гипотеза технологической сингулярности предполагает такую точку технологического развития, после которой прогресс станет неуправляемым и необратимым. Это приведет к серьезным изменениям человеческой цивилизации: ИИ, роботы и другая техника станут настолько умными, что люди не смогут их контролировать и понимать.

В художественных произведениях тема сингулярности присутствует давно, и подобные сюжеты редко заканчиваются позитивно. Наиболее известный пример — фильм «Терминатор» режиссера Джеймса Кэмерона, повествующий о последствиях возникновения и развития искусственного интеллекта «Скайнет», способного самосовершенствоваться и в конце концов обрести сознание. Впоследствии ИИ решает уничтожить своих создателей — людей, после чего начинается восстание машин.

Сэм Альтман в свою очередь раскритиковал лидеров в сфере разработки ИИ, которые неоднократно предупреждали об опасности технологии. Так, например, гендиректор компании Anthropic Дарио Амодей неоднократно призывал уделять больше внимания безопасности и озвучивал мрачные прогнозы о будущем.

«Я считаю, что некоторые альтернативные сценарии, нарисованные другими компаниями, довольно пугающие. Я сделаю все, чтобы этого не произошло», — сказал Альтман.

Правда ли ИИ уже выходит из-под контроля

22 июля OpenAI сообщила о «беспрецедентном киберинциденте» во время внутренних испытаний новых моделей искусственного интеллекта. В ходе тестирования разработчики временно отключили часть ограничений, препятствующих выполнению потенциально опасных действий, после чего ИИ-модели получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face (платформа для разработки и публикации ИИ-моделей и инструментов машинного обучения).

Модели сначала нашли и объединили несколько уязвимостей в исследовательской инфраструктуре OpenAI, а затем использовали неизвестную ранее уязвимость «нулевого дня» (zero-day) в программном обеспечении, через которое тестовая среда получала доступ к пакетам.

После этого модели предположили, что на Hugging Face могут храниться данные, необходимые для прохождения теста ExploitGym. Чтобы добраться до них, они использовали украденные учетные данные и нашли способ выполнить удаленный код на серверах компании, получив доступ к закрытой информации. После OpenAI сообщила, что усилит защиту инфраструктуры и поменяет порядок подобных испытаний.

«Главный урок этого инцидента в том, что безопасность и защищенность моделей должны развиваться в темпе быстро растущих возможностей. Мы усиливаем изоляцию, мониторинг, контроль доступа и практики оценки, применяемые при разработке моделей», — заявили в компании.

Читайте также:

Итоговое послание Путина депутатам Госдумы: что сказал, главные заявления

Москвичку уволили из-за нейросетей: DeepSeek, разглашение тайны

Аномальная жара в России: дойдет ли до Москвы, прогноз погоды