«Может привести к тотальному контролю»: Осадчук о будущем ИИ в России
Искусственный интеллект перестал быть футуристической абстракцией — сегодня он незаметно встроен в медицину, развлечения, производство и повседневный быт, и этот процесс уже не остановить. Одни видят в нем шанс многократно усилить свои возможности, другие — угрозу остаться за бортом. О том, чего на самом деле стоит бояться, заменят ли нейросети людей на работе, нужен ли России суверенный ИИ и как противостоять фейкам, в интервью NEWS.ru рассказал руководитель направления «Искусственный интеллект» технопарка «Сколково» Евгений Осадчук.
Чего больше в ИИ — возможностей или угроз
— Искусственный интеллект уже проник во все сферы — от медицины до развлечений. Как вы считаете, что для обычного человека сегодня главная возможность ИИ, а что — главная угроза?
— Главная возможность для человека от ИИ является для него и главной угрозой. Возможности ИИ усиливают желающих их освоить, раскрывая операционный и творческий потенциал человека. Эти же возможности бросают тень на тех, кто не хочет или не может использовать их в своей повседневной деятельности: почему у одних сотрудников производительность растет, а у других она остается прежней? Потому что личная конкурентоспособность за счет ИИ возрастает, а без ИИ — остается на прежнем уровне.
В результате «заряженный на ИИ» человек вытесняет тех, кто не использует ИИ.
У меня был клиент, который занимался пчелами, проще говоря — добывал нам с вами мед. Он встраивал в пчелиные ульи различные датчики, пытаясь найти зависимость между количеством нектара и различными факторами, в том числе расположением пасеки и погодными условиями. Собранные многолетние данные он обрабатывал посредством ИИ. Разве интерес этого пчеловода не заслуживает вознаграждения в виде дополнительного дохода от тонкой настройки своего хозяйства на основании ИИ-рекомендаций?
И это не только на уровне операционных задач, где нужно «быстрее, выше, сильнее». Это работает и на уровне экспертов, которые теперь приходят на помощь лишь в нестандартных ситуациях. Все обыденное и равномерное уже отдано ИИ. В данном случае ИИ быстрее идентифицирует нестандартные ситуации, привлекая эксперта к их разрешению.
— Что вы имеете в виду под «нестандартной ситуацией»?
— Это уникальность компании — вторая составляющая конкурентоспособности после операционной эффективности. То есть ИИ помогает с операционкой, высвобождая время сотрудников для укрепления уникальности своей организации.
Говорят, что ИИ приводит к ослаблению умственных способностей сотрудников. То есть не надо думать над вопросом — просто спроси ИИ — он все ответит. Да, ответит, но этот ответ будет среднестатистическим, наиболее вероятным из существующих, что делает его серым и безвкусным, общераспространенным и, значит, бесполезным. Этот ответ не поможет в конкретной ситуации, даже если ИИ-модель обучена на корпоративных данных, — все равно найдутся факторы и условия, требующие подключения человеческих мозгов и продумывания особенностей действий. Да, ИИ можно долго мучить вопросами, погружая его в уникальный контекст ситуации и формируя все более ориентированный на ваш случай ответ. Но до конца вы нейросеть все равно не погрузите в свою ситуацию, и все равно придется включать свои мозги. Именно тех, кто не хочет включать свою голову, надеясь на ИИ, этот самый ИИ и оставит без работы.
Заменит ли ИИ людей на работе
— Многие боятся, что ИИ заменит их на работе. Насколько эти страхи оправданы? Какие профессии, на ваш взгляд, первыми окажутся под ударом?
— Нельзя говорить о конкретных профессиях — внутри любой из них есть как операционная, так и творческая составляющая. Да, пропорция варьируется, но оба компонента присутствуют всегда. Просто кто-то хочет включаться в задачу, а кто-то — нет.
— А что значит «включаться в задачу»?
— Это значит искать решения — думать, предлагать гипотезы, отбраковывать их и снова размышлять, соединяя свои опыт и ощущения. Сюда же относится желание учиться использовать ИИ для решения этих самых задач, поиска информации и кейсов, реализованных другими. То есть вы должны все больше думать, чем работать руками. Ваши руки — это уже ИИ. Физический ИИ — заберет у вас и ноги. Поэтому останется лишь голова, которой и надо пользоваться, пока не пришел суперинтеллект.
Поэтому в любой профессии будут те, кто проиграет ИИ, и те, кто научится его использовать себе во благо, станет архитектором, создавая механизмы решения стоящих задач через объединение суперсилы ИИ и особенностей конкретной ситуации. А особенности такие будут всегда — мать-природа будет подбрасывать нам бесконечное число вариантов различных задач, что потребует размышлений и адаптации к решению всего набора инструментов, в том числе адаптации инструментария ИИ.
Нужны ли жесткие законы об ИИ и что такое суверенный ИИ
— Ждут ли нас жесткие законы об ИИ, о чем говорит мировой опыт? Что важнее — жесткое регулирование или свобода для развития? Где грань, чтобы не задушить технологии?
— Законы — это в том числе и отражение политики государства. А государства всегда соперничают друг с другом. И если для устранения отставания по ИИ потребуется или больше свободы творчества разработчиков, или больше наживы для предпринимателей — государство все это предоставит, ослабив регулирование.
— Понятие «суверенный ИИ» сейчас на слуху. Объясните простыми словами, что это такое и насколько для России важно иметь собственные технологии в этой сфере?
— Тут нечего объяснять — нельзя подсаживаться на иглу технологий иных государств. Держатели инфраструктуры и технологий должны быть управляемы, то есть находиться в нашей собственной юрисдикции.
— А как разграничить своих и чужих?
— Повесить на своих шильдик производителей суверенных или национальных моделей — все, абсолютно все должно создаваться, обучаться и воспроизводиться в России. Никаких иностранных «примесей», которые в критической ситуации могут просто перестать работать.
Таким образом, модели искусственного интеллекта, разработчиками которых являются российские юридические лица и цикл разработки которых может быть технически и технологически полностью воспроизведен на территории РФ, включая обучение и хранение данных, считаются суверенными моделями искусственного интеллекта.
Ну ладно, можете использовать компоненты или даже целые ИИ-модели зарубежных разработчиков, но они должны распространяться на условиях открытой лицензии, которая не позволит впасть российскому разработчику в критическую зависимость от иностранного разработчика. Такие модели искусственного интеллекта, с ясными контролируемыми условиями использования иностранных компонентов, называются «национальными» моделями. И даже в этом случае ключевые характеристики национальной модели должен определять и изменять российский разработчик.
Полностью определения суверенных и национальных моделей даны в Федеральном законе от 26.07.2026 № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации».
Вот и все. Задача простая — не позволить зарубежным компаниям удаленно манипулировать инфраструктурой, от которой зависит жизнеспособность государства.
— Насколько легко в тех условиях, в которых находится Российская Федерация, разработать суверенную большую фундаментальную модель? То есть насколько возможно обеспечить полную техническую и технологическую воспроизводимость цикла разработки такой модели, а также ее обучение именно на нашей территории?
— Задача, конечно, не из легких, особенно в условиях отставания нашей элементной компонентной базы, трудностей с экспортом видеокарт, физического воздействия на центры обработки данных, историй со встраиванием вредоносного кода в opensource и выявлением недокументированных функциональностей на высокопроизводительных чипах. Однако само наличие у нас суверенных и национальных моделей говорит о том, что обозначенные проблемы все-таки относятся к числу решаемых.
— Насколько регулирование препятствует или содействует развитию ИИ-технологий в России?
— Упомянутый выше 243-ФЗ регулирует модели, содержащие не менее 1 миллиарда параметров. Создание таких моделей под силу только крупным разработчикам систем искусственного интеллекта. Для всех остальных разработчиков регулирование не накладывает серьезных ограничений. Однако в дальнейшем все будет определяться уже отраслевыми актами, создаваемыми соответствующими регуляторами.
И, как обычно, в этом вопросе необходимо соблюсти баланс интересов разработчиков и соблюдения прав граждан.
Вообще, мировая практика постепенно сходится к риск-ориентированной модели: регулируют не искусственный интеллект вообще, а конкретные способы его применения.
Наиболее жесткий вариант реализует Европейский союз: недопустимые практики запрещаются, а для высокорисковых систем в медицине, образовании, найме, критической инфраструктуре и государственных услугах вводятся обязательные требования к данным, документации, управлению рисками, безопасности и человеческому контролю. В последнее время они опомнились и пытаются понизить уровень жесткости собственного регулирования.
США и Сингапур используют более гибкий подход — добровольные рамки управления рисками, отраслевые нормы, тестирование и подтверждение заявленных характеристик систем.
Общая логика одна: чем выше возможный ущерб человеку и обществу, тем строже должны быть требования. Регулировать прежде всего следует последствия применения ИИ: защиту персональных данных, недопущение дискриминации, безопасность и киберустойчивость, прозрачность решений в чувствительных сферах, маркировку синтетического контента, распределение ответственности и порядок реагирования на инциденты.
Развитие ИИ-технологий затрудняется попытками регулировать сами технологии — независимо от сценария их использования, например применение одинаковых требований к бытовому чат-боту и медицинской системе. Кроме того, сдерживающими факторами являются обязательная сертификация решений до проведения экспериментов, неясные и постоянно меняющиеся нормы, а также расходы на соответствие, непосильные для стартапов.
Хорошее регулирование задает проверяемый результат и допустимый уровень риска, но не предписывает разработчику конкретный алгоритм. Для новых решений регулирование предусматривает регуляторные песочницы и поэтапное введение требований.
— А на каком пути — жесткого или гибкого регулирования — находится сегодня Россия?
— Российская юрисдикция сегодня находится ближе к гибкой, стимулирующей развитие части этого нормативного спектра. 243-ФЗ закрепляет риск-ориентированный подход к большим фундаментальным моделям, требования к суверенности и национальному контролю, маркировке ИИ-контента и использованию результатов интеллектуальной деятельности; одновременно сохраняется возможность экспериментальных правовых режимов.
Таким образом, Россия пока не пошла по пути столь же всеобъемлющего регулирования, как ЕС, и делает ставку на рамочные правила плюс отраслевые ограничения. Ключевая задача — не допустить распространения ограничений, рассчитанных на крупнейшие модели и высокорисковые применения, на весь рынок. В противном случае затраты на соблюдение норм начнут защищать крупных игроков от конкуренции вместо защиты граждан от реального вреда.
Может ли ИИ выйти из-под контроля и как его используют компании
— Если говорить о безопасности: может ли ИИ выйти из-под контроля? Или опасность не в «восстании машин», а в том, как люди используют технологию?
— Да, опасность скорее в том, как мы сами используем технологию, какие ограничения устанавливаем, чтобы эти технологии не выходили за грань дозволенного. Ведь все эти истории с «выходом из-под контроля» были связаны с тем, что либо агенту не дали четких ограничивающих правил, либо системы, через которые действовал агент, тоже не имели своих ограничителей. А для цифровых систем — что не запрещено, то разрешено, поэтому мы и получаем истории о «восстании машин».
— Компании все чаще внедряют ИИ для слежки за сотрудниками, оценки поведения, подбора кадров. Этично ли это? Как считаете, нужно ли ограничивать такое применение?
— Я считаю это плохим тоном. Это ведь кнут — а многого кнутом не добьешься. Лучше избавляйте людей от рутины при помощи ИИ и создавайте условия для творчества. Да и ничего другого просто не остается — в условиях, когда операционной эффективностью занимаются машины, а людям остаются нестандартные ситуации, требующие творческого решения, принудительные меры просто не работают.
Да, придется расстаться с теми, кто не хочет придумывать и изобретать. Ну что же, безусловный базовый доход им в помощь.
Как ИИ меняет экономику и что делать с фейками
— Как ИИ сегодня меняет экономику? Сможет ли он обеспечить рост или, наоборот, приведет к росту неравенства между странами и внутри стран?
— ИИ, безусловно, обеспечит рост, особенно когда мы научимся получать выгоды от ИИ не в каком-то отдельном элементе, а по всей цепочке создания стоимости.
Но основной вопрос не в этом. Главный вопрос в распределении всех тех благ, которые обеспечиваются научно-техническим прогрессом. Если эти блага будут идти в один карман, оставляя население ни с чем, то ИИ будет проклят. Если же система сможет распределять доходы более-менее равномерно, вознаграждая новаторов за их инициативу, то все будет неплохо.
— Что делать с фейками и дипфейками, которые создаются с помощью ИИ? Как обычному человеку защититься от дезинформации?
— Обычный человек уже не сможет защититься от такой дезинформации — у него просто нет соответствующих ресурсов, да и психологически противостоять многократно повторяемой фейковой информации мало кто из нас готов. Именно поэтому речь идет о маркировке ИИ-контента: если оная отсутствует, то производитель такого контента сразу вызывает подозрения у добропорядочных граждан.
Ну а в целом защиту от ИИ-фейков может предоставить только государство, располагающее инфраструктурой для противодействия.
— Насколько мы зависим от зарубежных ИИ-сервисов (ChatGPT, Google и т. п.)? Есть ли риск, что они могут быть отключены или использованы против нас?
— Конечно, мы зависимы. Нам кажется, что что-то работает лучше отечественного. И, конечно, эта зависимость может быть использована против нас. Но людей это мало волнует — им надо выполнять текущие задачи.
С теневым ИИ бороться не так-то просто. Единственный надежный путь — предлагать решения лучшие, чем те, которые предлагают зарубежные разработчики. И тут надо активно вкладываться.
— Если заглянуть в будущее на 10 лет, каким вы видите мир с ИИ? Что изменится в повседневной жизни?
— ИИ — это просто инструмент. Он может облегчить нам жизнь, а может привести к тотальному контролю. Все будет зависеть от людей, а не от ИИ. ИИ — это всего лишь отражение нашей действительности. Чему мы его научим, то он и вернет нам в будущем.
Читайте также:
ИИ уничтожит человечество к 2100 году: пять сценариев вымирания
США хотят отключать ИИ по всему миру: Россия уже готова ответить
Роботы заменят мигрантов на стройках? Кого ИИ оставит без работы в 2026-м
