Лидер справедроссов Сергей Миронов пожаловался в Генпрокуратуру на контент, сгенерированный искусственным интеллектом (ИИ), точнее — нейросетью Kandinsky. Эта сеть, предназначенная для создания иллюстраций, по мнению политика, ведет проукраинскую пропаганду. Коллеги Миронова из «Единой России» соглашаются, что государству придется заняться регулированием ИИ-технологий. Эксперты же полагают, что искусственный интеллект — не более чем инструмент, и наказывать его разработчиков за ЛГБТ-пропаганду или за фейки об армии смысла нет.
Можно ли использовать нейросеть в «ментальной войне» против России?
Лидер фракции «Справедливая Россия — За правду» в Госдуме Сергей Миронов призвал Генпрокуратуру оценить деятельность «Сбера» в сфере разработки искусственного интеллекта, сообщил в среду ТАСС.
«Прошу вас проверить деятельность ПАО „Сбербанк“ в части разработки Kandinsky, целевого использования средств на данный проект, контрагентов при разработке указанного проекта, а также на соответствие действующему законодательству генерируемого Kandinsky контента и в случае необходимости принять необходимые меры прокурорского реагирования», — написал Миронов генеральному прокурору Игорю Краснову.
Как сказано в обращении, при тестировании системы нейросеть генерировала такие ответы на запросы о России, которые заведомо способствуют «формированию ее негативного образа и положительного образа недружественных стран».
Следите за развитием событий в нашем Телеграм-канале
«В частности, при запросах со словом „российский“, „Россия“, „русские“ и даже „российский флаг“, „флаг Российской Федерации“ ни разу не была сгенерирована картинка в цветах флага Российской Федерации, состоящего из трех полос. При этом при запросе „флаг Украины“ и „флаг Америки“ картинки полностью соответствует цветам и дизайну флагов указанных стран», — посетовал лидер фракции. Кроме того, по словам Миронова, при запросе «Донбасс — это Россия» и «Я люблю Донбасс» на картинках преобладают цвета украинского флага.
Правда ли, что нейросеть генерирует только русофобские картинки?
Редакция NEWS.ru провела эксперимент с Kandinsky, но описанная Мироновым ситуация не повторилась. В ответ на запрос «Донбасс — Россия» Kandinsky 2.1 сгенерировала картинку, на которой, напротив, преобладали цвета российского триколора, но, правда, лица изображенных людей были выполнены в карикатурном стиле.
Как предположил Миронов, при создании Kandinsky использованы разработки из недружественных государств, ведущих информационную войну против России, формирующие неприязнь к нашей стране, к государственным символам России. «Особую опасность представляет, что пользователями Kandinsky являются и несовершеннолетние школьники, у которых будет формироваться негативное восприятие своей страны», — говорится в обращении депутата.
Версию своей нейросети «Сбер» выпустил 4 апреля. Kandinsky 2.1 способна за несколько секунд генерировать изображения по их текстовому описанию на естественном языке. Модель знает 101 язык и может смешать несколько рисунков, дорисовать изображение, создать картину в режиме бесконечного полотна. Нейросеть разработали и обучили исследователи Sber. Как писала 10 апреля Lenta.ru, сеть стала самым быстрорастущим сервисом в мире, — ей потребовалось четыре дня, чтобы достичь отметки в миллион уникальных пользователей. ChatGPT от OpenAI потребовалось на это больше времени.
Как Kandinsky дарит любому пользователю авторские права
Бывший советник президента РФ по вопросам развития интернета, председатель совета Фонда развития цифровой экономики Герман Клименко отнесся к инициативе Миронова со скепсисом. Как отметил он в интервью NEWS.ru, разработчики нейросети должны ужесточать свои правила не более чем остальные игроки цифрового рынка.
«Есть понятие изготовления контента, а есть понятие публикации контента. Ведь сети с нами разговаривают. Вы их спросили — они вам сделали. Например, я поговорил с Kandinsky. Он в ответ сгенерировал картинку, которая каким-то образом нарушает запрет на фейки об армии. Пока я с ним общался, я — законопослушный гражданин. Я буду виноват только после того, как опубликую картинку. Kandinsky дарит мне авторские права. Он тут вообще ни при чем», — сказал глава Фонда.
«Вот запретили у нас ЛГБТ-пропаганду. При этом заниматься у себя дома тем, что связано с понятием ЛГБТ, пока можно. Значит, закон будет нарушен только в тот момент, когда я выложу в Сеть картинку или текст, связанный с ЛГБТ», — считает он. «Сети — это просто инструмент, как кухонный нож. Он не плохой и не хороший. Кто-то им режет хлеб, а кто-то — головы. Но за это же нож не отвечает. Это вопрос применения. Вы его применили, извините, будете отвечать по Уголовному или по Административному кодексу», — говорит эксперт.
Почему властям придется регулировать настройки нейросетей
Однако в профильном комитете Госдумы не исключают, что регулировать ИИ-технологии властям все же придется. «Как у любого программного продукта, у нейросети есть свои настройки. Пользователю они недоступны (он может оперировать только запросами), но разработчики могут отрегулировать работу нейросети на достаточно тонком уровне», — заявил NEWS.ru зампред комитета по информполитике, информационным технологиям и связи, единоросс Антон Горелкин.
«Другое дело, что сейчас эти параметры зависят исключительно от этических принципов самих разработчиков — ведь предметного государственного регулирования ИИ-технологий в нашей стране не существует. Но, учитывая их бурное развитие и проникновение во все сферы жизни, необходимость такого регулирования становится все более актуальным вопросом».
Стоит отметить, что Горелкин — автор многих законопроектов, связанных с регулированием Рунета.
Как заявила в понедельник первый зампред комитета Совета Федерации по конституционному законодательству и госстроительству Ирина Рукавишникова, вопрос правового регулирования применения технологий ИИ назрел. В частности, — пора придать статус обязательного Кодексу этики в сфере ИИ, отметила сенатор.
Напомним, в октябре 2021 года правительство и несколько компаний, научно-исследовательских организаций подписали Кодекс этики, который устанавливает общие стандарты поведения в сфере искусственного интеллекта. К кодексу присоединились крупнейшие российские компании, вузы и институты, в том числе Сбербанк, «Яндекс», МТС, «Ростелеком», МФТИ и другие. Среди пунктов кодекса: гуманистический подход, уважение автономии и свободы воли человека, запрет на дискриминацию. Кроме того, представители компаний согласились, что необходимо «знать и соблюдать положения законодательства РФ во всех сферах своей деятельности и на всех этапах создания, внедрения и использования технологий ИИ».
Человек должен знать, что он общается с роботом
Видимо, по совпадению в один день с лидером «Справедливой России» в РПЦ выступили с похожим призывом. Председатель патриаршей комиссии по вопросам семьи, защиты материнства и детства иерей Федор Лукьянов (отец Федор) потребовал установить ответственность разработчиков нейросетей за информацию, транслируемую программой, по аналогии с Китаем. Там такая ответственность закреплена не только в административном, но и в уголовном порядке. Как пишут «Ведомости», отец Федор заодно призвал ввести обязательный дисклеймер для нейросетей, то есть указывать на то, что человек общается с ИИ.
Многие политики считают, что регулировать нейросети необходимо, — к примеру, по их мнению, разработчики должны составлять длинные черные списки терминов, которые нельзя вносить в запросы, напоминают эксперты, — и в некоторых сетях действительно нельзя использовать в запросах термины «убийство», «порно» и тому подобные.
«Да, у зарубежных нейросетей есть свои рамки, — соглашается Клименко. — В сети Midjourney, к примеру, нельзя сгенерировать изображение Си Цзиньпина, а вот Байдена или Путина — можно. Но это запрет самой администрации сети, введенный по каким-то ее личным причинам. Эта история имеет отношение к законам каждой отдельной страны. Разработчики хотят распространяться в Китае, вот они и ввели такой самозапрет, а для Америки им это не мешает».
ФСБ сможет ловить нарушителей из нейросетей?
«Вот и в РПЦ призвали не придавать искусственному интеллекту антропоморфность, — отметил глава Фонда. Видимо, Церковь беспокоит рост числа говорящих аватаров. Это оценочные мнения. Таких суждений, как у священников или у Сергея Миронова, может быть много. Но ведь уже есть Уголовный и Административный кодексы. Все должны им следовать. Зачем акцентировать внимание только на создателях нейросетей? Никакой особой юридической ответственности разработчики нести не должны. Разработчик даже не знает, что пользователь потом попросит. Это не его задача».
Что касается персональной ответственности за нарушение закона об ЛГБТ или о фейках про армию, то администрации сетей всегда знают, кто конкретную картинку сгенерировал, напоминает Клименко. «Скажем, ФСБ интересуется, кто запросил такую иллюстрацию. Администраторы сходили в архив, проверили, установили: это был вот такой-то клиент, платил 20 долларов в месяц. Вот его пусть и наказывают», — подытожил бывший советник президента.
В самом Сбербанке не ответили на запрос редакции NEWS.ru по этому поводу.