В конце прошлого года внимание всего интернет-сообщества привлёк один раздел портала reddit под названием Reddit r/CelebFakes/. Пользователь под псевдонимом deepfake опубликовал нескольких фальшивых порнороликов со знаменитостями. В числе «жертв» — Галь Гадот, Дейзи Ридли, Мэйси Уильямс и Скарлетт Йоханссон.
Видео получились действительно революционными благодаря нейросети, созданной на основе системы Keras поверх TensorFlow. Чтобы актриса взрослого жанра стала почти идеальной копией голливудской звезды, создатель нейросети «скормил» ей множество кадров со знаменитостями, а затем использовал алгоритм для обработки видео. Результат хоть и получился неидеальным, но очень впечатляющим.
После того как deepfake попал в заголовки многих мировых СМИ, разразился большой скандал. Вскоре администраторы reddit закрыли раздел, а многие сайты, на которых размещались порнофейки или их фрагменты, стали блокировать подобный контент. В их числе оказался и знаменитый Pornhub, сообщивший о своём решение в феврале.
Несмотря на это, на текущий момент на сайте для взрослых до сих пор можно увидеть порядка семидесяти «звёздных» порнофейков. Найти их не составляет никакого труда — пользователю лишь необходимо ввести такие ключевые слова как «deepfake» и «fakedeep». Многие ролики насчитывают сотни тысяч просмотров (только одно видео с Эммой Уотсон набрало порядка одного миллиона). Это свидетельствует о том, что аккаунты, с которых «заливаются» фейки, активны более двух месяцев.
Некоторые из них даже занимаются продажей подобных видео. Один из таких аккаунтов, владелец которого, судя по опубликованной информации, находится в Москве, приглашает потенциальных покупателей в Telegram, где можно обсудить условия сделки. Так, например, вы можете купить один ролик либо взять всё сразу, но с большой скидкой.
Портал BuzzFeedNews обратился за разъяснениями к руководству Pornhub. В своём заявлении вице-президент компании Кори Прайс объяснил, что модераторы сайта удаляют ролики, нарушающие условия обслуживания, «как только узнают об этом». Иными словами, в большинстве случаев сами посетители сайта предупреждают администрацию о запрещённом контенте.
С одной стороны — интернет-сообщество помогает отслеживать Pornhub подобные видео (но таких сетевых дружинников немного), а с другой — сайт сам может сделать так, чтобы по упомянутым выше ключевым словам посетители не смогли ничего найти. Но по понятным причинам руководство ресурса для взрослых этого делать не собирается.