Мы пытались создать дипфейк Марка Цукерберга и Алекса Джонса — и потерпели неудачу. Вот что произошло.

Сделать вид, что кто-то сделал или сказал что-то, чего никогда не было, сложнее, чем кажется.

Это то, что Пойнтер узнал за последние несколько недель, пытаясь создать «дипфейк» видео Алекса Джонса, ведущего Infowars и частого теоретика заговора, в котором высказываются замечания, которые на самом деле были сделаны генеральным директором Facebook Марком Цукербергом. дипфейки, назван в честь пользователя Reddit которые придумали этот метод, по сути создаются путем извлечения большого количества кадров из одного видео и наложения их друг на друга.

Цель: создать впечатление, что кто-то делает или говорит что-то, чего он не делает. Именно это и пытался сделать Пойнтер, чтобы увидеть, насколько на самом деле легко использовать эту технологию.

С использованием Поддельное приложение , бесплатный онлайн-инструмент, который позволяет пользователям создавать свои собственные дипфейки, мы попытались создать элементарное видео, в котором Цукерберг излагает безосновательные теории заговора Джонса. Ниже представлено видео, созданное с помощью веб-разработчика Poynter Уоррена Фриди, работающего неполный рабочий день.

Ясно, что это не лучшая версия того, что любительское порно , люди на второстепенных сайтах и даже политические партии стали пугающе опытными в этом. Хотя лицо Цукерберга действительно наложено на лицо Джонса, в FakeApp было включено все его лицо, что сделало его похожим на какого-то размытого демона без различимых глаз. Тогда есть тот факт, что звук не транспонировался.

Короче говоря: мы должны сохранить нашу основную работу.

Шутки в сторону, нам потребовались недели, чтобы придумать что-то, что далеко даже от сносного дипфейкового видео. И это потому, что — несмотря на частое освещение в средствах массовой информации технологии дипфейков — на самом деле это очень сложно создать один.

«Дипфейк требует значительных ручных усилий», — сказал Маттиас Нисснер , профессор Мюнхенского технического университета, чья лаборатория исследования deepfakes в электронном письме Пойнтеру. «В каком-то смысле это похоже на Photoshop. Это просто немного преувеличено».

Распространение дипфейков, которое обсуждалось сегодня во время дискуссии на Глобальном саммите по проверке фактов в Риме, превратилось из жуткой интернет-вещи в настоящую угрозу демократии, согласно Катящийся камень . Vox написал что обработанные видео могут изменить наши воспоминания, Грань сказал создание дипфейковых порновидео скоро станет очень простым и Проводной даже покрыт блокчейн-стартап, посвятивший себя борьбе с этим форматом.

В то же время, некоторые сообщили что с обычными дипфейками уже покончено, а «глубокие видеопортреты» — это то, о чем нам всем следует беспокоиться.

Между тем, после более чем месяца попыток, мы едва смогли создать что-то, что выглядело бы хоть немного реалистично. Конечно, это можно (по праву) списать на наше собственное незнание моделей машинного обучения — разное журналисты добились большего успеха, но дело в том, что создать значительно измененное видео еще не так просто, как разместить фальшивую новость на Facebook (и, вероятно, не так прибыльно).

«Я не думаю, что люди без какого-либо опыта в области глубокого обучения могут создать убедительное видео с дипфейками, используя приложение для дипфейков, доступное онлайн», — сказал он. Аннализа Вердолива , доцент Неаполитанского университета имени Федерико II, в электронном письме Пойнтеру. «Даже для опытных людей это довольно сложно».

Вердолива попыталась создать свое собственное видео с дипфейками вместе с исследовательской группой и сказала, что получилось плохо, потому что они не получили достаточного количества вариаций изображений, чтобы точно обучить модель, создающую дипфейк. Это ключевая проблема и для потенциальных мистификаторов, таких как Пойнтер.

Вот шаги, которые мы предприняли:

1. Мы скачали FakeApp и установили его на удаленный рабочий стол Windows (Пойнтер использует почти исключительно компьютеры Mac, с которыми FakeApp несовместим).
2. Мы скачали два видеоклипа — один из Цукербергов говоря о расследовании вмешательства России в выборы в США в 2016 году, и еще один Джонс говоря о «глубинном государстве» и политической программе президента Дональда Трампа. Это дает FakeApp множество изображений лиц на выбор.
3. Мы позволяем «искусственному интеллекту», на котором работает FakeApp, находить и обрезать лица в каждом видео, чтобы создать модель машинного обучения, которая объединила бы Джонса и Цукерберга, чтобы было похоже, что первый говорит так же, как второй. Это заняло все выходные, или около трех дней.
4. Наконец, FakeApp сгенерировал видео. Фриди сказал, что он мог бы тренировать модель дольше и с большим количеством фотографий лица Цукерберга, чтобы сделать ее более точной, но это заняло бы больше времени.

Теперь самое интересное. Вот некоторые из проблем, с которыми мы столкнулись при использовании FakeApp:

1. Вы не можете запустить FakeApp на macOS от Apple — у нас он работал только на Windows.
2. Вы должны иметь видеокарта на базе NVIDIA , который по сути представляет собой аппаратное обеспечение, позволяющее обрабатывать все изображения и объединять их вместе.
3. У вас должно быть много памяти на вашем компьютере — около 10 ГБ или около того.
4. Мы столкнулись с проблемами совместимости с различными версиями TensorFlow, программной библиотеки, которая позволяет FakeApp создавать свою модель машинного обучения.
5. Мы вытащили звук из исходного видео, чтобы попытаться вставить его в дипфейк, но FakeApp ничего с ним не сделал.

«FakeApp звучит хорошо, но когда вы садитесь попробовать его, оно не работает на 100%», — сказал Фриди. «Это не инструмент из коробки».

Поддельное приложение как сообщается, был скачали более 100 000 раз. Существуют целые каналы 4chan и Reddit, посвященные созданию дипфейков. Но на данный момент технология в лучшем случае находится в зачаточном состоянии — даже для тех, кто знает, как правильно ее использовать.

(Скриншоты из FakeApp)

Фриди сказал, что такие технологии, как Адобе Афтер Эффекты а также лирохвост , так же как Лицо2Лицо а также Pixel2Пиксель , вероятно, будет лучше для создания дипфейкового видео. S.pa, бельгийская политическая партия, создал дипфейк Трампа в прошлом месяце использовал After Effects.

Несмотря на сложность инструмента, дипфейковые видео по-прежнему вызывают беспокойство — просто не в ближайшем будущем и с некоторыми оговорками.

«Мы находимся только в начале этой технологии, и я думаю, что вскоре она улучшится и станет простой в использовании для всех», — сказал Вердолива. «На данный момент разрешение все еще слишком низкое, но это станет проблемой в ближайшем будущем, потому что был достигнут ошеломляющий прогресс в создании высококачественных синтетических лиц».

В то же время непонимание и чрезмерное преувеличение влияния и потенциала дипфейков может представлять большую угрозу в краткосрочной перспективе.

«На данный момент меня больше всего беспокоит неправильное понимание многих из этих подходов», — сказал Нисснер. «Последние 30 лет киноиндустрия делала довольно реалистичные «поддельные» изображения. Но теперь, добавив ИИ в качестве модного словечка, он внезапно становится проблемой — даже несмотря на то, что он работает не так хорошо».

Дипфейк видео будут обсуждаться сегодня на панели Global Fact 5. Следите за новостями @factchecknet и #GlobalFactV.