Еще пару лет назад невозможно было создать реалистичный дипфейк без большого количества имеющихся в распоряжении изображений. Постобработка черт лица была достаточно трудозатратной, а создаваемые модели не работали достаточно быстро, чтобы стабильно отображать дипфейки в реальном времени. Сегодня все изменилось, правдоподобные дипфейки все чаще используются в видеороликах самой разной направленности, даже в прямых трансляциях.
Технология дипфейков стремительно совершенствуется
В финале текущего сезона телешоу America’s Got Talent («Америка ищет таланты») участники от стартапа Metaphysic представили выступление «с лицом» судьи конкурса телеведущего Саймона Коуэлла. Дипфейк транслировался по ТВ в реальном времени.
Стартап создает дипфейки с помощью не одной, а нескольких ИИ-моделей, каждая из которых обрабатывает различные части лица человека. К примеру, одна модель может отвечать лишь за движения бровей, а другая – губ. Крис Уме, являющийся одним из ведущих дипфейк-художников в мире, работает в команде Metaphysic. Именно он создал ролики с актером Томом Крузом, которые имели вирусный успех в интернете полтора года назад. Уме гордится тем, что создает максимально похожие модели, прорабатывая каждую морщинку и микрожест и добиваясь безупречной имитации.
Компания Metaphysic участвовала в шоу талантов отчасти для того, чтобы показать уровень развития технологии. По словам ее бизнес-партнера Тома Грэма, ребята хотели подтолкнуть людей отказаться от старой идеи: «верю, потому что вижу». Сейчас в интернете доступны программы, позволяющие без особых технических навыков создавать довольно похожие дипфейки. Технология улучшается настолько быстро, что удивляет даже тех, кто следит за ее развитием.
ИИ-модели уверенно шагнули в рекламу
В прошлогодней серии рекламных роликов «Мегафона» Брюс Уиллис помог обезвредить бомбу и спел песню у костра, и, как выяснилось, он неплохо может говорит по-русски. Но дело в том, что актер не снимался в роликах – это дипфейк.
Несколько раньше «Сбер» в своей рекламе «вернул» молодого Леонида Куравлева в образе Жоржа Милославского из картины Леонида Гайдая. Внешность персонажа воссоздали с помощью искусственного интеллекта и синтезировали голос актера.
Но если у нас это пока отдельные запоминающиеся случаи, то в США уже обыденность. Из последнего: в сентябре в ролике для компании по разработке технологий МО Paperspace засветились цифровые образы Тома Круза и Леонардо ДиКаприо, а в октябре компания по инвестициям в недвижимость reAlpha Tech Corp использовала в своем видео дипфейк Илона Маска. При этом некоторые компании все же предупреждают зрителей о том, что перед ними дипфек.
Так, по утверждениям директора по маркетингу Кристи Карри, в видео с Илоном Маском reAlpha включила предупреждение о том, что это пародия. Такая же информация была указана и в прошлогоднем ролике компании, где дипфейк главы Tesla сидит в пенной ванне и объясняет концепцию инвестирования по положению акционерного краудфандинга.
ИИ-модели знаменитостей все чаще используют в рекламе из-за низких затрат и высокой скорости производства. Технология позволяет маркетологам сотрудничать с известными людьми, избавляя их от необходимости появляться на съемочной площадке, что снижает затраты на маркетинг и открывает новые возможности для креатива. При этом все чаще используют несогласованные дипфейки, что создает серую правовую зону. Знаменитостям не просто остановить их распространение и манипулирование их личным брендом и репутацией. Неизбежно возникает ряд юридических и этических вопросов.
Дипфейки активно используют мошенники
Еще хуже, чем несогласованные дипфейки в рекламе, это когда технология используется киберпреступниками. Компания Group-IB, занимающаяся проблемами информационной безопасности, утверждает, что число криптоафер от имени знаменитостей выросло в пять раз. Специалисты говорят об увеличении количества YouTube-трансляций, используемых мошенниками для того, чтобы завлечь потенциальных жертв на свои сайты.
Применяемая схема получила название Fake Crypto Giveaway. Потенциальным жертвам мошенников предлагали переходить по ссылкам из видео, обещая удвоить вложенные суммы. Многие переводили криптовалюту по указанному адресу или же делились с мошенниками seed-фразой, в результате чего теряли часть или даже все свои криптоактивы.
В списке знаменитостей, чьи образы использовали мошенники, оказались Илон Маск, Криштиану Роналду, сооснователь криптопроекта Ethereum Виталик Бутерин и даже президент Сальвадора, где биткоин является законным платежным средством, Найиб Букеле.
