Дипфейк — реалистичная подмена фото-, аудио- и видеоматериалов, созданная с помощью нейросетей. Когда вы смотрите видео, где у модели Dior лицо мистера Бина, а все роли во «Властелине колец» играет Арнольд Шварценеггер, знайте — это и есть дипфейк.
Само название deep fake объединяет в себе «машинное обучение» (machine learning) и «подделку» (fake). Компьютерные алгоритмы научились «оживлять» фотографии, синтезировать голос человека, заменять лица на видео. В итоге появляется контент, внешне (почти) неотличимый от настоящего.
Например, в феврале 2021 года в TikTok появился пародийный аккаунт deeptomcruise , в котором выкладывают дипфейки с Томом Крузом. Ролики записывает пародист актёра Майлз Фишер. Его персонаж движется, говорит, поёт без видимых следов наложения одного изображения на другое.
В 2020 году приобрёл популярность дипфейк, в котором Илон Маск спел песню «Трава у дома» вместо солиста группы «Земляне». Пример употребления на «Секрете» «Помимо фейкньюс мы стоим на пороге новой угрозы — дипфейка, это очень страшная штука.
Вот я стою, и вместо меня на компьютере можно вставить другую голову, другой голос. Если всё это оказывается в руках и головах других ребят, вы представляете, сколько они могут наделать вреда?» (Пресс-секретарь президента России Дмитрий Песков — об опасности дипфейков.
) Нюансы Для создания дипфейков используют генеративно-состязательные нейросети (GAN). Это алгоритмы на базе машинного обучения, которые генерируют новый контент на основе заданного набора.
Например, сети изучают тысячу фотографий Анджелины Джоли и создают новую с чертами и мимикой актрисы. Или накладывают её лицо на видео с другой женщиной. При этом один алгоритм создаёт видео, а второй пытается определить, настоящее оно или нет.
Если второй алгоритм смог обнаружить фальшивку, первый начинает сначала, узнав от алгоритма-напарника о причинах отбраковки. Пара нейросетей действует снова и снова, пока не выдаст результат, который сочтёт достаточно реалистичным.
История В 2014 году технологию разработал студент Стэнфордского университета Иэн Гудфэллоу . В 2017 году она стала широко известной благодаря пользователю Reddit с ником deepfake, который начал с её помощью заменять лица порноактрис лицами знаменитостей.
Вскоре появилась программа, сильно упрощавшая процесс, и порноролики со «звёздами кино» заполнили интернет. Критика Технологию критикуют, из-за того что её можно использовать для мошенничества и манипуляций общественным мнением.
Например, в 2019 году в США распространилось видео с «пьяной» Нэнси Пелоси — спикером палаты представителей и одним из лидеров Демократической партии. Для видео речь политика замедлили , а затем подключили нейросети, чтобы сделать голос естественным.
В начале 2020 года Facebook объявил об ужесточении борьбы с дипфейками, созданными для введения пользователей в заблуждение. А МВД России в мае 2021 года опубликовало тендер на разработку новой системы распознавания лиц.
Программа «Зеркало» должна будет также выявлять дипфейки. Статью проверил:.
Рубрика: Бизнес и Энергетика. Читать весь текст на secretmag.ru.