Що таке «діпфейки» та чи варто через них хвилюватися

Технолог Сем Ґреґорі пояснює, що являє собою цей інструмент медіаманіпуляції й звідки він з’явився. 

Якщо ви бачили, як Том Круз виконує дивні магічні трюки у TikTok, Дональд Трамп грає партію Сола Ґудмена, дивним чином виконуючи Better Call Saul, або Обама виступає з публічним зверненням, ображаючи знаменитостей вищої категорії, ви стали свідком так званого діпфейку або ж глибокого фейку.

Ці інтелектуальні можливості використання технології дозволяють редагувати голоси, обличчя, і загалом – маніпулювати медіа у цифровий спосіб, вдаючи, ніби хтось сказав чи зробив щось таке, чого він не казав і не робив.

Але яким чином працюють ці зманіпульовані форми медіа, чи варто через них хвилюватися, і чи можуть вони стати проблемою в майбутньому? Журналісти Science Focus поспілкувалися на цю тему з технологом Семом Ґреґорі, щоб дізнатися більше. Mediasat публікує переклад цієї публікації.

Що таке «діпфейк» і звідки походить цей термін?

«Діпфейк» – це термін, який вживається на позначення маніпулювання відео, зображенням, голосом або будь-яким іншим цифровим контентом. Іншими словами, це спосіб, у який ви змушуєте когось виглядати так, ніби вони сказали або зробили те, чого вони ніколи не робили, – каже Ґреґорі.

Однак, являючи собою універсальне поняття, термін «діпфейк» є занадто специфічним для позначення маніпуляцій, пов’язаних із підміною облич. Через це багато хто вважає, що для опису даної технології варто вживати інші терміни.

«Багато хто вважає за краще використовувати терміни на кшталт “синтетичні медіа”, оскільки вони охоплюють підміну облич, дубляж із синхронізацією руху губ, а також можливість зміни положення тіла чи обличчя відповідно до інших джерел. Технологія дозволяє навіть синтезувати події та створювати обличчя, яких ніколи не існувало у природі», – говорить Ґреґорі.

Історія походження терміну є ще однією причиною того, чому багато хто шукає нову назву для опису цих форм цифрових маніпуляцій. Ще у 2017 році користувач Reddit почав використовувати ці інструменти для розміщення облич актрис і знаменитостей у порнографічних відео.

«Ми ніби потрапили в пастку першого слова, що його використав автор, який створював ці сексуальні зображення без згоди. Користувач Reddit називав себе “deepfakes”», – каже Ґреґорі.

Діпфейки – це нова проблема, чи вони існують вже протягом тривалого часу?

Протягом останніх років ми бачимо наростальну увагу до проблеми діпфейків. Але як давно з’явилися такі технології? Чи це щось абсолютно нове, з чим ми зіткнулися лише у сучасну цифрову еру?

«Якщо казати про маніпуляції з медіа, як то можливість редагувати відео чи фото, або навіть маніпулювати ними, – то вони існують у світі вже протягом доволі тривалого часу. А от новітні досягнення, які дозволили поєднати цей процес із глибинним навчанням, – це вже явище сучасне, яке існує десь протягом останніх восьми-дев’яти років, – каже Ґреґорі. – Можливість робити це, використовувати алгоритми, здатні вивчати дані, які ви передаєте, щоб потім створити, наприклад, фальшиве обличчя вашого штучного інтелекту. Це дійсно технічний прогрес, що став можливим в останні 10 років».

Ґреґорі вважає, що, всупереч тому, що дана технологія доступна вже протягом тривалого часу, вона почала притягувати до себе увагу громадськості через те, що є пов’язаною зі світом порнографії, завдяки чому вона й отримала широкий розголос.

Щоправда, він також вважає, що ця технологія, а також потенційні небезпеки, пов’язані із нею, не є до кінця зрозумілою для широкого загалу.

«Навколо всього цього багато галасу. Останніми роками ми бачимо гучні заголовки, які повідомляють про те, що діпфейки можуть зірвати вибори в усьому світі. Але весь цей хайп має дуже мало спільного із реальними загрозами. Таким чином, діпфейки перебувають у центрі уваги громадськості протягом приблизно п’яти років, але часто в такий досить спотворений спосіб, який не показує справжні загрози, які існують».

Чи можуть діпфейки використовуватися для досягнення позитивних цілей?

Здебільшого тему діпфейків або синтетичних медіа розглядають виключно у негативному світлі, але це не означає того, що дана технологія не може використовуватися для досягнення позитивних цілей.

Сем Ґреґорі вважає, що існує принаймні п’ять ключових напрямків позитивного застосування цієї технології:

• Технологію діпфейків можна використовувати для створення потужної сатири та пародій. Ці реалістичні діпфейки дають можливість створювати реалістичні образи політиків і знаменитостей, які, якщо їх позначити як діпфейки, можуть сприяти кращому зануренню у сатиру.
• Попри те, що створення найреалістичнішої версії діпфейків вимагає наявності потужного програмного забезпечення та навичок, існує також багато застосунків для звичайних користувачів. Скориставшись ними, ви можете накладати обличчя знаменитостей на ваше, перетворювати вас на реалістичну версію вашого друга або створювати враження, ніби хтось співає пісню.
• Ще однією сферою позитивного застосування технології діпфейків є сектор кіновиробництва та телебачення. Завдяки технології діпфейку відеоряд не потрібно буде дублювати. Натомість можна відредагувати акторів, аби складалося враження, ніби вони говорять різними мовами, необхідними для фільмів. Однак це, швидше за все, буде дорогим задоволенням і наразі не є реалістичним варіантом.
• Ґреґорі також вважає, що розвиток технології діпфейків може призвести до появи нових способів пошуку контенту. Замість Google та Вікіпедії, які сьогодні видають необхідну інформацію, з вами може розмовляти реалістичний аватар. У сучасному світі, де панує відео, це може стати багатообіцяльною альтернативою.
• І, нарешті, останнім варіантом позитивного використання технології діпфейку, який згадує Ґреґорі, є захист людей. «Був такий фільм – “Ласкаво просимо до Чечні”, в якому брали участь дуже вразливі ЛҐБТ-активісти з Чечні. Тому творці фільму наймали волонтерів, що проживали за межами Чечні, створюючи таким чином на базі їхніх облич нові – діпфейкові, якими замінювали потім обличчя справжніх активістів з Чечні», – каже Ґреґорі.

Чи багато часу й енергії необхідно для створення діпфейків?

Поява сучасних технологій, головним чином – у сфері криптовалюти – викликала багато критики через кількість електроенергії, яка необхідна для їх застосування. А як щодо діпфейків – чи потребують вони для створення неймовірної кількості електроенергії?

«На відміну від Біткойнів та подібних речей вони не потребують великої кількості електроенергії – співмірної з тією, яку витрачає якась маленька країна. Але вони потребують інтенсивних комп’ютерних обчислень, і тому між компаніями, які пропонують розробки для створення відео, мали місце великі перегони за лідерство у створенні комп’ютерної потужності, здатної виконувати ці задачі, – пояснює Ґреґорі. – Створення гарного діпфейку коштує недешево. Розмірковуючи про можливі загрози в майбутньому, варто пам’ятати, що, принаймні станом на цей час, створення по-справжньому якісного діпфейку зі зміною обличчя все ще потребує інтенсивних обчислень. Для досягнення гарних результатів необхідні певні інвестиції у дорогі комп’ютери».

Зображення: Shutterstock