Бум штучного інтелекту дав світові не тільки чат-ботів, а й новий вид цифрових фальсифікацій - діпфейки. Це технології, які дають змогу створювати вкрай правд оподібні фальшиві фото, відео та аудіозаписи.

РБК-Україна розповідає, як не попастися на фейкові фото, відео та аудіо, з посиланням на технологічний сайт PCWorld.

Що таке діпфейк

Термін deepfake походить від поєднання слів deep learning (глибоке навчання) і fake (підробка). Це може бути, наприклад, відео, де обличчя однієї людини замінено на обличчя іншої, або аудіо, де "відомий голос" говорить те, чого ніколи не вимовляв.

Раніше на створення таких фейків були потрібні ресурси і навички. Тепер же завдяки доступності АІ-сервісів, навіть онлайн, створити діпфейк може практично будь-який користувач.

Навіщо використовують діпфейки

Творці таких додатків часто позиціонують їх як розважальні. Але на практиці вони все частіше використовуються шахраями:

• ШІ-імітація голосу родича: зловмисники телефонують, повідомляють про "аварію" і просять переказати гроші
• Підроблене відео з політиками - щоб маніпулювати громадською думкою
• Неправдива реклама за "участю" зірок - коли людина не знала, що її обличчя використали в рекламі, а товар може бути неякісним або зовсім не доставляється.

Як розпізнати діпфейк

У перші роки розпізнати фейк можна було за візуальними і звуковими огріхами: дивна міміка, неприродна інтонація. Але технології розвиваються, і зараз відрізнити підробку стає дедалі важче.

Сьогодні в інтернеті доступні спеціальні АІ-сервіси, які аналізують зображення і відео. Один із найбільш просунутих - Deepfake-o-Meter, розроблений лабораторією медіакриміналістики Університету Буффало (США).

Він об'єднує 16 АІ-систем, які перевіряють завантажені користувачем фото, відео або аудіо та видають імовірність підробки. Доступ до сервісу безкоштовний - після реєстрації ви отримуєте 30 перевірок.

Наприклад, знамените фото Папи Римського Франциска в білому пуховику, створене за допомогою Midjourney, тільки дві системи розпізнали як діпфейк з імовірністю понад 50%. А ось портрет, згенерований Canva, було визначено як ШІ-зображення в 7 випадках із 16.

На зображенні Папи тінь не збігається з оправою окулярів, а хрестик на ланцюжку висить тільки з одного боку (фото: Reddit)

Сервіс Sightengine (Франція) працює швидше і дав 99% ймовірності фейку для зображення жінки, згенерованого ШІ. Однак щодо фото з Папою - лише 53%.

Жодна з програм розпізнавання, що використовуються в Deepfake-o-Meter, не визначила зображення Папи Франциска в білому пуховику як достовірний діпфейк (фото: IDG)

На що звертати увагу вручну: 5 ознак діпфейків

Навіть без спеціальних програм підробку можна розпізнати - достатньо уважно придивитися:

• у ШІ часто виникають помилки з кількістю або довжиною пальців, вони можуть бути зайвими, короткими або зрощеними
• руки і ноги можуть бути розташовані дивно або зовсім не "належати" персонажу
• неприродний кут падіння пасом волосся, "пластиковий" вигляд
• асиметрія ґудзиків, зламані окуляри, незамкнуті ланцюжки
• неприродні тіні, розмиття, спотворення
• шрифти виглядають як павукоподібні, нерозбірливі символи
• на задньому плані часто можна помітити неправильні тіні або невідповідності в пропорціях.

Відео майже не відрізнити від реальності

З появою відеогенератора Sora від OpenAI у 2024 році діпфейки вийшли на новий рівень. Сотні реалістичних роликів, створених цією системою, вже можна знайти на YouTube. За якістю вони часом не поступаються професійній зйомці.

Розпізнати такі відео дедалі складніше, проте безкоштовні онлайн-інструменти все ще існують. Один із них - Deepware.ai, інший - Hive AI Detector. Перший повністю безкоштовний, другий дає змогу перевіряти відео тривалістю до 20 секунд у безкоштовній версії.

Під час тестування роликів, згенерованих за допомогою Sora, Deepware показав себе слабко - не розпізнав жодного фейку. Натомість Hive спрацював значно краще: у всіх випадках програма вказала ймовірність діпфейку 99%.

Ознаки, за якими можна розпізнати діпфейк-відео

Навіть без спеціальних програм деякі ознаки видають підроблене відео:

• Нечіткі або "павукоподібні" шрифти - текст на екрані неможливо розібрати
• Неправильні тіні - вони відкидаються в несподіваних напрямках або зовсім відсутні
• Неспівпадіння фону з рештою сцени - часто роздільна здатність ззаду гірша, ніж у людей на передньому плані
• Неприродна поведінка людей - рухи сповільнені, обличчя без міміки, моргання може бути відсутнім
• Помилки з волоссям - пасма ніби висять у повітрі і не з'єднані з головою.

Щоб помітити багато з цих деталей, іноді достатньо сповільнити відео.

Аудіодипфейки (все частіше використовують у шахрайстві)

ШІ тепер здатний імітувати голос людини всього за кількома секундами запису. Програма на кшталт Real Time Voice Cloning може озвучити будь-який текст голосом іншої людини.

Технологія ще не ідеальна - за дослідженнями, у двох із трьох випадків люди можуть розпізнати фальшивку. Але вже зараз злочинці успішно використовують діпфейк-голоси для "дзвінків від родичів" із проханнями про допомогу.

Інструменти для розпізнавання фейкових голосів

Поки що більшість рішень орієнтовані на англомовний ринок:

• McAfee Deepfake Detector - перевіряє відео та аудіо на підроблені голоси. Доступний на ПК із процесорами Intel Core Ultra 200V
• Resemble.ai і AI Voice Detector - комерційні рішення для корпоративних клієнтів
• Hiya AI Voice Detector - безкоштовне розширення для Google Chrome, яке аналізує голосові записи на сайтах.

Вас може зацікавити:

• Meta почала процес запуску персонального ШІ
• Моделі ШІ почали заражати одна одну "агресивними" даними
• Google інтегрував ШІ-відео на базі Veo в популярні додатки