Джерело: hromadske.

Росія вже перейшла до конвеєрного виробництва ШІ-відео, роблячи ставку на кількість.

Ще кілька років тому головною загрозою в інформаційній війні вважали підроблені відео із відомими політиками, військовими чи публічними людьми. Дипфейки мали одну особливість: вони використовували реальну людину, яку намагалися змусити «сказати» те, чого вона ніколи не говорила.

Сьогодні ситуація змінилася. Російські пропагандистські мережі дедалі частіше створюють не фальшиві версії реальних людей, а повністю вигаданих персонажів. Їхні обличчя, голоси, історії та навіть емоції створює штучний інтелект.

Ці люди ніколи не існували. Але їхні слова бачать сотні тисяч користувачів.

Вигадані герої для реальних маніпуляцій

У соціальних мережах поширюються відео, де нібито військові, експерти, представники релігійних громад чи чиновники коментують політичні та суспільні теми. На перший погляд такі ролики можуть здаватися звичайними інтерв’ю або особистими зверненнями.

Проте за цими персонажами немає реальних біографій. Це цифрові образи, створені за допомогою ШІ.

Такий формат дозволяє пропаганді діяти ефективніше. Анонімний текст у мережі викликає менше довіри, ніж людина, яка дивиться просто в камеру. Навіть вигаданий військовий у формі або створений комп’ютером «експерт» сприймається аудиторією як свідок подій.

Саме на цьому й побудований принцип так званих синтетичних авторитетних фігур — персонажів, які виглядають представниками певної соціальної групи та використовуються для просування потрібних наративів.

«Дипфейки відомих осіб, наприклад, Зеленського, соцмережі навчилися розпізнавати й видаляти відносно швидко, однак безіменні фейки “військових” або “чиновників” можуть крутитися в алгоритмах тижнями, збираючи мільйони переглядів», — зазначили дослідники Molfar Intelligence.

Пропаганда, яка грає на емоціях

Головна сила таких відео — не в якості графіки, а в емоційному впливі.

Пропагандистські ролики зазвичай торкаються тем, які вже викликають напруження у суспільстві: мобілізації, корупції, відносин між владою та громадянами, соціальної нерівності.

Наприклад, у деяких відео створені штучним інтелектом військові розповідають про нібито байдужість керівництва держави до солдатів. В інших вигадані персонажі поширюють радикальні заяви щодо людей, які уникають служби.

Мета таких повідомлень — не лише переконати людину у конкретній тезі. Важливіше викликати сильну реакцію: обурення, страх, розчарування або недовіру.

Коли користувач емоційно реагує, він частіше залишає коментар, ділиться відео або вступає у суперечку. Для алгоритмів соцмереж це сигнал, що контент цікавий аудиторії. У результаті ролик отримує ще більше поширення.

Виходить парадокс: люди можуть поширювати пропаганду навіть тоді, коли вони з нею сперечаються.

В одному з відео, створених за допомогою штучного інтелекту, згенерована ведуча запитує чоловіка, представленого як рабин, про ухилянтів. У відповідь вигаданий персонаж стверджує, що людей, які уникають військової служби, потрібно позбавляти українського громадянства. Після цього він заявляє, що Україна належить «нам, справжнім українцям». Автори дослідження зазначають, що таким чином відео просуває ще й антисемітський наратив про нібито належність України євреям.

ШІ зробив виробництво фейків дешевшим

Раніше створення переконливого фальшивого відео вимагало професійного обладнання, часу та спеціальних знань. Тепер значна частина інструментів доступна практично кожному.

Це дозволило перейти від поодиноких інформаційних атак до масового виробництва.

Якщо раніше пропагандистам потрібно було створити один якісний дипфейк із відомою людиною, то тепер вони можуть генерувати десятки різних роликів із вигаданими персонажами.

Такі відео складніше відстежувати. Реальну людину можна перевірити: знайти її сторінки, заяви, місце роботи. Вигаданого героя перевірити неможливо — його просто немає.

Саме це дає перевагу організаторам інформаційних операцій.

Як розпізнати відео, створене штучним інтелектом

Попри розвиток технологій, ШІ-відео часто залишають певні сліди.

Серед можливих ознак:

• неприродна міміка/відсутність мікроміміки або дивні рухи обличчя;
• штучне моргання;
• невідповідність рухів губ і голосу;
• надто «ідеальна» зовнішність персонажа;
• відсутність інформації про людину у відкритих джерелах;
• одночасна поява схожих відео на різних платформах.

Також варто звертати увагу на джерело поширення. Якщо ролик публікує сторінка без історії, без реальних авторів і з великою кількістю однакових коментарів, це може бути ознакою штучного просування.

Найважливіше правило — перевіряти інформацію через незалежні джерела.

Одне відео, навіть дуже переконливе, не є доказом правдивості.

Згенерований вигаданий персонаж. Скриншот / Facebook

Чому платформи не встигають за фейками

Соціальні мережі поступово впроваджують правила щодо позначення контенту, створеного штучним інтелектом. Однак проблема полягає у швидкості.

Фейковий ролик може за кілька годин отримати величезне охоплення, тоді як перевірка фактів і видалення контенту займають значно більше часу.

Крім того, технології генерації відео розвиваються швидше, ніж механізми контролю.

Тому боротьба з такими маніпуляціями потребує не лише технічних рішень, а й підготовленої аудиторії.

Медіаграмотність як захист від цифрової брехні

Повністю заборонити використання штучного інтелекту неможливо. Ця технологія буде розвиватися, а разом із корисними застосуваннями з’являтимуться і спроби використати її для маніпуляцій.

Саме тому важливим стає розвиток критичного мислення.

Користувачам потрібно звикати ставити прості запитання:

Хто говорить у цьому відео?
Чи існує ця людина?
Чому інформація з’явилася саме зараз?
Хто отримує вигоду від її поширення?

У світі, де штучний інтелект навчився створювати переконливі обличчя та голоси, здатність перевіряти інформацію стає такою ж важливою, як уміння користуватися технологіями.

Бо найбільша небезпека таких відео не в тому, що вони виглядають штучними. А в тому, що вони можуть виглядати достатньо справжніми, щоб їм повірили.