Європейські учасники переговорів погодили заборону на застосунки та системи штучного інтелекту, які створюють сексуалізовані зображення людей без їхньої згоди. Для ШІ-компаній це означає нові обмеження, а для користувачів – спроба закрити одну з найнебезпечніших зон генеративного ШІ. Країни ЄС та учасники переговорів з Європарламенту домовилися заборонити ШІ-інструменти, які використовуються для створення сексуалізованих deepfake без згоди зображеної особи.
Про це повідомляє AFP з посиланням на головування Кіпру в Раді ЄС. Йдеться про застосунки та системи, здатні генерувати, змінювати або відтворювати інтимні зображення реальних людей без їхнього дозволу. В європейській дискусії такі сервіси часто називають nudification apps – інструментами, які дають змогу «роздягати» людину на фото або створювати фальшиві сексуалізовані зображення.
Нова норма має стати частиною змін до європейського закону про штучний інтелект. Формально це ще не означає, що заборона вже набула чинності для всіх компаній: узгоджений текст повинен пройти подальше затвердження в межах законодавчої процедури ЄС. Приводом для прискорення регулювання стали скандали навколо генерації сексуалізованих deepfake, в тому числі за участю неповнолітніх та публічних жінок.
Європейські політики стверджують, що такі інструменти створюють масштабний ризик для приватного життя, репутації, безпеки та психологічного стану жертв. У березні Європарламент вже підтримав заборону таких ШІ-застосунків. Тоді німецькі ЗМІ писали, що Брюссель хоче усунути правову прогалину: сам факт поширення інтимних матеріалів без згоди вже вважається формою кібернасильства, але окремі ШІ-системи, які дають змогу швидко створювати такі зображення, потребували прямої заборони.
Тепер йдеться про політичний компроміс між Європарламентом та Радою ЄС. За даними The Next Web, пакет також змінює терміни застосування частини норм AI Act: обов'язки для деяких високоризикових ШІ-систем можуть бути перенесені на грудень 2027 року, а для систем, вбудованих у регульовані продукти, – на серпень 2028 року. Для бізнесу це важливий сигнал.
ЄС не лише вводить загальні правила для штучного інтелекту, а й окремо забороняє конкретні шкідливі застосування технології. Під удар можуть потрапити сервіси, які будують продукт навколо генерації інтимних зображень без згоди, а також платформи, які не впроваджують достатні захисні механізми. Для користувачів практичне значення ще ширше.
Deepfake вже перетворився не лише на політичну чи розважальну проблему, а й на інструмент цькування, шантажу, репутаційних атак та цифрового насильства. Особливо вразливі жінки, підлітки, публічні особи та люди, зображення яких легко знайти в соцмережах. Українські користувачі працюють з тими ж глобальними ШІ-сервісами та соцмережами, що й мешканці ЄС.
Якщо європейські правила змусять платформи блокувати небезпечні функції та швидше видаляти такі матеріали, це може вплинути на стандарти захисту користувачів далеко за межами Євросоюзу. Для компаній, які створюють або впроваджують ШІ-продукти, новий курс ЄС означає потребу заздалегідь думати про запобіжні заходи: фільтри, обмеження на завантаження чужих зображень, механізми розгляду скарг, маркування згенерованого контенту та відповідальність за шкідливі функції. Головний висновок: в Європі регулювання ШІ переходить від загальних розмов про ризики до заборони конкретних інструментів.
Генеративний ШІ залишається ринком, що швидко зростає, але сервіси, які монетизують створення інтимних deepfake без згоди, в ЄС прагнуть вивести за межі закону. За матеріалами: AFP/The Star, The Next Web, ZDF, The Verge
