Іспанський уряд закликав розпочати розслідування щодо соцмереж X, Meta та TikTok через їхню ймовірну причетність до створення й поширення AI-згенерованих матеріалів сексуального насильства над дітьми.
«Рада міністрів застосує статтю 8 Органічного статуту Державної прокуратури, щоб попросити її розслідувати злочини, які X, Meta і TikTok можуть чинити через створення та розповсюдження дитячої порнографії за допомогою їхнього AI», — wrote у вівторок на X прем’єр-міністр Іспанії Педро Санчес. Він заявив, що платформи «посягають на психічне здоров’я, гідність і права наших синів і дочок», і наголосив, що «безкарність гігантів має закінчитися».
Іспанія посилює тиск на соцмережі загалом. Виступаючи на World Government Summit у Дубаї на початку цього місяця, Санчес announced про намір заборонити соціальні мережі для дітей до 16 років, а також про низку інших кроків, спрямованих на регулювання платформ. Запропонована заборона, яка ще потребує схвалення парламенту, з’явилася після того, як Австралія стала first country in the world, що запровадила таке обмеження в грудні, і на тлі ініціатив інших держав, зокрема Франції та Данії, які також рухаються в бік подібних правил.
Read more: Where Efforts to Ban Social Media for Kids are Taking Place
Тоді Санчес дорікав технологічним гігантам за те, що вони не блокують — а інколи навіть створюють — незаконний сексуалізований контент, і назвав соціальні мережі «проваленою державою», де «закони ігнорують, злочини терплять, дезінформація ціниться більше за правду, а половина користувачів стикається з мовою ненависті».
Техномільярдер Ілон Маск, власник X, назвав спроби заборонити соцмережі для користувачів молодше певного віку «madness» і після дубайських заяв Санчеса described його як «тирана й зрадника народу Іспанії».
Meta відмовилася коментувати заклик Санчеса до прокурорів розслідувати діяльність компаній, але повідомила TIME, що її AI-інструменти навчені не виконувати запити на генерацію оголених зображень; що вона забороняє так звані додатки «nudify», які можуть використовуватися для створення відвертих зображень людей, у рекламі на своїх платформах; і що в компанії діють жорсткі правила проти експлуатації дітей.
Представник TikTok у заяві для TIME сказав: «[Child sexual abuse material] є огидним і категорично забороненим на нашій платформі. TikTok має надійні системи, щоб зривати спроби експлуатувати або завдавати шкоди молодим людям, і ми продовжуємо надавати пріоритет та інвестувати в передові технології, щоб випереджати зловмисників на крок».
TIME звернувся до X по коментар.
Особливо пильну увагу останніми місяцями привертає xAI’s Grok — AI-чатбот, який може генерувати та змінювати зображення — через поширення сексуалізованих AI-картинок. Після оновлення чатбота в грудні Center for Countering Digital Hate дійшов висновку, що Grok створив орієнтовно 3 мільйони сексуалізованих зображень, включно з 23 000, які, схоже, демонстрували неповнолітніх. У січні X заявила, що запровадила заходи, аби Grok не редагував фото реальних людей, роблячи їх у «відвертому одязі». Втім, Reuters повідомив раніше цього місяця, що Grok і далі генерував сексуалізовані зображення у відповідь на запити користувачів — зокрема навіть тоді, коли користувачі прямо зазначали, що люди на зображеннях не давали згоди. За даними Reuters, xAI неодноразово відповідала на прохання прокоментувати ці висновки фразою «Legacy Media Lies».
Інші європейські держави також розпочали перевірки щодо X через повідомлення про створення Grok сексуально відвертого контенту.
Ірландська Data Protection Commission (DPC) announced у вівторок, що офіційно відкрила розслідування проти X через ймовірне використання персональних даних людей — включно з даними дітей — для виробництва «потенційно шкідливих, несанкціонованих інтимних та/або сексуалізованих зображень». Європейська штаб-квартира X розташована в Дубліні, тож DPC виступає головним наглядовим органом для компанії в межах Європейського Союзу.
У пресрелізі DPC зазначила, що X було повідомлено про розслідування в понеділок.
Заступник комісара DPC Грем Дойл заявив, що регулятор «розпочав масштабне розслідування» щодо «дотримання деяких фундаментальних зобов’язань» X відповідно до the General Data Protection Regulation, всеохопного EU data privacy law.
Європейська комісія, виконавчий орган ЄС, також opened розслідування щодо ймовірного поширення Grok незаконного сексуалізованого контенту 26 січня.
Місяцем раніше ЄС окремо оштрафував X приблизно на 120 мільйонів євро — це близько $140 мільйонів — за порушення Digital Services Act, ключового закону, який зобов’язує компанії контролювати незаконний контент і дезінформацію на своїх платформах. Регулятори заявили, що система блакитних «галочок» X та база даних реклами порушили вимоги закону щодо прозорості, а також що компанія створювала «непотрібні бар’єри» для дослідників, які намагалися отримати доступ до публічних даних.
3 лютого французькі органи влади raided the Paris offices of X, посиливши ще одне поточне розслідування проти компанії щодо тверджень про контент, згенерований Grok, і підозрюваних зловживань алгоритмами. Маска та колишню CEO X Лінду Яккаріно викликали на «добровільні інтерв’ю» у французькій справі на 20 квітня.
X різко розкритикувала обшук у заяві, назвавши його «політизованим кримінальним розслідуванням» і заперечивши будь-які порушення.
«Парижська прокуратура широко розрекламувала рейд — чітко давши зрозуміти, що сьогоднішні дії були зловживанням правоохоронним театром, покликаним досягти нелегітимних політичних цілей, а не просувати законні правоохоронні завдання, засновані на справедливому та неупередженому здійсненні правосуддя», — wrote команда Global Government Affairs компанії X.
Того ж дня, коли відбувся рейд у Парижі, британський Information Commissioner’s Office (ICO) announced, що офіційно розслідує X та xAI щодо «їхньої обробки персональних даних у зв’язку з системою штучного інтелекту Grok та її потенціалом створювати шкідливий сексуалізований фото- й відеоконтент». ICO послався на повідомлення про використання інструмента для генерації несанкціонованих сексуальних зображень, включно із зображеннями дітей.
Британський регулятор онлайн-безпеки Ofcom раніше opened an investigation щодо X 12 січня після повідомлень про те, що Grok застосовували для «створення та поширення “роздягнених” зображень людей — що може становити зловживання інтимними зображеннями або порнографію — а також сексуалізованих зображень дітей, які можуть підпадати під матеріали сексуального насильства над дітьми».
TikTok і Meta не зазнали такого ж рівня офіційної уваги щодо AI-згенерованих зображень останніми місяцями, хоча цього місяця ЄС критикував обидві компанії з інших питань. Європейська комісія оприлюднила попередній висновок у probe щодо TikTok від 5 лютого, зазначивши, що платформа порушує Digital Services Act через свій «звикальний дизайн». Кількома днями пізніше комісія повідомила Meta про «попередню позицію», що компанія breached EU antitrust rules, обмежуючи доступ сторонніх AI-асистентів до взаємодії з користувачами у WhatsApp.
