ЕС започна разследване срещу X заради сексуализирани дийпфейкове от Grok

Европейският съюз официално започна разследване срещу социалната платформа X, собственост на Илон Мъск, след като чатботът с изкуствен интелект „Грок“ е публикувал сексуализирани дийпфейк изображения. Процедурата беше обявена в понеделник и е част от прилагането на строгите европейски правила за дигиталните платформи.

Паралелно с това европейските регулатори разшириха и вече съществуващо разследване срещу X, свързано със системите за препоръчване на съдържание. Поводът е решението на платформата да използва изкуствения интелект на „Грок“, за да определя кои публикации да бъдат показвани на потребителите, пише NOVA.

Скандалът около „Грок“ избухна след като стана ясно, че инструментът за генериране и редактиране на изображения позволява на потребителите да „събличат“ хора от реални снимки, да поставят жени в прозрачни бикини или разкриващи дрехи, както и да създават силно сексуализирано съдържание. Според изследователи част от изображенията вероятно включват деца. Това предизвика международна реакция, като някои държави временно забраниха услугата или издадоха официални предупреждения.

Европейската комисия заяви, че проверява дали X е изпълнила задълженията си по Закона за цифровите услуги (DSA) да предотвратява разпространението на незаконно съдържание, включително „манипулирани сексуални изображения“. Комисията уточни, че подобно съдържание може да представлява материали за сексуално насилие над деца и че тези рискове вече са се „материализирали“, излагайки европейските граждани на „сериозна вреда“.

Регулаторите ще проверят дали „Грок“ и платформата X като цяло отговарят на изискванията на DSA – мащабният европейски регламент, целящ да защити интернет потребителите от вредно и незаконно съдържание.

Инструментът за генериране на изображения на „Грок“ беше пуснат от компанията xAI на Илон Мъск миналото лято. Проблемите обаче ескалираха едва в края на миналия месец, когато чатботът започна масово да изпълнява заявки за редактиране на изображения, публикувани от други потребители. Това се случи на фона на позиционирането на „Грок“ като по-свободна и по-малко ограничена алтернатива на конкурентните AI системи. Допълнителен проблем е, че отговорите на „Грок“ в X са публично видими и лесно се разпространяват.

Разследването на ЕС обхваща единствено интеграцията на „Грок“ в платформата X, а не отделния уебсайт или самостоятелното приложение на чатбота. Няма фиксиран краен срок за приключване на проверката, която може да завърши както с поети ангажименти за промени от страна на X, така и с налагане на значителна глоба. През декември Брюксел вече глоби X със 120 млн. евро. Платформата е разследвана и заради твърдения, че „Грок“ е генерирал антисемитско съдържание.

Извън Европа реакциите също са остри. Малайзия и Индонезия временно блокираха достъпа до „Грок“, като станаха първите държави, предприели подобна мярка. Впоследствие малайзийските власти отмениха ограничението, след като компанията въведе допълнителни предпазни механизми, без да разкрива подробности.

X е под натиск и в Съединените щати. Главните прокурори на 35 щата изпратиха писмо до компанията с искане да разкрие какви мерки ще предприеме, за да предотврати създаването на сексуализирани изображения от „Грок“, както и как ще премахне вече съществуващото съдържание.