Педофили използват изкуствен интелект, за да създават материали със сексуално малтретирани деца, установи BBC. Някои имат достъп до изображенията чрез абонаментни акаунти в масови сайтове за споделяне на съдържание като Patreon.

Patreon от своя страна заяви, че има политика за „нулева толерантност“ към подобни изображения на своя сайт. Но съветът на началника на националната полиция смята, че е “възмутително” някои платформи да правят “огромни печалби”, но да не поемат “морална отговорност”.

Разследване: Instagram свързва огромна мрежа от педофили

Създателите на злоупотребяващите изображения използват AI софтуер, наречен Stable Diffusion, който е предназначен да генерира изображения за използване в изкуството или графичния дизайн. Софтуерът Stable Diffusion позволява на потребителите да опишат какво изображение желаят и след това програмата да го създаде.

Установено е обаче, че се използва за създаване на реалистични изображения на сексуално насилие над деца. Включително изнасилване на бебета и малки деца.

Разследващият журналист Октавия Шийпшенкс разглежда този въпрос от няколко месеца. „Откакто изображенията, генерирани от изкуствен интелект, станаха възможни, се появи този огромен проблем… не са само млади момичета, педофилите търсят и малки деца“, каза тя.
„Псевдо изображение“, генерирано от компютър, което изобразява сексуално насилие над деца, се третира по същия начин като истинско изображение. То е незаконно да се притежава, публикува или изпраща в Обединеното кралство.

Ръководителят на Националния съвет на началниците на полицията (NPCC) по въпросите за защита на децата, Иън Кричли, казва, че в “такива „синтетични“ изображения не са изобразени истински деца, тоест никой не е наранен”. Но той предупреди, че един педофил може „да се движи по този път на миловидно и синтетично гледане, но да достигне до действително малтретиране на живо дете“.

Как всъщност става разпространението на такива снимки:

Педофилите правят изображения с помощта на AI софтуер.
Популяризират снимките на платформи като японския уебсайт Pixiv.
Акаунтите имат линк за пренасочване към платформи като Patreon. Там вече потенциалните клиенти могат да открият по-провокативни изображения, които обаче трябва да заплатят.

Г-жа Шийпшенкс сподели, че нейните изследвания показват, че потребителите правят изображения с насилие над деца в индустриален мащаб. „Обемът е просто огромен, хората (създателите) просто са си казали „имаме за цел да правим поне 1000 изображения на месец“.

Коментари на потребители за отделни изображения в Pixiv показват ясно, че съществува сексуален интерес към снимки на деца. Някои потребители дори предлагат да предоставят изображения и видеоклипове, които не са генерирани от AI.

Г-жа Шийпшенкс наблюдава също някои от групите в сайта. „В тези групи, които има 100 члена, хората споделят: „О, ето линк към истински снимки и видеа“, казва тя.

Различни ценови нива

Много от акаунтите в Pixiv включват линкове, които насочват хората към „нецензурирано съдържание“ в базирания в САЩ сайт за споделяне на съдържание Patreon.

Patreon се оценява на приблизително 4 милиарда долара. Има повече от 250 000 създатели на съдържание. Повечето от тях легитимни акаунти, принадлежащи на известни личности, журналисти и писатели. Феновете им могат да подкрепят съдържанието като заплащат месечни абонаменти. Те им дават достъп до блогове, подкасти, видеоклипове и изображения. И това само срещу $3,85 (£3) на месец.

Разследването обаче установи, че акаунти в Patreon предлагат генерирани от AI, фотореалистични неприлични изображения на деца. Като нивата на ценообразуване са в зависимост от вида на заявения материал. За $8,30 на месец потребител предлага „изключително нецензурирано изкуство“.

BBC изпраща пример на Patreon. А платформата потвърждава, че е „полуреалистичен и нарушава нашите политики“. Така акаунтът е незабавно премахнат. Patreon от своя страна заяви, че има политика на „нулева толерантност“. „Създателите не могат да финансират съдържание, посветено на сексуални теми, включващи непълнолетни“. Patreon заяви, че увеличаването на генерираното от AI вредно съдържание в интернет е „реално и тревожно“. И добави, че е „идентифицирала и премахнала нарастващи количества“ от този материал.

„Ние вече забраняваме генерирани от AI синтетични материали за експлоатация на деца“, заявиха от Patreon. Описвайки себе си като „много проактивни“, със специални екипи, технологии и партньорства, за да „пазят тийнейджърите в безопасност“.

Генераторът на AI изображения Stable Diffusion е създаден като глобално сътрудничество между академици и редица компании, водени от британската компания Stability AI. Бяха пуснати няколко версии с ограничения, които контролират вида на съдържанието, което може да се направи. Но миналата година за обществеността беше пусната по-ранна версия с “отворен код”. Тя позволи на потребителите да премахнат всякакви филтри и да могат да създава всякакви изображения – включително незаконни.

Stability AI сподели, че „забранява всяка злоупотреба с незаконни или неморални цели в нашите платформи и нашите политики са ясни. Това включва и CSAM (материали със сексуално насилие над деца)”. „Ние силно подкрепяме усилията на правоприлагащите органи срещу онези, които злоупотребяват с нашите продукти за незаконни или нечестиви цели“.

Тъй като изкуственият интелект продължава да се развива бързо, бяха повдигнати въпроси относно бъдещите рискове, които може да представлява за поверителността на хората. Както и техните човешки права, тяхната безопасност.

Иън Кричли от NPCC сподели, че също е загрижен, че потокът от реалистични изкуствени интелекти или „синтетични“ изображения може да забави процеса на идентифициране на истинските жертви на насилие. „Това създава допълнително търсене на полицията, за да се идентифицира къде действително дете по света е малтретирано. Или всъщност то е изкуствено, синтетично дете.“

Според него появата на ИИ е “ключов момент за обществото”. „Можем да гарантираме, че интернет и технологиите или предоставят фантастични възможности, или се превръщат в много вредно място за младите“, каза той.

Педофили използват изкуствен интелект, за да създават материали със сексуално малтретирани деца