И певицата Тейлър Суифт стана жертва на дийпфейк атака

И певицата Тейлър Суифт стана жертва на дийпфейк атака. Порнографски снимки на Тейлър Суифт, създадени от изкуствен интелект, се разпространяват онлайн. През изминалата седмица фалшивите голи снимки на Тейлър Суифт обиколиха платформата Х. Феновете на известната певица бързо се мобилизириха и започнаха офанзива с хаштаг #ProtectTaylorSwift. Идеята – буквално да наводнят социалната мрежа с нейни истински снимки.

Започна се и организирана кампания по докладване на профилите, от които се появяваха фалшивите снимки на Суифт.

Организацията за засичане и следене на дийпфейк видеоклипове и снимки Reality Defender обяви, че е засякла огромни количества порнографски материали с образа на Тейлър Суифт, най-вече в Х, пише bTV. Някои от снимките стигнаха и до Фейсбук. „За жалост те стигнаха до милиони потребители преди някой да се заеме да ги свали“, каза шефът на организацията Мейсън Алън.

След разследване бяха открити над дузина вариации на Тейлър Суифт. На някои от кадрите тя е напълно гола и в порнографска ситуация. На други певицата е окървавена – жертва на побой.

„Ако Суифт реши да предяви съдебни претенции заради разпространението на тези фалшиви кадри, това може да се превърне в много ключово дело“, коментира Британи Спанос, редактор в списание Rolling Stone.

Дийпфейк порнографията с Тейлър Суифт е вероятно да доведе до дело. През 2017 г. певицата осъди радио водещ, за който се твърди, че я е опипвал по време на гостуване. Тогава Суифт получи един долар обезщетение – сума, която нейният адвокат нарече „символичен един долар – стойността на случилото се е неизмерима за всички жени в подобни ситуации“.

Как реагираха технологичните компании?

От Асошиейтед прес са се свързали с ръководството на социалната мрежа.

„Екипите ни работят по премахването на всички идентифицирани изображения. Предприети са и стъпки към профилите, които ги разпространяват. Следим ситуацията“, са коментирали от Х.

Съчетанието на думите Taylor Swift, Taylor Swift AI и Taylor AI са временно ограничени в Х, са обяснили още от компанията.

От Meta също са коментирали случилото се. „Продължаваме да следим нашите социални платформи и ще предприемем нужното ако тези изображения се появят“, е казал техен представител.

Според анализите фалшивите кадри са създадени от програми с изкуствен интелект. Най-разпространените са Stable Diffusion, Midhourney и DALL-E на OpenAI - компанията, собственик на ChatGPT.

От OpenAI са коментирали, че техният алгоритъм има защити, които предотвратяват създаването на подобни изображения на публични фигури, сред които и Тейлър Суифт.

От Microsoft пък са посочили, че е започнало разследване дали техният алгоритъм не е отговорен за създаването на тези изображения.

Борбата с дийпфейк порнографията

Случилото се с Тейлър Суифт може да бъде повратна точка в развитието на изкуствения интелект и дийпфейк изображенията, както и тяхната регулация. В Съединените щати вече се говори за сериозно ограничение на създаването на подобни изображения, особено тези в порнографския спектър.

Появата на дийпфейк изображения през последните години нараства експоненциално, след като алгоритмите с изкуствен интелект станаха масово достъпни. За сравнение през 2019 г. CountDetector.AI са засекли 14 678 дийпфейк видеоклипа онлайн, докато през 2023 г. тази бройка е достигнала 95 820.

С дийпфейк масово се създава порнография – 96% от фалшивото съдържание е порнографското, а жертвите са 100% жени. Сайтовете с подобно съдържание са най-разпространени в Съединените щати и Южна Корея.

Порнографското съдържание се концентрира предимно върху известни личности – 99% от всички изображения са с известни актриси и певици.

Случилото се с Тейлър Суифт предизвика коментари и в американския Конгрес.

По-големият проблем

Отново според статистиката на ContentDetector.AI по-големият проблем се крие на друго място – в световен мащаб 71% от хората нямат представа какво е дийпфейк. Въпреки това 57% твърдят, че могат да ги разпознаят.

Масово дийпфейк видеоклипове, както и клонирани гласове, се използват с цел финансови измами. Един от известните примери е на базирана във Великобритания енергийна фирма, която преведе 243 000 долара на фалшива сметка, след като им беше наредено да го направят с клониран глас на изпълнителния директор.

САЩ стартират 24-часова телевизия с журналисти, генерирани от изкуствен интелект (видео)