Facebook обяви нова политика, забранявайки манипулираните "дийп фейк" видеоклипове, които вероятно ще подведат потребителите да мислят, че някой „е казал думи, които всъщност не са казани“, подготвяйки се за изборите в САЩ през 2020 година.

Новите правила обаче изрично обхващат само дезинформация, създадена с помощта на изкуствен интелект, което означава, че „плитките фалшификати“ – видеоклипове, направени с помощта на конвенционални инструменти за редактиране, макар и често също толкова подвеждащи, все още ще бъдат позволени в платформата.

Правилата, обявени в понеделник от Моника Бикерт, ръководител на управлението на глобалната политика на Facebook, ще доведе до премахване на подвеждащи видеа от Facebook и Instagram, ако отговарят на два критерия:

1. Ако са редактирани или синтезирани по начини, които не са очевидни за обикновения човек и вероятно биха подвели някого да мисли, че обектът на видеото казва думи, които всъщност не е казал.

2. Ако са продукт на изкуствен интелект или машинно обучение, който обединява, замества или наслагва съдържание във видеоклип, като го прави да изглежда автентичен.

Досега няма основни примери за съдържание, които да нарушават подобни правила, като някои новинарски организации, включително BBC, New York Times и Buzzfeed, са правили свои собствени „дийп фейк“ видеоклипове, за да разпространят информация относно проблема. Тези видеоклипове, макар и с различно качество, съдържат ясни надписи, че са фалшиви.

Най-вредните примери за манипулирани материали през последните години обаче бяха създадени с помощта на прости инструменти за редактиране на видео.

По време на изборите в Обединеното кралство партията на консерваторите претърпя силни критики заради видеоклип, който бе редактиран така, че да изглежда, сякаш депутатът от лейбъристите Кейр Стармер няма отговор на въпрос относно Брекзит.

По това време Facebook потвърди, че видеото удовлетворява политиките ѝ по отношение на дезинформацията и тъй като не е имало изкуствен интелект, участващ в създаването на видеоклипа, компанията не го премахна.

В САЩ редактирано видео, което показваше говорителя на парламента – Нанси Пелоси, която едвам казваше речта си, също беше позволено от Facebook. Видеоклипът, разпространен от привържениците на Тръмп, включително Руди Джулиани, е бил редактиран, но не е е използвана по-сложна техника, освен забавяне на кадрите и изместване на звука.

Политиката за премахване на "дийп фейк" видеата е само един от опитите на Facebook да се справи с дезинформацията в платформата, заяви Бикерт.

„Видеоклиповете, които не отговарят на тези стандарти за премахване, все още отговарят на условията за преглед на фактите от нашите независими проверяващи партньори, които са над 50 в световен мащаб и правят проверка на фактите на над 40 езика“, каза тя.

„Ако снимка или видеоклип бъде определен като неверен или частично неверен чрез проверка на фактите, ние значително ще намалим разпространението му в новинарския поток или ще го премахваме, ако се показва като реклама. Най-важното е, че хората, които го виждат, опитват се да го споделят или вече са го споделили, ще видят предупреждения, които посочват, че съдържанието е невярно.

Този подход е от решаващо значение за нашата стратегия и такъв, който предприехме след нашите разговори с експерти от индустрията. Ако просто премахваме всички манипулирани видеоклипове, маркирани от проверка на факти като неверни, тези клипове все още ще бъдат достъпни другаде в интернет или в другите социални медии. Като ги оставяме и маркираме като неверни, ние предоставяме на хората важна информация и контекст“, добави Бикерт.

Компанията има и отделна политика, която позволява на всяко съдържание, което нарушава другите правила, да остане онлайн, ако се прецени, че е новина и че цялото съдържание, публикувано от политиците, автоматично се разглежда като такова.

ПРАВИЛНО ЛИ Е РЕШЕНИЕТО НА ФЕЙСБУК ДА НЕ ПРЕМАХВА "ДИЙП ФЕЙК" ВИДЕАТА? (ВИДЕО)

„Ако някой направи изявление или сподели публикация, която нарушава стандартите ни в платформата, ние все пак ще го допуснем, ако вярваме, че общественият интерес да се види надвишава риска от вреди“, заяви Ник Клег, вицепрезидент на Facebook по глобалните въпроси и комуникация, когато той въведе политиката миналия септември.

„Отсега нататък ние ще третираме речта на политиците като съдържание с новини, което по правило трябва да се вижда и чува от всички“, добави тогава той.

Тази политика означава, че дори създаден от изкуствен интелект видеофайл, изрично предназначен да подведе, все още би могъл да остане в социалната мрежа, ако е публикуван от политик.

Facebook не даде причина защо ограничава политиката си ексклузивно до видеоклипове, манипулирани с помощта на изкуствен интелект, но вероятно компанията е искала да избегне изпадането в ситуация, в която трябва да взема субективни решения относно намеренията или достовреността на видеоклиповете.

Социалната платформа вече няколко години се опитва да реши проблема какво да се прави по отношение на "дийп фейк" видеата, като публично признава потенциалните щети, които подобни видеоклипове могат да нанесат, като същевременно се подчинява на предварителното решение, смятано за пряка политика на основателя им Марк Зукерберг, да избягва да решава дали дадено съдържание в платформата е вярно или не.

Източник: The Guardian