"Предположете, че има машина, която знае много повече неща от вас и може да взима много по-добри решения. Бихте ли дали контролът върху всички важи решения в живота си на нея?", пише Пол Мейсън, бивш кореспондент на BBC и автор на книгата "Clear Bright Future".

В книгата си той опитва да ни накара да осъзнаем, че това е важният политически въпрос в днешно време и амбициозният му разказ убеждава, че отговорът трябва да е твърдо "не!", но резултатите са объркващи.

"Clear Bright Future" принадлежи към вълната от книги, които отразяват все по-усиленото навлизане на технологиите в живота ни. Други подобни на нея са "Отборът на хората" на Дейвид Рушкоф и "Епохата на надзорния капитализъм" на Шошана Зубоф, които разказват как производителите на технологии са проектирали платформи и устройства, които ни разсейват, отвличат внимането от важните цели и ни разделят все повече и повече.

Замислете се и ще осъзнаете, че повечето бизнес модели на много технологични компании зависят от проучването и преобразуването на преживяванията ни в данни, които те ще използват за да предскажат и манипулират нашето поведение. Мейсън нарича това "кошмарът на настоящето.

Въпреки това, той се фокусира както върху заплахите така и върху възможностите, които изкуственият интелект и новите технологии ще предоставят в бъдеще. Той създава един сценарий, в който машините стават по-интелигентни от нас, но подценява истинската опасност. 

Според много експерти, най-големият риск се крие в това как да се зададат правилните цели и ценности на даден изкуствен интелект, за да сме сигурни, че те той ще работи в полза на човечеството.

Този проблем се подчертава още повече и в незнанието ни за нашите собствени ценности, защото въпреки десетилетия на морална философия, ние все още не сме в състояние да изразим писмено ценностите, според които живеем, а още по-малко да ги кодираме в C++.

Мейсън говори за този проблем, но не успява да разбере неговите тънкости, тъй като разказва за четири класа етична теория, но въпреки твърдението му, че списъкът е изчерпателен, той не споменава за основана на правила или "деонтологична" етика.

Това е като да опитате да изредите основните цветове, но да забравите синьото. 

Според неговите кратки разсъждения, "етиката на добродетелта е единствената етика, която е подходяща за изкуствения интелект", а след това се обръща към решаването на проблеми в софтуерното инженерство, като твърди, че "етиката, основана на резултати би трябвало лесно да се кодира в изкуствен интелект".

Той ни прави огромна услуга, като ни напомня, че рискът от изкуствен интелект, също като изменението на климата, е нещо, за което всички ние трябва да сме бдителни, защото това не е проблем само за технологичните фирми.

Дори инженерите да решат проблема с това да научат изкуствения интелект на дадени човешки ценности, то все още остават и другите политически проблеми.

Един от тях е, че тази технология може да се използва в интерес на влиятелните управляващи като Тръмп, Путин или Си.

Другият проблем, който е главната причина за тревогата на Мейсън е, че човечеството колективно и сляпо марширува към бъдеще, в което предаваме суверенитета над нашите умове на машините.

Според него три десетилетия на неолиберализъм не само са трансформирали световната икономика, но и чувството за това кои сме ние, правейки ни по-уязвими, за да бъдем още по-дехуманизирани от машините.

"Ние сме се предали на сили, които управляват живота ни, поведението ни и нарушават демократичните ни права. Ние вече сме готови за алгоритмичен контрол", пише Мейсън.

Както беше казал Исая Бърлин – „Лисицата знае множество дребни неща, ала таралежът знае едно голямо", точно така и Мейсън е таралеж, който в същото време се опитва да е и лисица, но се проваля.

Голямата му идея е марксистката критика върху неолиберализма, която разглежда бъдещето като една технологична пост-утопия, но той се опитва да събере много разнообразни теми в неговия универсален аргумент: като културните войни, невронауката относно вземато на решения и постмодернистичните критики на научния реализъм, от които повечето са напълно нерелевантни.

Например, имайки предвид основната тема на книгата, защо има дълбоки вниквания в копенхагенската интерпретация на квантовата механика или метафизиката?

"Clear Bright Future" завършва с план за предотвратяване на технологичната дистопия. В допълнение към някои интересни предложения за промяна в законите, касаещи универсалните доходи и неприкосновеността на личните данни, Мейсън призовава за "съпротивление в мащаб" и извършване на "малки бунтовни действия", като например да се откажем от използването на автоматизираните касови машини в супермаркета.

В случай обаче, че се сблъскаме със свърхчовешки изкуствен интелект, то бихме предположили, че ще е необходимо доста повече от утвърждаване на човешкото ни достойнство, за да си осигурим свободата.

Източник: The Guardian