"Кръстникът" на AI го смята за опасен

"Кръстникът" на AI го смята за опасен. "Изкуственият интелект крие сериозни рискове за обществото и човечеството", смята един от пионерите на тази нова технология Джофри Хинтън. С какво са свързани неговите опасения? Разказва "Дойче веле".

Един от първите изследователи в сферата на изкуствения интелект предупреждава, че новата технология може да се превърне в опасност. Джофри Хинтън е напуснал работата си в технологичния гигант "Google", за да може публично да коментира рисковете от технологиите с изкуствен интелект.

Експертът дава интервюта за "The New York Times" и BBC, в които описва потенциалните неконтролируеми последствия от новото технологично развитие.

"Засега програмите с изкуствен интелект не са по-интелигентни от нас, поне доколкото знам. Но скоро могат да бъдат", казва Хинтън.

Новаторските изследвания на Хинтън в областта на невронните мрежи и т.нар. дълбоко обучение проправят пътя на настоящите системи за изкуствен интелект като ChatGPT, пише BBC. "The New York Times" нарича Джофри Хинтън "Кръстник на изкуствения интелект".

Мъск работи по изкуствен интелект, който различава истина от лъжа

В изкуствения интелект невронните мрежи са системи, които са подобни на човешкия мозък по начина, по който усвояват и обработват информацията. Те дават възможност на AI да се учи от опита си, както би го направил човек. Това се нарича дълбоко обучение.

Последствията за пазара на труда

Опасностите, свързани с изкуствения интелект, са многобройни и същевременно трудни за разбиране, казва Хинтън. Според него съществуват "сериозни рискове за обществото и човечеството".

Ожесточената конкуренция кара технологичните компании да разработват нов изкуствен интелект "с опасно бързи темпове". По този начин се разпространява дезинформация, например. "Трудно е да си представим как можем да спрем недоброжелателните да използват изкуствения интелект, за да вършат злини."

Във връзка с отражението на AI на пазара на труда Хинтън прогнозира, че той може да направи излишен "робския труд". "Но и може да отнеме много повече."

Ключовата роля на Джофри Хинтън

През 80-те години на миналия век доктор Хинтън е професор по компютърни науки в университета "Карнеги Мелън", но напуска и заминава за Канада, тъй като не желае да приема финансиране от Пентагона, пише "The New York Times". По онова време повечето изследвания в областта на изкуствения интелект в САЩ се финансират именно от Министерството на отбраната.

През 2012-а година Хинтън и двама негови студенти в Торонто - Иля Суцкевер и Алекс Кришевски, създават невронна мрежа, която може да анализира хиляди снимки и да разпознава обикновени обекти като цветя, кучета и автомобили.

Изкуствен интелект ще ни среща с починали приятели и роднини

"Google" плаща 44 милиона долара, за да придобие компанията, създадена от Хинтън и двамата му студенти. А тяхната система води до създаването на все по-мощни технологии, включително новите чатботове като ChatGPT и Google Bard.

Суцкевер става главен изследовател в OpenAI, информира "The New York Times".

А през 2018-а година Джофри Хинтън и двама други негови дългогодишни сътрудници получават наградата "Тюринг", често наричана "Нобеловата награда за информатика", за работата си върху невронните мрежи.

Може ли развитието на технологията да бъде спряно?

Бившият работодател на Хинтън - "Google", заяви, че благодари на експерта за работата му. Технологичният гигант остава "ангажиран с отговорен подход към изкуствения интелект". "Google" постоянно се учи, за да може да разбере рисковете, и в същото време продължава "смело" да въвежда иновации, пише АРД.

Предупрежденията, отправяни както от самата технологична индустрия, така и от независими специалисти стават все по-сериозни напоследък. В края на март милиардерът Илон Мъск и редица експерти призоваха да се спре развитието на особено усъвършенствания изкуствен интелект.

"Системите за изкуствен интелект с разум, който съперничи на човешкия, могат да създадат големи рискове за обществото и човечеството", заявиха те в отворено писмо. "Мощните системи за изкуствен интелект трябва да се разработват само когато сме сигурни, че въздействието им е положително, а рисковете - управляеми", пише още в писмото.

Попитахме изкуствен интелект какво значат драсканиците на Борисов (видео)

Джофри Хинтън казва пред BBC, че според него в краткосрочен план изкуственият интелект ще донесе повече ползи, отколкото вреди и затова разработването му за момента не бива да се спира.

Според Хинтън голямата международна конкуренция също ще затрудни евентуалното поставяне на пауза в разработката. "Дори в САЩ всички да спрат да го разработват, това само ще даде преднина на Китай", казва Хинтън пред BBC.