Четирима водещи технологични умове виждат опасност за човека от развитието на AI. Те призовават за спиране на развитието на изкуствения интелект. И настояват за шестмесечна пауза в разработването на мащабни проекти, като се позовават на „дълбоките рискове за обществото и човечеството“.

Илон Мъск и другите

В писмото, подписано от десетки технологични лидери, професори и изследователи, личат имената на милиардера Илон Мъск, писателя-историк Ювал Ноа Харари, съоснователят на Apple Стив Возняк и американският интернет предприемач Еван Шарп.

Позицията, публикувана от Института за бъдещето на живота, се появи само две седмици, след като OpenAI обяви GPT-4 – още по-мощна версия на нашумялото приложение за изкуствен интелект ChatGPT. Ранните тестове показват, че технологията вече може да изготвя съдебни искове. Тя се справя и със стандартизирани изпити и да изгражда работещ уебсайт от ръчно нарисувана скица.

Учени установиха кои професии са най-уязвими от изкуствения интелект

„Усъвършенстваният ИИ би могъл да бъде значителна промяна в историята на живота на Земята и следва да бъде планиран и управляван със съответното внимание и ресурси“, смятат подписалите писмото.

Безконтролна надпревара

Според тях паузата е необходима за системи за изкуствен интелект „по-мощни от GPT-4″. Те смятат, че независими експерти трябва да работят върху съвместно разработване и прилагане на набор от общи протоколи за инструменти за изкуствен интелект. Приоритетно условие е те да са безопасни.

„За съжаление, това ниво на планиране и управление не се осъществява. А през последните месеци лабораториите за ИИ се впуснаха в неконтролируема надпревара за разработване и внедряване на все по-мощни цифрови умове, които никой – дори техните създатели – не може да разбере, предвиди или надеждно да контролира“, се казва в позицията на учените, обществениците и бизнесмените.

Правителствен мораториум

Те са категорични, че ако не бъде направена пауза, правителствата ще трябва да въведат мораториум. Експертите са все по-загрижени за потенциала на изкуствения интелект да дава пристрастни отговори. Те виждат сериозен риск в способността му да разпространява дезинформация. А така също и да въздейства върху неприкосновеността на личния живот на потребителите.

Четирима водещи технологични умове виждат опасност за човека от развитието на AI

Източник: Булевард България