Висши ръководители на компании за изкуствен интелект (ИИ), експерти и професори твърдят, че рискът ИИ да доведе човечеството до изчезване се увеличава, пише "Дневник". Сред тях е и главният изпълнителен директор на OpenAI Сам Олтман. OpenAI е компанията-създадел на нашумелия чатбот ChatGPT
Те призоваха политиците да приравнят опасността от ИИ към други екзистенциални рискове.
"Намалянето на риска от изчезване на човечеството заради ИИ трябва да бъде глобален приоритет заедно с други рискове от обществен мащаб като пандемии и ядрена война". Това заявяват повече от 350 души в подписано писмо, публикувано от неправителствената организация "Център за безопасен ИИ" (CAIS).
Изкуствен интелект откри нов антибиотик за супербактерии
източник: istockphoto
Сред подписалите са и главните изпълнителни директори на фирмите за изкуствен интелект DeepMind и Anthropic и ръководители от Microsoft и Google. Също така Джефри Хинтън и Йошуа Бенгио - двама от тримата "кръстници на ИИ". Te получиха наградата "Тюринг" през 2018 г. за работата си по т.нар. дълбоко обучение (deep learning).
Според Хинтън изкуственият интелект може да представлява "по-спешна" заплаха за човечеството от изменението на климата.
Писмото съвпада със срещата на Съвета за търговия и технологии САЩ - ЕС в Швеция. Една от очакваните теми за обсъждане е регулирането на ИИ.
Предупреждението идва два месеца след като организацията с нестопанска цел Future of Life Institute (FLI) разпространи друго подобно отворено писмо. То е подписано от Мъск и стотици други, изискващи спешно въвеждане на пауза в авангардните изследвания на ИИ, поради рискове за човечеството.
"Отправихме покана (към Мъск) и се надяваме, че той ще я подпише тази седмица.", каза директорът на CAIS Дан Хендрикс.
В същото време, председателят на Европейската комисия Урсула фон дер Лайен ще се срещне с Олтман в четвъртък. Шефът на индустрията на ЕС Тиери Бретон ще се срещне с него в Сан Франциско следващия месец.
