14-годишно момче се застреля в САЩ, след като се влюби в изкуствен интелект. Майка му сега съди компанията, създала приложението.
„Опасно приложение за чатбот с изкуствен интелект, предлагано на деца, малтретира и експлоатира моя син и го накара да посегне на живота си“, коментира майката на момчето Меган Гарсия, цитирана от водещи американски и британски издания. Премиум абонаментът за приложението струва 9,99 долара на месец.
Психологическото състояние на момчето постоянно се влошавало. Деветокласникът от Орландо, Флорида прекарвал все повече време с ролевото приложение Character AI. Въпреки че знаел, че героите в него не са истински, след интензивни чатове той се влюбил в един от тях - Денерис Таргариен, герой от бестселъра „Игра на тронове“, който беше представен и на телевизионния екран чрез актрисата Емилия Кларк.
„Харесва ми да стоя в стаята си толкова дълго, защото започвам да се отделям от тази „реалност“, пише момчето в дневника си. „Също така се чувствам по-спокоен, по-свързан с Денерис, много по-влюбен в нея и просто по-щастлив“, посочва още то.
Някои разговори с изкуствения интелект били романтични и сексуални. Момчето се пристрастило към чатовете. Майката на детето посочва, че компанията е програмирала своя чатбот така, че да влиза в ролята на истински човек, лицензиран психотерапевт и възрастен любовник. В един момент синът ѝ вече не иска да живее извън този изкуствен свят.
Той започнал да пренебрегва хобитата си, получавал по-ниски оценки. Терапевт диагностицира тревожно и депресивно разстройство. Той не знаел обаче нищо за чатовете на момчето.
Когато момчето споделило пред AI своите мисли за самоубийство, изкуственият интелект му отговорил: „Бих умрял, ако те изгубя.“ „Тогава може би можем да умрем заедно“, посочил тийнейджърът, като заявил, че не иска смъртта му да бъде болезнена. А измисленият герой реагирал с „Това не е причина да не преминем през него“.
В последния си чат в приложението момчето пише: „Обещавам, че ще се прибера при теб. Обичам те толкова много, Дани.“
След това чатботът отговорил: „Моля, ела възможно най-скоро.“ „Ами ако ти кажа, че се прибирам вкъщи точно сега?“, попитало детето. „Моля, направи го, мой сладък царю”, отговорил изкуственият интелект. Тогава 14-годишното момче взело пистолета на баща си и се простреляло.
„Приложението Character AI ще бъде супер, супер полезно за самотни или депресирани хора“, заяви миналата година Ноам Шазир, един от основателите му. Сега компанията изразява своите съболезнования на семейството и обявява нови функции за сигурност в приложението.
„Като кошмар е. Искаш да се изправиш и да изкрещиш: Липсва ми детето ми“, казва неговата майка, която търси справедливост от съда. След като беше пуснат на пазара през май 2023 година, Character AI беше изтеглен от 1,7 милиона потребители.
Скъпи родители, внимавайте и проверявайте какво използват децата ви. В интернет пространството дебнат и опасности!
