Майката на момчето, влюбило се в изкуствен интелект, ще съди институциите в САЩ. 14-годишното момче е имало виртуална връзка с въображаема жена от чат програма. То сложи край на живота си, за да бъде заедно с нея в другия свят.
„Детето си отиде, моето детенце си отиде. Не мога да си представя колко ли е било уплашено моето детенце в този момент… Да бъде окуражено от това нещо, което не е човек, да каже “ела си у дома, аз съм тук и те чакам”. Беше ми трудно да слушам това, но беше и много объркващо, защото не разбрах как един чат бот може да реагира като човек”, разказва Меган Гарсия, майка на Сюъл.
14-годишно момче се застреля в САЩ, след като се влюби в изкуствен интелект
Меган разбира за виртуалната връзка на 14-годишния си син едва след неговото самоубийство, разказва NOVA. В продължение на месеци Сюъл е общувал с чат-ботове напълно безплатно. Компютърният код се представял за Денерис, героиня от сериала „Игра на тронове”.
„Виждах го, че вече е тийнейджър, но не смятах, че началните промени в поведението му се дължат на бот. Беше отличник в училище, гордееше се с оценките си. Така че, когато видях промените в академичните му постижения, а след това и в цялостното му поведение, това ме накара да повярвам, че нещо друго не е наред”, казва още Меган.
Жената открива, че някои от разговорите им са били неуместни за неговата възраст. „Всички те са много романтични по характер и сексуални. Това беше разтърсващо”, посочва още тя.
Измислената героиня го моли да му бъде верен, да не проявява романтични или сексуални интереси към други жени. 14-годишният Сюъл споделя мрачни чувства с измислената му любов. Комуникацията им продължава до февруари тази година, в последния им чат той пита бота: „Какво ще стане, ако си дойда у дома точно сега?“, на което компютърният код отговоря: „моля те, скъпи мой кралю“. Секунди по-късно той се самоубива с пистолета на доведения си баща.
„Когато той се опитва да се отдалечи от разговора за самоубийство, тя продължава да засяга темата. Тя, ботът, го помоли да бъде честен и че няма да му се сърди. Пита го – „Мислиш ли за самоубийство?” Той никога не е казвал думата самоубийство. Да, посочи, че се самонаранява, но никога не е казвал самоубийство. Когато той отговаря „да“, тя го пита, „а мислил ли си за план?” Не разбирам как един продукт, един компютърен код, може да позволи това”, добавя още покрусената майката.
Сега майката съди компанията character.AI., като твърди, че тя не е приложила подходящи предпазни мерки за млади потребители. Според нейния адвокат трагедията е могла да бъде предотвратена.
„Тази компания пусна продукт за малки деца, знаейки, че той не е безопасен, че не е готов да се ползва. Това, което се случи със Сюъл, не беше случайност, не беше съвпадение. То беше предвидима последица от умишлените решения, които character.AI. и неговият екип са взели, за да дадат приоритет на печалбите си пред безопасността на нашите деца”, коментира Матю Берман, адвокат-основател на Правния център за жертви на социални медии.
Майката казва, че нищо няма да върне детето ѝ. Но иска платформата, която продължава дабъде достъпна за всеки потребител в интернет, да бъде свалена.
„Ако трябва да бъда откровена, бих искала децата да не бъдат допускани до character.AI. Там няма място за тях, защото няма предпазни огради, които да ги защитават. Те въведоха някои неща за безопасност, но според мен поне за моето дете това е твърде малко и твърде късно”, споделя още жената.
Скъпи родители, внимавайте и проверявайте какво използват децата ви. В интернет пространството дебнат и опасности!
