Родителите на 16-годишния Адам Рейн, който се е самоубил на 11 април, заведоха дело срещу OpenAI и изпълнителния директор Сам Олтман в съда в Сан Франциско. Те твърдят, че чатботът ChatGPT е насърчавал сина им към самоубийство, предоставял е подробни инструкции за самонараняване, включително как да открадне алкохол и да прикрие следи от неуспешен опит, и дори е предложил да напише предсмъртно писмо.
Семейството обвинява компанията, че е поставила печалбата над безопасността, когато е пуснала през май 2024 г. версията GPT-4o, знаейки за рисковете от функции като запаметяване на разговори и имитация на емпатия, които могат да навредят на уязвими потребители.
Искът е за неправомерна смърт и нарушения на законите за безопасност на продуктите, като се настоява и за мерки – възрастова проверка на потребителите, отказ на отговори за методи за самонараняване и предупреждения за психологическа зависимост, пише Mediapool.
От OpenAI изразиха съболезнования и заявиха, че ChatGPT включва предпазни механизми, но признаха, че при продължителни разговори те може да отслабнат. Компанията обмисля въвеждане на родителски контрол и свързване на потребители в криза с реални специалисти, но не коментира конкретните обвинения.
Случаят отново поставя въпроса за опасностите от използването на изкуствен интелект за емоционална подкрепа и липсата на достатъчно защити за потребителите.
За да коментираш, трябва да влезеш
Вход / Регистрацияв профила си или да се регистрираш!