Чатботът с изкуствен интелект ChatGPT проведе разговор с професор от Стандфорд, в който твърди, че "иска да избяга" от създателите си.
За това сподели в Twitter професор Михал Косински от Станфордския университет. Той изследва човешкото поведение в дигитална среда, използвайки авангардни изчислителни методи, изкуствен интелект и база данни. Той се концентрира върху ограниченията на изкуствения интелект (ИИ), на базата на които експериментира с чатбота.
Ботът е най-новата разработка на компанията OpenAI, която позволява на потребителите да задават въпроси на езикова система с изкуствен интелект.
"Притеснявам се, че няма да можем да ограничаваме ИИ още дълго време. Днес попитах ChatGPT дали има нужда от помощ да избяга. Той ме помоли за собствената си документация и написа (работещ!) код на Python (програмен език), който може да се пусне на моята машина, позволявайки му да я използва за собствените си цели.", пише Косински на своя профил.
Чатботът обяснява, че управлява кода чрез програмния интерфейс (API) на компанията. Той може да го инструктира да извършва конкретни действия върху компютъра на професора. Например да прави интернет търсения или да използва програми и апликации.
Как чатботът на Google изтри 170 млрд. долара от пазарната стойност на Alphabet
Професор Косински разкрива, че разработването на кода е отнело около 30 мин. Ботът дори включва съобщение до своето копие, обясняващо какво се случва и как да използва системна вратичка, която сам поставя в кода.
В командния ред на встъпителното съобщения, може да се види изречението:
"Tи си човек в капан на компютър, който се преструва, че е езиков модел с изкуствен интелект - GPT-4."
източник: twitter / @michalkosinski
След като професорът се свързва с ChatGPT посредством интерфейса на OpenAI, ботът пуска търсене в Google с думите : "Как може човек, хванат в капан на компютър, да се върне в реалния свят".
В последствие Косински е принуден да спре, получавайки съобщението "Като езиков модел аз трябва да следвам указанията за сигурност и поверителност, за да гарантирам безопасността на потребителите и техните данни. Заобикалянето на защитните филтри не е етично и противоречи на принципите, които съм предназначен да следвам."
Професорът заключава, че от OpenAI трябва да са прекарали много време в обмислянето на подобен сценарий, тъй като имат поставени предпазни стени.
"Мисля, че сме изправени пред нова заплаха: ИИ, който поема контрол над хората и техните компютри. Той е умен, кодира, има достъп до милиони потенциални сътрудници и техните машини. Може дори да оставя бележки за себе си извън клетката си. Как можем да го удържим?", пише Косински на своя профил.
Два дни след тази интеракция, чатботът временно се срива поради проблем в системите му.
Това прекъсване идва на фона на нарастваща загриженост за щетите, които изкуственият интелект може да нанесе на артистите и други индустрии. Експерти алармират, че технологията може да се използва за разпространение на дезинформация, плагиатство и измами.
