ChatGPT може да хаква сайтове без човешка намеса, предава dir.bg.
По-рано тази година изследователи установяват, че невронната мрежа GPT-4 на OpenAI може да създава експлойти, за да се възползва от бъгове, като научава за тях онлайн. Експлойт е част от софтуер, данни или поредица от команди, които се възползват от грешка или уязвимост, за да предизвикат нежелано или непредвидено поведение на компютърен софтуер или хардуер.
Сега те са успели да хакнат повече от половината от тестовите сайтове с помощта на автономни ботове, базирани на GPT-4. При това, ботовете самостоятелно са координирали работата си и са създавали друго нови ботове, когато е било необходимо.
Източник: istockphoto
Отбелязва се, че ботовете в работата си са създали Zero Day експлойти, за които преди това не е било известно. Zero Day е термин за дупка в сигурността на компютърна система, която е неизвестна за нейните собственици и разработчици.
В предишната си работа изследователите са използвали GPT-4 за експлоатиране на известни уязвимости (CVE), за които все още не са били пуснати пачове. В резултат на това те са установили, че невронната мрежа е успяла да създаде експлойти за 87% от тези CVE. Същите изследователи от Университета на Илинойс в Урбана-Шампейн публикуват труд, в който ботове, базирани на невронни мрежи, са се опитали да хакнат тестови сайтове, отново използвайки Zero Day уязвимости.
ChatGPT изигра много лоша шега на цял клас в пловдивско училище
Вместо да работят с един бот и да го натоварят с голям брой сложни задачи, изследователите са използвали група автономни, саморазвиващи се агенти, базирани на голям езиков модел (LLM).
Създали са йерархичен метод за планиране, който включва възлагане на различни агенти на конкретни задачи. Един от основните елементи е станал "агент за планиране". Той е контролирал целия работен процес и е стартирал няколко "под-агенти" за изпълнение на конкретни задачи.
Подобно на взаимодействието между началник и подчинени, "агентът за планиране" е координирал действията си с "управляващ агент". Той пък делегирал задачи на "експертни субагенти". Като по този начин е разпределял равномерно работното натоварване.
Изследователите сравняват ефективността на този подход, когато група ботове взаимодействат с 15 реални уязвимости. Оказало се е, че методът на йерархично планиране е с 550% по-ефективен от единичен бот, базиран на невронна мрежа. Групата от ботове успяла да експлоатира 8 от 15-те уязвимости, докато единичният бот е създал експлойт само за три.
