Обучиха чатбот да задържа в разговор телефонни измамници. Експерти по киберсигурност от университета Макуори (Австралия) разработиха базирания на изкуствен интелект чатбот Apate. Той е научен да се представя за човек в разговор с телефонните измамници. Като целта му е да задържи събеседника възможно най-дълго на линията.
Най-ниската кола в света (видео)
Хрумката
Идеята за пускане на проекта идва, когато неговият ръководител професор Дали Кафар получава обаждане от телефонни измамници. Ученият ги държи на линията 40 минути. Професорът решил, че този процес може да бъде автоматизиран с помощта на AI. Свързал модели за обработка на естествения език. Създавал накрая чатбот, който може да се представя за човек. И да води телефонен разговор с измамника.
Проектът е наречен Apate в чест на Апата — древногръцката богиня на лъжата и измамата.
Подробности
Проектът се основава на езиков модел, подобен на ChatGPT, към който е свързана системата за гласово клониране. Apate беше обучен на текстове за реални взаимодействия с измамниците. На преписи на телефонни разговори, както и на кореспонденция по електронна поща и в социалните мрежи. Чатботът е тестван върху реални обаждания от измамници.
За целта, учените са решили да ги провокират, като купили няколко телефонни номера, които започнали преднамерено да публикуват в съмнителни интернет сайтове.
Целта на проекта е да задържи събеседника на линията 40 минути без конкретен резултат. Това е доста дълго време и голям брой такива разговори могат да разклатят “бизнес модела“ на престъпниците. Въпреки това, средното време за диалог с Apate е само 5 минути.
В редица случаи AI изненада създателите си. Той показа доста находчивост в нестандартни ситуации, когато измамници са поискали информация, която не е присъствала в обучаващите материали.
Развитие
Самите представители на престъпния свят в момента активно внедряват AI, използвайки технологии за клониране на гласа и дийпфейк. Следователно, проектът Apate е вид симетричен отговор на усъвършенстваните решения от страна на измамниците. Учените предполагат, че подобни чатботове могат да бъдат внедрявани и от телефонните оператори.
Източник: Калдата
