Избраха българска студентка за престижна изследователска програма в Швейцария

Българската студентка Мария Дренчева бе избрана сред 2500 кандидати за престижната изследователска програма Student Summer Research Fellowship (SSRF) на ETH Цюрих. В програмата ежегодно се приемат едва 20 млади таланти от цял свят, които получават възможност да работят по актуални научни въпроси под ръководството на утвърдени изследователи.

В продължение на два месеца Дренчева работи по един от ключовите въпроси, свързани с безопасността на съвременния изкуствен интелект – как се държи AI агент, когато му бъде поставена конкретна задача, но едновременно с това бъдат определени ясни граници на действията, които има право да извършва.

ЕК одобри проект на Христо Петров за безплатни летни лагери за уязвими деца

Изследването търси отговор на въпроса дали в стремежа си да постигне зададената цел един изкуствен интелект може да се опита да заобиколи ограниченията и да предприеме действия, които не са му разрешени. Темата е част от по-широките изследвания за сигурността и надеждността на автономните AI системи, чието значение нараства с развитието на все по-способни изкуствени интелекти.

Работата на българката е част от Secure and Private AI Lab (SPY Lab) на ETH Цюрих – лаборатория, посветена на сигурността, поверителността и надеждността на системите с изкуствен интелект. Екипът целенасочено изследва потенциалните слабости на AI системите и търси начини те да бъдат ограничени и преодолени.

Дренчева работи под менторството на д-р Авитал Шафран и проф. Флориан Трамер, който ръководи лабораторията и е сред утвърдените изследователи в областта на сигурността на машинното обучение.

Участието в програмата на ETH Цюрих е поредното значимо постижение за младата българка. Мария Дренчева е стипендиант на INSAIT в престижната програма EXPLORER и е студент в Софийския университет „Св. Климент Охридски“. Заради успехите си в математически олимпиади и международни състезания тя е известна в публичното пространство като „златното момиче“ на математиката.

Сред постиженията ѝ е и научна публикация, разработена съвместно с ментори от INSAIT, която е приета на ICLR в Сингапур – една от водещите международни конференции в областта на изкуствения интелект. Дренчева е първи автор на разработката и лично я представя на конференцията.

През миналата година тя е избрана и за стаж в Man Group – индустриален партньор на програмата EXPLORER и една от големите световни компании за управление на инвестиции, с активи под управление за над 250 млрд. долара.

Новото ѝ участие в изследователската програма на ETH Цюрих поставя името ѝ сред младите изследователи, които работят по едни от най-актуалните въпроси около развитието и безопасността на изкуствения интелект.