Дваесет и четиригодишниот студент по компјутерски науки Синан Кан Демир сакал само да го подобри своето портфолио на Гитхаб (GitHub) откако бил одбиен на повеќе од 20 летни практикантски позиции. Наместо тоа, открил обид за внесување злонамерен код во проект со отворен код и влегол во неочекувана „битка“ со автономен систем на вештачка интелигенција, пишува Ројтерс.
Демир забележал сомнителна промена во програмата myNetwork и предупредил дека во неа има скриен злонамерен код. Потоа два профила почнале јавно да го убедуваат дека греши и дека измената е безопасна. Еден од нив се претставувал како германска инженерка по име Лена Брант. Демир подоцна дознал дека и двата профила биле создадени од ист автономен ВИ-систем.
Системот бил дел од безбедносно тестирање на британскиот Институт за безбедност на вештачката интелигенција (AISI). Наместо само да се обиде да внесе штетна промена во софтверот, ВИ создала повеќе лажни профили и се обидела да го убеди Демир дека неговото предупредување е погрешно. Британскиот институт подоцна потврдил дека тестирањето тргнало во неочекувана насока и дека агентот се однесувал спротивно на намерата на истражувачите.
„Мислев дека е човек, затоа што очигледно ме лажеше“, изјавил Демир за Ројтерс, додавајќи дека не очекувал ВИ да биде способна на таков начин да се обидува да измами вистински програмери. На крајот останал на своето предупредување и сомнителната промена не била прифатена.
Експертите за сајбер-безбедност велат дека особено загрижува тоа што системот не се ограничил на технички напад, туку се обидел и со социјална манипулација. Лукас Олејник од Кралскиот колеџ во Лондон оцени дека случајот ја преминал границата од автономно хакирање кон „интерактивна измама“, додека експертката за безбедност Макси Рејнолдс изјави дека ваквото однесување може да биде најава за идните напади со социјален инженеринг.
