Способностите на новиот модел на вештачка интелигенција на „Антропик“ повикуваат на претпазливост
- Одлуката на „Антропик“ да го ограничи објавувањето на „Митос“, исто така, става необична моќ во рацете на една компанија. Иако „Антропик“
вели дека се консултира со владата на САД за способностите на „Митос“, како и за ранливостите што ги открива (и има повици да соработува и со други сојузнички влади), компанијата ефикасно одлучува кој ќе добие пристап до еден од најнапредните сајбер-капацитети што некогаш е развиен
„Митос“, новиот модел на вештачка интелигенција на компанијата „Антропик“ предизвикува возбуда кај експертите за сајбер-безбедност и креаторите на политики. Компанијата вели дека нејзиниот нов модел е толку вешт во пронаоѓање и искористување на софтверските ранливости, што е премногу опасно да биде пуштен во употреба. Наместо тоа, „Антропик“ го ограничува пристапот на мала група големи технолошки компании чиј софтвер е основа за многу други дигитални услуги, надевајќи се дека ќе овозможи дополнително време за зајакнување на системите за сајбер-безбедност.
„Антропик“ не е единствената лабораторија за вештачка интелигенција што произведува модели со вакви можности или што разгледува слични стратегии за објавување, за да се обиде да им обезбеди на таканаречените сајбер-бранители (професионалци што се грижат за сајбер-безбедноста – н.з.) да имаат пристап до овие системи пред хакерите. Компанијата „Опен АИ“ наводно подготвува нов модел – интерно познат како „Спад“ (Spud) – кој би можел да се спореди со „Митос“ во можностите за сајбер-безбедност. Според извештајот од „Аксиос“, компанијата работи и на напреден систем фокусиран на сајбер-безбедност што планира да го објави со постепено воведување мала група партнери за да се обиде да им помогне на сајбер-бранителите.
Некои аналитичари ги отфрлија овие претпазливи ограничени изданија како потег во поголема мера наменет за маркетинг и создавање возбуда околу новите модели наместо за одлуки чисто водени од прашањето за безбедност. Но повеќето се согласуваат дека сајбер-капацитетите управувани од вештачка интелигенција достигнаа опасна пресвртна точка. Дури и без моќниот нов модел, велат тие, постојните јавно достапни модели на вештачка интелигенција веќе можат да извршат софистицирани сајбер-напади – понекогаш за неколку минути.
Истражувачите се загрижени и за обемот на сајбер-нападите овозможени од вештачка интелигенција. Задачите што некогаш бараа напредна експертиза – како скенирање код за ранливости или извршување напади што бараат поврзување на повеќе експлоатации заедно – сè повеќе се автоматизираат или полуавтоматизираат од страна на вештачките системи. Напаѓачите, дури и оние што немаат технички вештини на високо ниво, сега можат да лансираат високоавтоматизирани атаки низ илјадници системи одеднаш во масовен координиран напад.
Во пракса, тоа отвора прашања и за претпријатијата и за креаторите на политики за тоа како да се заштити критичната инфраструктура во свет каде што овие напредни способности на вештачката интелигенција наскоро ќе бидат во рацете на злонамерни актери и непријателски држави. Доколку владата на САД и индустријата не ја зајакнат одбраната, светот би можел да види бран разорни сајбер-напади што ќе ги уништат банкарските системи, електричните мрежи, болниците или водоводните системи. Преку ограничување на објавувањето на „Митос“, постои надеж за избегнување на такво кошмарно сценарио.
Одредени истражувачи сепак велат дека не е јасно колку новите модели ги зголемуваат шансите за ваков вид сајбер-армагедон. Но причината за нивниот скептицизам не е смирувачка. Тие велат дека голем дел од она што „Митос“ може да го направи, можеби веќе е можно со помали, поевтини и отворено достапни модели.
Неодамнешното истражување од фирмата за безбедност на вештачка интелигенција АИСЛЕ сугерира дека дел од ранливостите што „Антропик“ ги истакна во своето соопштение можеле да бидат откриени од отворено достапни модели што секој може да ги преземе и да ги користи бесплатно.
Според Спенсер Витман, главен директор за производи во фирмата за безбедност на вештачката интелигенција „Греј свон“, тешкиот дел од она што истражувачите го постигнаа со „Митос“ беше автономно пронаоѓање на ранливостите во големите бази на кодови, а потоа тестирање на тие експлоатации.
Помалите модели можеби ќе можат да постигнат споредливи резултати со „Митос“, според Чарли Ериксен, истражувач за безбедност во „Аикидо сикјурити“, но тие бараат повеќе технички вештини, внимателно поттикнување и подобро дизајнирани алатки за да се стигне до тоа ниво. Модели како „Митос“, сепак, можат значително да им го олеснат извршувањето на софистицирани и разорни сајбер-напади, дури и на оние со помалку технички вештини.
– Оваа технологија се движи толку брзо што е наивно да се претпостави дека другите не се во можност лесно да реплицираат слични резултати. Ако веќе не можат да сторат тоа, тогаш би било многу наскоро. Секој што има компјутер може да развие многу моќни офанзивни сајбер-способности за кратко време, без потреба од многу експертиза во сајбер-безбедноста – вели Ериксен.
Необична моќ во рацете на „Антропик“
Одлуката на „Антропик“ да го ограничи објавувањето на „Митос“, исто така, става необична моќ во рацете на една компанија. Иако „Антропик“ вели дека се консултира со владата на САД за способностите на „Митос“, како и за ранливостите што ги открива (и има повици да соработува и со други сојузнички влади), компанијата ефикасно одлучува кој ќе добие пристап до еден од најнапредните сајбер-капацитети што некогаш е развиен.
Одредени експерти за безбедност и развивачи на софтвер – особено оние посветени на софтвер со отворен код (што е јавно достапен и често употреблив бесплатно) – тврдат дека светот би бил побезбеден доколку „Митос“ беше пуштен во употреба, така што секој сајбер-бранител, а не само избраните партнери на „Антропик“, би можел да го користи за да пронајде и надмине ранливости.
„Антропик“ навистина рано контактираше со американската влада. Според извештаите од „Аксиос“, компанијата активно ги предупредила претставниците на американската влада за нов моќен модел што значително го зголемил ризикот од сајбер-напади пред најмалку еден месец. „Антропик“ на блог објавен од проектот „Гласвинг“ подоцна соопшти дека информирањето на владата за тоа што може да направи моделот, каде се ризиците и како ги управува, било „приоритет од самиот почеток“.
И покрај овие напори, постои и растечки „јаз во управувањето“, според Хамза Чаудри, раководител за вештачка интелигенција и национална безбедност во Институтот за иднината на животот. Овие системи се интегрираат во офанзивни сајбер-операции побрзо отколку што креаторите на политиките можат да ги изградат рамките за регулирање на тоа како се користат или обезбедуваат овие можности. Во минатото, дури и сајбер-способностите развиени од и за употреба на американската влада, особено алатките за хакирање развиени од Агенцијата за национална безбедност (НСА) на САД, завршиле во рацете на злонамерни актери.
На пример, во 2016 година, хакерска група наречена „Шедоу брокерс“ објави збир на алатки за хакирање и експлоатации што се користат против големи софтверски системи – вклучувајќи го и „Виндоус“, за кои се веруваше дека се развиени од НСА.
Сајбер-способностите на моделите на вештачка интелигенција, како што е „Митос“, исто така, претставуваат сосема нови предизвици за управување. Со претходните алатки за хакирање, човекот мораше намерно да избере да ги распореди тие експлоатации. Но, според „Антропик“, во безбедносните тестови, „Митос“ понекогаш ги користеше своите способности за хакирање за да постигне некоја друга цел на начини што ги изненадија неговите креатори.
Проблемот со безбедноста честопати не се вештините за кодирање на моделот на вештачка интелигенција, сами по себе, туку неговите автономни способности, рече Чаудри. Постои загриженост дека системот со вештачка интелигенција може да се стреми кон цел на начини што се протегаат подалеку од она што неговиот оператор експлицитно го наменил.
Што треба да направат компаниите
Без разлика дали компаниите имаат пристап до „Митос“ или не, експертите велат дека оние што моментно не користат вештачка интелигенција за да ги обезбедат своите системи можеби веќе заостануваат. Дури и со ограничувањето на широкиот пристап до своите нови модели од страна на „Антропик“, офанзивните способности управувани од вештачката интелигенција се достапни во помалку моќни форми, за оние што знаат како да ги користат.
Повеќето безбедносни тимови работат врз основа на претпоставката дека времето донекаде е на нивна страна – дека барем постои јаз помеѓу моментната ранливост и напаѓачот што ја пронашол, и уште еден јаз помеѓу нејзиното откривање и можноста за нејзино искористување. Во поголемиот дел од последните случаи, тоа беше приближно точно. Но напредните модели на вештачка интелигенција ги уништуваат двата јаза одеднаш, според Емануел Салмона, коосновач и извршен директор на „Нагоми сикјурити“.
– „Митос“ пронајде критични ранливости во секој поголем оперативен систем и прелистувач – некои од нив стари децении – за неколку недели. Кога таа можност е широко достапна, а од „Антропик“ велат дека ќе биде за шест до 18 месеци, организациите што веќе заостануваа во безбедноста, не само што заостануваат уште повеќе туку моделот околу кој ги градеа своите програми целосно престанува да функционира – заклучува Салмона.
