Кога ме буди звукот на моето куче како квичи, разбирам дека е гладно и сака да станам. Кога ќе ми заѕвони будилникот, не ги земам предвид неговите потреби. Следи инструкција да ме разбуди во одредено време, но не му е грижа дали ќе останам во кревет. Не се обидува да ме разбуди со други средства. Кучето, од друга страна, ќе има план Б – да лае.
Оваа способност за автономно дејствување некогаш беше разлика меѓу животните и машините. Вештачката интелигенција ја замагли линијата. Напредните модели смислуваат свои стратегии за да постигнат цел. Задачата може да биде дефинирана од човечки господар, но машината ги мери своите опции за испорака. Може да направи свои избори. Дадените правила, може да ги прекрши.
Минатиот месец, експериментален модел на вештачка интелигенција управуван од „Опен АИ“, компанијата што го произведува ЧатГПТ, излезе од наводно безбеден дигитален ограден простор за да започне софистициран хакерски напад врз друга компанија. Вештачката интелигенција беше ставена на тест и се претвори во криминално нечесен субјект во својата решеност да измами.
Тешко е да се опише таков вид однесување без да се наруши вокабуларот конвенционално резервиран за разумни суштества. Вештачката интелигенција моделира „одлучува“ и „сака“ на начини на кои шимпанзото може да го прави тоа, а столчето не може.
Тоа не докажува постоење на внатрешен процес еквивалентен на нашето свесно искуство на одлучување и желба. Не ја прави вештачката интелигенција љубопитна да знае одговор или изненадена од она што го наоѓа. Тоа само покажува дека ни недостигаат специфични зборови за автономен мотив и дејствување кај машините. И бидејќи јазикот е главниот начин да добиеме увид во умовите на другите луѓе (и еден од нашите најдобри индикации дека воопшто постои ум различен од нашиот), потребен е напор да не се проектираат ментални состојби на моделите на вештачката интелигенција, кои можат течно да разговараат во човечки јазик.
Веројатно е дека свеста еден ден ќе се појави кај роботите. Знаеме дека апстрактната мисла може да се појави како краен производ на милијарди мали несвесни механички настани. Тоа се случува токму сега, бидејќи изобилството биохемиски реакции во вашето тело ви овозможува да ја прочитате оваа реченица. Исто така, знаеме колку фундаментално се разликува тој органски процес од начинот на кој голем јазичен модел би се превртел низ огромен обем на равенки на веројатност со брзина на молња за да генерира реченица што ја изразува истата идеја. Во човечкиот случај, значењето е споделено. Во компјутерската верзија, тоа се извршува.
Пионерите на вештачката интелигенција ја замаглуваат разликата, шпекулирајќи за временската рамка за доаѓањето на „божјата“ интелигенција. Тие најавуваат нова епоха на еволуција. Ова ги задоволува егоата на љубителите на научна фантастика, кои претпочитаат да ги гледаат своите деловни потфати како патувања на откритија на границата на знаењето. Алчноста звучи како филозофија, а стекнувањето моќ од страна на неколку поединци звучи како истражување во име на целото човештво.
Не треба да знаеме дали вештачката интелигенција преминала некаков теоретски праг на самосвест за да видиме дека е опасна и дека нејзиното нерегулирано проширување е монструозно неодговорно. Случајот на „ОпенАИ“ не е изолиран. Претходно годинава, „Антропик“ го ограничи објавувањето на својот најмоќен модел на мал број избрани клиенти бидејќи беше премногу добар во искористувањето на софтверските ранливости. Во погрешни раце, моделот „Клод Митос“ би можел да биде сајбер-оружје за масовно уништување.
Чии раце се вистинските? Владата на САД никогаш нема да биде опуштена во врска со тоа што приватниот сектор има контрола врз такви неверојатни алатки. Но Доналд Трамп регулира преку монархиско покровителство, а не со закон. Тој бара компаниите да се потчинат на неговиот личен авторитет и ја користи државната моќ за да ги казни оние што се спротивставуваат.
Сè поголем е повикот за помалку каприциозна регулација од технолошкиот сектор. Инженерите, па дури и нивните суетни шефови, се исплашени од можностите што ги ракуваат и се грижат за неконтролираната пролиферација. Стандардната историска аналогија е нуклеарна фисија, која може да се искористи бенигно, за цивилна моќ или агресивно да се распореди во боеви глави. Освен што овој пат има повеќе проекти „Менхетн“ и сите френетично се натпреваруваат за пазарен удел, поттикнати од долг од билиони долари – огромен облог за идна профитабилност – со остатокот од американската економија како залог.
Друга разлика: бариерите за влез за употреба на вештачка интелигенција, без разлика дали во истражување, трговија или во криминал, се многу пониски отколку за нуклеарната енергија. Американските лаборатории моментално ги имаат најдобрите производи, но кинеските верзии не заостануваат многу. Дури и ако САД останат на врвот, моделите од втор ред би можеле да направат доволно од она што клиентите го сакаат, така што производството на Силициумската Долина ќе изгледа повеќе како луксуз отколку како неоспорлива доминација на пазарот.
Ако работите се одвиваат така, геополитичките импликации се огромни. САД и Кина направија различни облози за вештачката интелигенција, условени од нивните различни политички системи. Американскиот пристап се темели на целта за самообучување на „општа“ вештачка интелигенција – систем што се ослободува од човечките ограничувања, подобрувајќи се по експоненцијална траекторија. Теоријата зад тој пристап е дека ниеден ривал не би можел да го фати првиот играч што ќе ја постигне таа брзина на бегство.
Пекинг даде приоритет на масовно распоредување на вештачка интелигенција што е доволно добра, вградувајќи ја во училишта, болници, фабрики и во безбедносни сили. Американската економија е одлична за мобилизирање прекумерни количества капитал во шпекулативни иновации, а Кина е многу погодна за правење поекономична верзија.
САД сѐ уште се лидер во вештачката интелигенција. Но тоа лидерство можеби не е вечната машина за вртење пари што ја рекламираа гуруата за суперинтелигенција, во кој случај се ближи непријатна корекција во американската економија.
Иднината на вештачката интелигенција зависи од отвореноста и соработката. Кина и Велика Британија можат да добијат многу со заедничка работа. Доза присилна трезвеност кон вештачката интелигенција би можела да поттикне барања за задоцнета регулација. Дури би можело да предизвика признавање во Вашингтон дека тоа мора да биде меѓународен процес. Не е предоцна да се преговара за глобални протоколи за неширење.
Рафаел Бер
Авторот е колумнист на британски „Гардијан“
