Со векови, уредниците одлучуваа што да вклучат во вестите на радио и на телевизија и што да стават на насловната страница на весниците, со што го обликуваа јавниот разговор. Тоа ги направи уредниците моќни фигури. Жан Пол Марат го обликуваше текот на Француската револуција уредувајќи го влијателниот весник „Пријател на народот“. Едуард Бернштајн го обликуваше модерното социјалдемократско размислување со уредување на „Социјалдемократ“. Најважната позиција на Владимир Ленин пред да стане советски водач беше уредник на „Искра“. Бенито Мусолини доби слава и влијание како уредник на огнениот десничарски весник „Народ на Италија“…
Како што се забрзува револуцијата на вештачката интелигенција (АИ), ние сме бомбардирани и од утописки визии и од пророштва за судниот ден. Тешко е да се процени големината на заканата, бидејќи сме условени да стравуваме од погрешно сценарио. Научната фантастика постојано нѐ предупредуваше за голем бунт на роботите. Во многу научнофантастични романи и филмови – како „Терминатор“ и „Матрикс“ – вештачката интелигенција и роботите одлучуваат да ја преземат контролата над светот, да се бунтуваат против нивните човечки господари и да го поробат или уништат човештвото. Такво нешто е крајно малку веројатно да се случи во скоро време. Технологијата едноставно ја нема. Во моментов, вештачката интелигенција можеби совладала некои тесни области, како што се играњето шах, преклопувањето протеини или компонирањето текстови, но ѝ недостига општата интелигенција неопходна за многу сложени активности како што се градењето војска на роботи и преземањето контрола врз одредена земја. За жал, малата веројатност за голем бунт на роботите не значи дека нема од што да се плашиме. Зашто не треба да се грижиме за роботите убијци; туку од дигиталните бирократи. „Процесот“ на Кафка е подобар водич за дистопијата на вештачката интелигенција отколку „Терминаторот“.
Луѓето биле условени од милиони години еволуција да се плашат од насилни предатори како оној прикажан во „Терминаторот“. Сметаме дека е многу потешко да ги разбереме бирократските закани, бидејќи бирократијата е нов развој во еволуцијата на цицачите, па дури и кај луѓето. Нашиот ум е подготвен да се плаши од смрт по напад од тигар, но не и од смрт од документ.
Бирократијата започнала да се развива само пред околу 5.000 години, по откритието за пишување во античка Месопотамија. Но бирократијата брзо ги промени човечките општества на радикални и неочекувани начини. Размислете, на пример, за влијанието што пишаните документи и бирократите што ги користат го имаат врз значењето на сопственоста. Пред да се пронајдат писмени документи, сопственоста се потпираше на заеднички консензус. Ако сте „сопственик“ на нива, тоа значело дека вашите соседи се согласиле дека тоа е ваша нива, и преку нивните зборови и со постапки. Тие не граделе живеалиште на тоа поле и не го собирале неговиот род, освен ако не им дозволите.
Заедничката природа на сопственоста ги ограничува индивидуалните сопственички права. На пример, вашите соседи можеби се согласиле дека имате единствено право да обработувате одредена нива, но тие не го признале вашето право да ја продавате на странци. Во исто време, сѐ додека сопственоста беше прашање на заеднички консензус, тоа исто така ја попречуваше способноста на далечните централни власти да ја контролираат земјата. Во отсуство на пишани записи и разработени бирократии, ниту еден крал не можеше да се сети кој ја поседува која нива во стотици оддалечени села. Затоа, на кралевите им било тешко да ги зголемат даноците, што, пак, ги спречило да одржуваат армии и полициски сили.
Потоа беше измислено пишувањето, а потоа и создавањето архиви и бирократии. Технологијата на почетокот беше многу едноставна. Античките бирократи во Месопотамија користеле мали стапчиња за да отпечатат знаци на глинени плочи – кои во основа биле само парчиња кал. Но во контекст на новите бирократски системи, овие парчиња кал го револуционизираа значењето на сопственоста. Одеднаш, поседувањето нива значеше дека на некоја глинена плоча е напишано дека ја поседуваш таа нива. Ако твоите соседи со години береа овошје таму, а никој од нив никогаш не рече дека тоа парче земја е твое, ти, сепак, успеа да имаш официјално парче кал во кое се вели дека го поседуваш земјиштето и можеш да го потврдиш своето барање на суд. Спротивно на тоа, ако локалната заедница признава дека сте сопственик на нива, но ниту еден документ не дава официјално одобрување – тогаш не сте ја поседувале. Истото важи и денес, освен што нашите клучни документи се напишани на парчиња хартија или силиконски чипови наместо на глина.
Откако сопственоста стана прашање на писмени документи, а не на заедничка согласност, луѓето можеа да почнат да ги продаваат своите ниви без да бараат дозвола од соседите. За да продадете нива, само ја префрлавте клучната глинена плоча на некој друг. Но тоа значеше и дека сопственоста сега може да се определи од далечната бирократија, која ги изготви релевантните документи, а можеби ги чуваше во централна архива. Патот беше отворен за наплата на даноци, плаќање војски и формирање големи централизирани држави. Пишаниот документ го промени начинот на кој течеше моќта во светот и им даде огромно влијание на бирократите како што се даночници, плаќачи, сметководители, архивари и адвокати.
Тие станаа „водоинсталатери на информативната мрежа“, кои за добро или зло го контролираат движењето на даноците, плаќањата, па дури и војниците со манипулација со документи, формулари, статути и други бирократски механизми.
Ова е моќта што вештачката интелигенција сега е подготвена да ја искористи. Бирократијата е вештачка средина, во која владеењето на тесно поле е доволно за да се изврши огромно влијание врз поширокиот свет, преку манипулирање со протокот на информации. Ако ја фрлите денешната вештачка интелигенција во неуредниот неструктуриран свет, веројатно нема да може да постигне многу – и сигурно нема да може да активира војска роботи. Но ова е како да фрлите корпоративен адвокат во неуредната и неструктурирана савана. Таму, способностите на адвокатот не значат ништо и не се споредуваат со оние на слон или лав. Но ако прво изградите бирократски систем и го наметнете во саваната, адвокатот станува многу помоќен од сите лавови во светот заедно. Во денешно време, самиот опстанок на лавовите зависи од адвокатите, кои составуваат и преместуваат документи во лавиринтски бирократии. Клучно, во овој лавиринт, вештачката интелигенција веројатно ќе стане многу помоќна од кој било адвокат.
Во наредните години, милиони АИ-бирократи сè повеќе ќе носат одлуки за животот не само на лавовите туку и на луѓето. АИ-банкарите ќе одлучат дали да ви дадат заем. Вештачката интелигенција во образовниот систем ќе одлучи дали да ве прими на универзитет. АИ во компаниите ќе одлучи дали ќе ви даде работа. АИ во судскиот систем ќе одлучи дали да ве испрати во затвор. Воената вештачка интелигенција ќе одлучи дали да го бомбардира вашиот дом. Овие АИ-форми не се нужно лоши. Тие може да ги направат системите многу поефикасни и уште поправедни. Тие би можеле да ни обезбедат супериорна здравствена заштита, образование, правда и безбедност. Но ако работите тргнат наопаку, резултатите би можеле да бидат катастрофални. И во неколку области, работите веќе тргнаа наопаку.
Можеби најраскажувачкиот пример досега е приказната за алгоритмите на социјалните медиуми. Овие примитивни АИ-облици веќе го преобликуваа светот, вршејќи огромно влијание врз човечкото општество. Алгоритмите на корпорациите како „Фејсбук“, „Икс“, „Јутјуб“ и „Тикток“ имаат задача со многу тесна цел: да го зголемат ангажманот на корисниците. Колку повеќе време корисниците поминуваат на социјалните мрежи, толку повеќе пари заработуваат корпорациите. Во потрага по ангажирање на корисниците, алгоритмите дошле до опасно откритие. Со експериментирање на милиони човечки „заморчиња“, алгоритмите на социјалните мрежи дознаа дека алчноста, омразата и стравот го зголемуваат ангажманот на корисниците. Ако го притиснете „копчето“ за алчност, омраза или страв во човечкиот ум, ќе го привлечете вниманието на тој човек и ќе го држите залепен за екранот. Затоа, алгоритмите почнаа намерно да шират алчност, омраза и страв. Ова беше главната причина за актуелната епидемија на теории на заговор, лажни вести и социјални нарушувања што ги поткопуваат општествата низ светот.
Алгоритмите на социјалните мрежи се екстремно ограничени АИ што не можат да преживеат во саваната или да го оркестрираат големиот бунт на роботите. Но во рамките на бирократската структура на платформите на социјалните медиуми, тие облици на АИ поседуваат огромна моќ, која некогаш била за зачувување на човечките суштества. Со векови, уредниците одлучуваа што да вклучат во вестите на радио и на телевизија и што да стават на насловната страница на весниците, со што го обликуваа јавниот разговор. Тоа ги направи уредниците моќни фигури. Жан Пол Марат го обликуваше текот на Француската револуција уредувајќи го влијателниот весник „Пријател на народот“. Едуард Бернштајн го обликуваше модерното социјалдемократско размислување со уредување на „Социјалдемократ“. Најважната позиција на Владимир Ленин пред да стане советски водач беше уредник на „Искра“. Бенито Мусолини доби слава и влијание како уредник на огнениот десничарски весник „Народ на Италија“. Интересно е што едно од првите работни места во светот што било автоматизирано од вештачки интелигенции не било таксист или текстилен работник, туку уредник на вести. Работата што некогаш ја извршуваа Ленин и Мусолини, сега може да ја врши вештачката интелигенција.
Хаосот што го направија алгоритамските уредници врз човечките општества е предупредувачки знак. Човечкиот свет е мрежа од повеќе бирократии, во кои вештачката интелигенција може да собере огромна моќ, дури и ако таа е неспособна да крене бунт на роботи. Зошто да се бунтувате против системот, ако можете да го преземете однатре?
Јувал Ноа Харари
Авторот е историчар, филозоф и писател
