За вештачката интелигенција (2)
- Во вториот напис ќе се осврнам на четирите когнитивни ерозии што може да ги предизвика вештачката интелигенција
Постои една верзија на прогресот во која создавањето уметнички или научни творби се третира исто како што пред еден век се гледаше на електричната енергија: како ресурс што треба да се произведе, дистрибуира и потроши со што е можно помала загуба. Според таа логика, секоја пречка што го забавува процесот до крајниот резултат е непотребен трошок, а вештачката интелигенција (ВИ) е технологијата што конечно овозможува трошокот за создавање да се намали речиси до нула. Но создавањето никогаш не било само средство за постигнување исход. Тоа се огледува на четири рамништа: во материјализацијата на идеите, во исцртувањето на границите на сопственото „јас“, во средбата со други луѓе и во просторот на човечката интуиција и дејствување. Забавениот и тежок пат на создавањето не е само цената што ја плаќаме за да стигнеме до значењето. Тој е еден од механизмите преку кои тоа значење се создава. Затоа, кога го отстрануваме процесот, не добиваме нужно ист производ што е само поевтин и побрзо произведен. Добиваме нешто што може да изгледа исто, а понекогаш дури и подобро, како артефакт, но е различно како човечки чин. Разликата не мора да биде видлива во самиот резултат. Таа може да биде во она што се случувало со човекот додека резултатот бил создаван.
Материјализацијата на идеите
Да ги земеме за пример генеративната ВИ и создавањето текст. Кога човек сам ќе напише една реченица, во нејзината конечна форма се содржани безброј отфрлени можности: зборови што не ги избрал, реченици што ги напишал, па ги избришал, идеи што ги напуштил и аргументи што ги променил. Тој невидлив процес на избор и отфрлање не е само пат до конечната реченица. Тој е дел од процесот преку кој авторот дознава што навистина мисли и каков автор сака да биде. Ова се приближува до една од централните интуиции на егзистенцијалистичката мисла: значењето не е едноставно скриено во предметот што треба пасивно да го откриеме, туку е поврзано со начинот на кој човекот избира, дејствува и презема одговорност за сопствениот избор. Кај Сартр, човекот се определува преку своите избори и проекти; кај Ками, Сизифовата карпа не станува значајна затоа што некогаш конечно ќе остане на врвот. Таа никогаш не останува таму. Поентата е во човекот што, свесен за апсурдноста на својата ситуација, повторно ја презема задачата.
Во таа смисла, кога ВИ создава роман, код или слика за неколку секунди, таа не мора нужно да го прави истиот човечки чин поефикасен. Таа може да отстрани значителен дел од процесот низ кој човекот би дошол до конечниот резултат. Резултатот може да биде реален, функционален и естетски убав. Но тоа не е исто што и прашањето што се случило со човекот што го создал. Тука треба да се направи важна разлика: не станува збор за тврдење дека вредноста постои само во рачниот труд или дека секое дело создадено со помош на ВИ е безначајно. Прашањето е поинакво: што губиме ако создавањето го разбираме исклучиво како производство на конечен резултат? Значењето не е само својство на завршеното дело. Значаен дел од него се создава и во трудот низ кој човекот, чекор по чекор, се обликува себеси. Почетната насока (prompt) е избор, но не секој избор има иста когнитивна тежина. Ако машината ги произведува повеќето можности, ги елиминира повеќето неуспеси и предлага конечна формулација, човекот може да остане само со задачата да избира меѓу веќе понудените резултати. Тоа сè уште е избор, но е поинаков вид избор. Проблемот, според тоа, не е во тоа што ВИ може да создаде нешто. Проблемот настанува кога производството на резултат и формирањето на авторот почнуваат да се сметаат за иста работа.
Исцртувањето на границите на сопственото „јас“
Ова прашање на авторството нè носи до следното клучно рамниште: каде завршува сопственото „јас“ што вложува труд, а каде почнува ВИ што помага? Дилемата не е нова. Тезата за „проширениот ум“ на Енди Кларк и Дејвид Чалмерс предлага дека одредени надворешни процеси можат функционално да бидат дел од когнитивниот систем, а не само негово помагало. Нивниот познат пример е Ото, човек што поради проблеми со меморијата се потпира на тетратка. Ако тој постојано и доверливо ја користи тетратката на начинот на кој друг човек се потпира на сопственото сеќавање, зошто тетратката да не ја сметаме за дел од неговиот когнитивен систем?
Од оваа идеја лесно може да се изведе заклучокот дека ВИ е само уште еден надворешен когнитивен ресурс: продолжение на човековата способност, исто како калкулаторот, пребарувачот или бележникот. Но токму тука аналогијата со тетратката почнува да се крши. Тетратката на Ото го содржи она што Ото го запишал во неа. Големиот јазичен модел не функционира на тој начин. Тој генерира содржина што корисникот никогаш претходно не ја формулирал, врз основа на статистички модели изградени од огромни количества човечки јазични и културни продукции. Тој не е само пасивно складиште на нашата мисла; тој произведува нови предлози, кои потоа можат да се вратат во нашиот когнитивен процес.
Токму затоа границата меѓу алатка и соработник станува нејасна. Прашањето повеќе не е само каде се наоѓа мојата меморија, туку каде се наоѓа мојата намера. Ако ВИ предлага аргумент што јас не сум го замислил, формулација што не би ја употребил, решение до кое самиот не би стигнал или одлука што изгледа подобра од онаа што првично сум ја имал, дали таа само ја подобрила мојата намера или постепено почнала да ја заменува? Ова не се случува со некој драматичен и видлив праг. Се случува во низа мали, рационални и навидум безопасни делегации. Прво ја бараме подобрата формулација. Потоа подобриот аргумент. Потоа подобрата одлука. На крајот можеби повеќе не знаеме дали одредена мисла е наша подобрена намера или само убедливо продолжение произведено од системот. Тогаш алатката може да почне да се однесува како протеза на когницијата, не затоа што презела некоја очигледна функција, туку затоа што човековиот разум почнал да се организира околу нејзиното постојано присуство. Вистинскиот тест на авторството затоа можеби не е дали човекот може да го објасни конечниот резултат, туку дали, кога ќе остане сам, сè уште може да објасни зошто верува во она во што верува.
Средбата со други луѓе
Ако ерозијата на границата меѓу сопственото „јас“ и алатката е тивка, ерозијата на границата меѓу сопственото „јас“ и другите луѓе може да биде уште потивка, бидејќи доаѓа маскирана како совршена удобност. Дигиталните системи веќе долго време можат да создаваат ехо-комори: луѓе со слични ставови се поврзуваат меѓу себе, а алгоритмите им нудат содржини што ги потврдуваат нивните претходни интереси и уверувања. Генеративната ВИ отвора нешто поинакво. Наместо само да нè опкружува со луѓе што мислат како нас, таа може да ни понуди еден синтетички соговорник што се приспособува на нашиот начин на комуникација и може да го намалува триењето во разговорот.
Проблемот не е во тоа што ВИ секогаш се согласува со нас. Современите системи можат и да оспоруваат, да коригираат и да посочуваат грешки. Проблемот е подлабок: синтетичкиот соговорник нема сопствен човечки живот што мора да го брани од нашиот. Другиот човек не е само извор на информации. Тој е некој со сопствени интереси, спомени, стравови, предрасуди и последици што произлегуваат од неговите одлуки. Тој може искрено да не се согласи со нас, дури и кога тоа не е корисно, ефикасно или пријатно. Ова е важно за нашето самоспознание.
Во сократовската традиција, дијалогот не е само техника за размена на аргументи. Другиот човек е оној што може да ја доведе во прашање сликата што ја имаме за самите себе. А кај Хегел, односот со другиот е суштински за развојот на самосвеста: човек не се спознава целосно во изолација, туку во однос со она што не е тој самиот. Ова може да се поврзе и со Хабермасовата идеја за идеалната говорна ситуација, во која рационалната комуникација претпоставува можност учесниците слободно да ги оспоруваат тврдењата на другите. Вистината, во оваа перспектива, не е само нешто што поединецот го произведува во изолација; таа се испитува во комуникација во која другите имаат реална можност да кажат „не“. Токму тука лежи ризикот од премногу удобниот синтетички соговорник. Она што може да се еродира не е некое конкретно наше верување, туку самата навика да поднесуваме вистински отпор. Ако секогаш можеме да добиеме соговорник што е трпелив, достапен, приспособен на нашиот јазик и подготвен да ја преформулира својата позиција додека не стане прифатлива, може да почнеме да го доживуваме реалниот човек, недоследен, несовршен и навистина различен, како непотребно триење. Но токму тоа триење е дел од човечкиот свет. Човекот што не се согласува со нас не е системска грешка што треба да се филтрира. Тој може да биде токму причината поради која ќе ја преиспитаме сопствената мисла.
Просторот на човечката интуиција и дејствување
Истата логика, применета врз дејствувањето наместо врз верувањето, ја произведува последната и можеби најсуштинската промена: преминот од системи што само одговараат на прашања кон системи што можат самостојно да извршуваат задачи. Кога ВИ само нуди одговор, одлуката сè уште останува кај човекот. Тој мора да го спореди одговорот со сопственото знаење, искуство и претчувство; мора да процени дали нешто „не му звучи како што треба“. Понекогаш таа процена е тешко вербализирана. Таа е чувство дека нешто не е во ред, иако сè уште не можеме точно да кажеме зошто. Агентната ВИ го менува токму овој меѓупростор. Кога системот не само што предлага, туку планира, избира алатки, извршува дејства, ги проценува резултатите и повторно дејствува, делови од циклусот перцепција–процена–одлука–дејствување се пренесуваат од човекот кон машината. Тоа само по себе не е нужно лошо. Автоматизацијата отсекогаш ослободувала човеково време и когнитивен капацитет. Прашањето е што се случува кога она што го делегираме не е само повторлива задача, туку самата практика на одлучување.
Тука интуицијата станува особено важна. Човечката интуиција често може да се разбере како брзо и несвесно препознавање обрасци стекнати низ искуство. Таа не е непогрешлива, ниту секоја интуитивна реакција е мудра. Но таа е поврзана со конкретниот живот на човекот: со неговите грешки, успеси, стравови, загуби, непријатности и постепени приспособувања. Затоа вистинското прашање не е дали статистичкиот модел може да произведе нешто што наликува на интуиција. Може да биде многу успешен во препознавање сложени обрасци. Прашањето е што се случува со човечката способност за процена ако човекот престане да ја практикува. Способностите што не ги користиме можат да ослабнат. Ако ВИ постојано ги предлага опциите, ги проценува ризиците и ги извршува дејствата, човекот може да добие подобри краткорочни резултати, а истовремено да изгуби дел од практиката преку која самиот би станувал подобар во одлучувањето. Ова е можеби најважната разлика меѓу автоматизацијата на задача и автоматизацијата на судот. Кога машината наместо нас пресметува, можеби само ја скратува пресметката. Кога наместо нас проценува што вреди да се пресмета, веќе учествува во самото определување на проблемот.
Заклучок
Системот на вештачка интелигенција што го оптимизира животот за среќа или продуктивност веќе прави една од најголемите можни одлуки во име на тој живот, уште пред да понуди некој помал избор: тој мора да претпостави што треба да се максимизира. Но човековиот живот не е само проблем со фиксна целна функција. Она што денес го сметаме за добро, утре може да престане да ни биде важно. Може да избереме нешто што не е оптимално, да останеме лојални на одлука донесена од погрешни причини, да направиме грешка и потоа да живееме со нејзините последици. Можеме да откриеме дека целта што сме ја оптимизирале била погрешна. Токму затоа совршено оптимизираниот живот е можеби противречност. Оптимизацијата бара цел. Автономниот живот, напротив, подразбира можност човекот повторно да ја постави целта. Животот што целосно се управува според она што се нарекува „алгократија“ (А. Аниш): правила и цели диктирани од алгоритми, наместо вредности што ги создава и преиспитува заедницата, може да биде поефикасен, помазен и мерливо подобар по секоја оска што ја следи. А сепак, во исто време, може да стане сè потешко човекот да каже дека тој живот е навистина негов. Авторството не е само прашање на квалитетот на исходот. Тоа е прашање на учеството во одлуката за тоа што воопшто ќе се смета за добар исход.
Прочитани заедно, овие четири ерозии: на творечкиот труд, на границата на сопственото „јас“, на средбата со другите луѓе и на човечката интуиција, всушност опишуваат еден единствен процес што се појавува во четири различни облици. Во секој од нив, она што навидум изгледа како отстранување на трошокот може да се покаже како отстранување на дел од механизмот преку кој човекот станува токму тоа што е: некој што го напишал ова, а не она; некој што верува во нешто и може да каже зошто; некој кому му противречеле, па си го променил мислењето; некој што избрал погрешно и морал да живее со последиците од изборот. Ништо од ова не е едноставен аргумент против градењето или користењето на вештачката интелигенција. Напротив, можеби токму затоа треба да ја користиме подобро. Не треба да прашуваме само што може ВИ да направи наместо нас, туку и што не смееме да престанеме да правиме самите, ако сакаме да останеме автори на сопствениот живот. Зашто карпата никогаш не била поентата. Туркањето беше.
Љупчо Коцарев
(продолжува)
