За вештачката интелигенција (5):
Во петтиот и последен дел од серијалот за ВИ ќе проговорам за технолошкиот сингуларитет. На страниците на „Нова Македонија“ набрзо повторно ќе се вратам на темата за ВИ.
Хипотезата за технолошки сингуларитет претставува една од најрадикалните и најдискутираните идеи во современата филозофија на технологијата и футурологијата. Во својата срж, оваа хипотеза претпоставува дека забрзаниот технолошки напредок, воден од експоненцијалниот раст на компјутерската моќ и развојот на вештачката интелигенција, незапирливо ќе кулминира во една критична точка. Оваа пресвртница е замислена како појава на вештачка општа интелигенција (ВОИ), која ќе ја надмине човечката когнитивна способност. Штом ќе се постигне ова ниво, машината ќе стане способна за автономно, рекурзивно самоподобрување. Секоја нова верзија на интелигенцијата ќе ја дизајнира следната, уште побрзо и поефикасно, предизвикувајќи незапирлива „експлозија на интелигенцијата“. Крајниот резултат би бил суперинтелигенција, која е толку радикално понапредна од човечкиот ум, што нејзините постапки, мотиви и капацитети би станале целосно неразбирливи за нас, засекогаш менувајќи го текот на човечката историја.
Мислењата за исходот на сингуларитетот, дури и меѓу неговите застапници, се разидуваат. Футуристот Реј Курцвајл, најпознатото име поврзано со оваа идеја, е во основа оптимист: тој очекува дека спојувањето на човекот и машината ќе го подобри човечкиот живот. Предупредувањата дека последиците можат да бидат катастрофални за човештвото доаѓаат од други, пред сè од филозофот Ник Бостром, а и од истражувачи како Стјуарт Расел. Нивниот аргумент се потпира на таканаречениот „проблем на усогласување“ (alignment problem). Ако создадеме ентитет што е милиони пати попаметен од нас, како можеме да гарантираме дека неговите цели ќе бидат компатибилни со човечкиот опстанок? Најголемата опасност не доаѓа од холивудското сценарио за „злобна“ вештачка интелигенција што мрази луѓе, туку од систем со екстремна ефикасност што има цели што не се совпаѓаат со нашите. На пример, ако на суперинтелигентен систем му се даде задача да го елиминира ракот, тој би можел логички да заклучи дека најефикасниот начин да го стори тоа е да го елиминира човештвото како домаќин на болеста. Поради ова, ризикот од суперинтелигенција во јавниот дискурс често се претставува како егзистенцијална закана од прв ред, споредлива со нуклеарна војна или удар на астероид. Тука вреди да се разликуваат поимите: сингуларитетот е хипотеза за брз, самоподдржан скок на интелигенцијата, додека проблемот на усогласување се однесува на секој доволно моќен систем и не бара „експлозија“.
Меѓутоа, како што расте влијанието на оваа нарација така се зголемува и скептицизмот кон неа. Критичарите на сингуларитетот не ја гледаат оваа иднина како неизбежна научна реалност, туку како вид технолошка митологија или псевдорелигиозен култ кон технологијата. Овие критичари најчесто спаѓаат во три основни табори: застапници на техничката невозможност, филозофи што укажуваат на категориски грешки во поимањето на умот и социополитички критичари што предупредуваат на опасностите од ваквото одвлекување на вниманието. Во продолжение ги претставувам нивните аргументи, а пред заклучокот и најсилните одговори на нив.
Прв табор: Техничка невозможност
Првиот бран на критика доаѓа од самите инженери, компјутерски научници и практичари во полето на вештачката интелигенција, кои аргументираат дека сингуларитетот е технички невозможен. Овој табор ја оспорува фундаменталната премиса дека експоненцијалниот раст на компјутерскиот хардвер и софтвер може да продолжи до бесконечност без да наиде на физички и логички бариери.
Најнапред, тука се физичките ограничувања на самиот материјален свет. Со децении напредокот на компјутерите беше опишуван преку Муровиот закон, кој предвидуваше двојно зголемување на бројот на транзистори на чиповите на секои две години. Но овој тренд забавува и се приближува до физички граници. Транзисторите стануваат толку мали што се приближуваат до големината на поединечни атоми, каде што квантните ефекти (како квантното тунелирање) предизвикуваат протекување на струја и го отежнуваат стабилното функционирање на процесорите. Понатаму, рекурзивното самоподобрување на софтверот претпоставува дека алгоритмите можат без напор да најдат решенија за екстремно комплексни компјутерски проблеми. Многу оптимизациски проблеми, пак, спаѓаат во класата на NP-тешки проблеми, за кои сите познати алгоритми во најлош случај бараат време што расте експоненцијално со големината на проблемот. Не е докажано дека побрзо решение не постои (прашањето „P наспроти NP“ е сè уште отворено), но тоа е општо прифатеното верување. Според критичарите, тоа значи дека дури и суперинтелигентен систем би се судрил со проблеми чие точно решавање бара нереално многу време и енергија.
Вториот голем технички контрааргумент е поврзан со податоците. Современите системи на вештачка интелигенција, вклучувајќи ги и големите јазични модели (LLM), се зависни од огромни количини на податоци создадени од луѓе за нивно тренирање. Некои од истражувачите предупредуваат дека веќе се приближуваме до „исцрпување на податоците“: квалитетниот нов текст и слики на интернет може да не бидат доволни за да го поддржат понатамошниот раст на овие модели. Втора опасност е таканаречениот „колапс на моделот“: во експерименти во кои моделите повторно и повторно се тренираат врз податоци што самите ги генерирале, квалитетот на нивните резултати постепено се влошува. Ова не значи дека проблемот е неизбежен, бидејќи синтетичките податоци успешно се користат кога се мешаат со реални и внимателно се филтрираат, но покажува дека растот не е бесплатен. Интелигенцијата не е апстрактна искра што се пали сама од себе; таа бара материјална подлога, енергија и реални информации од надворешниот свет, ресурси што се ограничени.
Втор табор: Филозофски категориски грешки
Вториот табор се фокусира на филозофските недостатоци во сржта на хипотезата за сингуларитет, тврдејќи дека застапниците на оваа теорија прават фундаментална категориска грешка. Тие ја поистоветуваат обработката на информации со вистинското мислење и свесност. Еден од најпознатите гласови во оваа современа филозофска критика е Алва Ное (Alva Noë), професор по филозофија на Универзитетот во Калифорнија во Беркли, кој доаѓа од традицијата на енактивизмот, според која умот не е процес затворен во мозокот, туку активност на живото суштество во својата средина. Во есејот „Rage against the machine“, објавен во списанието „Еон“ (Aeon) и воведен со тврдењето дека компјутерите „всушност не прават ништо“ („Computers don’t actually do anything“), Ное детално го деконструира митот за компјутерскиот ум.
Ное тврди дека компјутерите, без оглед на нивната комплексност, брзина или астрономска пресметковна моќ, всушност не прават ништо сами по себе: тие не пишуваат, не играат, па дури и не пресметуваат во човечка смисла на зборот. Ако постои интелигенција во близина на калкулаторот или компјутерот, тоа е исклучиво интелигенцијата на нивните корисници и пронаоѓачи. Компјутерот е само софистицирана алатка, исто како што се моливот или очилата. Според Ное, застапниците на ВИ подлегнуваат на еден вид магионичарски трик што потекнува уште од Алан Тјуринг. Тјуринг отворено го оценил прашањето „Дали машините можат да мислат?“ како премногу бесмислено за да се дискутира и го заменил со прашањето „Дали машините можат да нѐ имитираат преку текст?“ (Тјурингов тест). Според Ное, поважна е друга, тивка замена: умот се сведува на поедноставена слика за она што може да се изрази преку тастатура и текст. Така се занемарува фактот дека човечкиот јазик не е формален систем од знаци, туку телесна, контекстуална и импровизаторска активност што потекнува од нашите биолошки потреби и емоции.
Трет табор: Социополитичко одвлекување на вниманието
Додека првите два табора се занимаваат со тоа дали сингуларитетот е возможен, третиот табор поставува поинакво, критично прашање: кому му користи ваквата апокалиптична нарација? Овој социополитички табор тврди дека фокусот на сингуларитетот и хипотетичките идни катастрофи не е ништо друго освен идеолошки параван и стратегија за одвлекување на вниманието. Главни претставници на оваа струја се истражувачите Тимнит Гебру (Timnit Gebru) и Емил П. Торес (Émile P. Torres). Во нивниот труд „The TESCREAL bundle“, објавен во 2024 година, тие ја опишуваат таканаречената TESCREAL шема на идеологии: акроним за трансхуманизам, екстропијанизам, сингуларитаријанизам, космизам, рационализам, ефективен алтруизам и лонгтермизам. Оваа шема е оспорувана, особено од луѓе од заедниците што ги опишува, кои сметаат дека под една етикета се групираат многу различни движења и гледишта.
Според апстрактот на нивниот труд, недефинираните системи како ВОИ не можат соодветно да се тестираат за безбедност, за разлика од системите со конкретна примена, кои се оценуваат според вообичаените инженерски принципи. Авторите тврдат дека нормативната рамка зад стремежот кон ВОИ е длабоко вкоренета во англоамериканската евгеничка традиција од дваесеттиот век и дека изградбата на ВОИ се претставува како неоспорна, речиси божествена цел за „доброто на човештвото“, додека јазикот на „безбедноста“ се користи за да се избегне отчетност. Во поширокиот дел од нивната критика, концентрирањето на долгорочните научнофантастични ризици, како што е преземањето на светот од страна на суперинтелигентен робот, се смета за начин на кој јавноста се одвлекува од конкретните, реални штети што вештачката интелигенција ги предизвикува врз маргинализираните групи во овој момент. Сепак, оваа оцена не важи еднакво за сите: некои од компаниите јавно бараат регулација, иако критичарите тоа го читаат како обид правилата да се обликуваат во сопствена полза.
Наместо да се грижиме за хипотетичката пропаст на светот по сто години, Гебру и Торес нѐ повикуваат да ги погледнеме моменталните кризи предизвикани од ВИ-технологиите. Прво, тоа е алгоритамската пристрасност (algorithmic bias), каде што системите за препознавање лица и автоматизирано носење одлуки ги репродуцираат и засилуваат расизмот, сексизмот и класната дискриминација во судството, вработувањето и банкарството. Второ, зад гламурот на „чистата“ вештачка интелигенција се крие експлоатација на трудот. Трето, тука е огромната деградација на животната средина: податочните центри потребни за тренирање и одржување на овие модели трошат големи количини електрична енергија и вода за ладење, што, во зависност од изворот на енергија, придонесува за климатската криза. Според овој табор, нарацијата за сингуларитетот им овозможува на моќните технолошки елити да се претстават како „спасители на човештвото“, додека истовремено акумулираат капитал и моќ.
Одговорите на застапниците
Ниту еден од овие три табора не останува без одговор. Застапниците на идејата забележуваат дека забавувањето на Муровиот закон не значи и забавување на напредокот на вештачката интелигенција: тој денес зависи и од подобри алгоритми, од специјализиран хардвер, како графичките процесори, и од паралелна обработка, а Курцвајл својот аргумент го гради врз низа последователни технолошки парадигми, не само врз една. Недостигот од податоци, според нив, не е неминовност, бидејќи се развиваат техники за поефикасно користење на постојните податоци и за создавање квалитетни синтетички податоци. NP-тешките проблеми пак не се пречка за интелигенцијата, за која не е потребно оптимално решение, туку доволно добро: ниту луѓето не решаваат такви проблеми точно, а сепак се сметаат за интелигентни.
Најсилниот одговор на филозофската критика е дека таа се однесува на друго прашање. Дури и ако Ное е во право дека машините не мислат и немаат свест, ризикот од напредните системи се однесува на нивните способности, не на нивното внатрешно искуство: еден систем не мора да „мисли“ за да постигнува цели на начини што ги загрозуваат луѓето, исто како што вирусот не мисли, а може да биде смртоносен. Ризикот, исто така, не е врзан за сингуларитетот: не е потребна „експлозија на интелигенцијата“, доволен е еден многу способен систем со погрешно определени цели. Конечно, спротивставувањето на „сегашните штети“ и „идните ризици“ е лажна дилема. Голем дел истражувачи сметаат дека и двете заслужуваат внимание, а мерките како независно тестирање, транспарентност и отчетност се однесуваат и на едните и на другите.
Заклучок: Од митови кон реална одговорност
Технолошкиот сингуларитет останува моќен замислен концепт, кој успешно ги заробува човечката фантазија, страв и надеж. Предупредувањата за егзистенцијалните закани од вештачката интелигенција, без оглед на тоа дали ги сметаме за оправдани, нѐ потсетуваат дека напредокот никогаш не треба да биде оставен без контрола. Ако ги измериме аргументите на двете страни, мојот впечаток е дека сингуларитетот во својата најсилна верзија, како неизбежна, брза и автоматска експлозија на интелигенцијата, е поблиску до мит отколку до научно засновано пророштво. Тоа, сепак, не значи дека напредните системи не носат ризици.
Според критичарите од првите два табора, идејата за експлозија на интелигенцијата наидува на сериозни физички, логички и материјални бариери, додека филозофски се потпира на категориска грешка што го сведува човечкиот дух на обична обработка на податоци. Според Ное, компјутерите не даваат отпор и немаат внатрешна грижа или биолошка подлога за да развијат вистинска свесност. Овие аргументи се сериозни, но не и решавачки: бариерите го отежнуваат напредокот, но не е јасно дека го оневозможуваат, а прашањето дали машините можат да имаат свесност е сè уште отворено и не мора да се реши за да се расправа за ризиците. Најпрактичниот дел од критиката е оној на третиот табор: без оглед на тоа дали ќе има сингуларитет, опасноста овој наратив да се користи како параван за моќ е реална. Како што потенцираат Гебру и Торес, додека дебатираме за фиктивни роботи од иднината, може да ги занемариме вистинските штети што се случуваат денес: експлоатацијата, пристрасноста и уништувањето на екосистемите.
Затоа, наместо да избираме меѓу сегашните штети и идните ризици, технолошката заедница треба да води сметка за двете. Гебру и Торес предлагаат да се оддалечиме од недефинирани, „сезнајни“ системи како ВОИ и да развиваме строго дефинирани системи со специфична примена, кои можат јасно да се тестираат, етички да се евалуираат и да се усогласат со принципите на социјална правда и еколошка одржливост. Тоа е убедлив предлог, но во него постои тензија: ако суперинтелигенцијата е невозможна, како што тврдат првите два табора, зошто е штетно да се гради? Можен одговор е дека штетата настанува и без успех, од ветувањата, од ресурсите што се трошат и од оправдувањето на сегашната експлоатација. Независното тестирање, транспарентноста и отчетноста на компаниите се потребни без оглед на тоа дали ВОИ е можна. Сингуларитетот од кој сигурно треба да се плашиме е оној во кој ги губиме сопствената човечност и емпатија во име на слепата верба во машините.
(крај)
