СТАВ
За вештачката интелигенција (1)
- Во неколку написи ќе понудам видување на современите трендови во вештачката интелигенција (ВИ)
Во изминативе неколку години (поточно од 2022 година), два термини доминираа во светот на ВИ: генеративна ВИ и агентна ВИ. Првиот термин, генеративна ВИ, е технологија што може самостојно да создава нови содржини, наместо само да ги анализира постојните податоци. Таа користи напредни компјутерски модели за да научи шаблони од огромна количина информации. Врз основа на тоа знаење, таа може да генерира оригинален текст, слика, музика, видео или програмски код. Вториот термин, агентна ВИ (Agentic AI), звучи малку апстрактно, но означува вештачка интелигенција која, за да исполни одредена цел, има способност самостојно да дејствува и да носи одлуки. За разлика од генеративната ВИ, која само одговара на прашања, агентната ВИ го планира процесот, се приспособува на промени и користи разни алатки без постојано човечко надгледување и управување. Таа не само што генерира текст или идеи туку и извршува комплексни задачи од почеток до крај.
Што се всушност големите јазични модели?
Големиот јазичен модел (како што се ChatGPT или Claude) во својата суштина е моќен статистички компјутерски ентитет што предвидува зборови, а не ентитет што навистина размислува и расудува како човек. Тој е изграден врз таканаречени „трансформаторски архитектури“ (transformer architectures). Ова се специјални компјутерски системи што користат механизми на „самовнимание“ (self-attention). Преку нив, моделот сфаќа како зборовите во една реченица се поврзани едни со други, слично како што човекот го согледува целиот контекст на разговорот. Крајниот резултат е паметен дигитален асистент што може да води логичен и убаво срочен разговор. Сепак, на овие системи сè уште им недостигаат три клучни работи: намерност (свесна желба да направат нешто), вистинско разбирање на светот и способност за логичко размислување. Тие само многу вешто го симулираат разбирањето. Ова е огромна филозофска и практична разлика, која мора да ја имаме на ум кога ги користиме во секојдневниот живот.
Како ВИ обработува и генерира текстови?
За да разбереме како тоа го прави ВИ-системот, да погледнеме низ каков математички процес поминува еден обичен текст. Текстот најпрво се дели на помали единици наречени токени. Еден токен може да биде цел збор, дел од збор или дури и само еден интерпункциски знак. Секој токен се претвора во единствена листа од броеви наречена вградување (embedding). Овие броеви ја претставуваат позицијата на токенот во еден огромен, повеќедимензионален математички простор. Зборовите или концептите што имаат слично значење или контекст се поставуваат блиску еден до друг во тој простор. Потоа, со помош на механизам на самовнимание, се врши контекстуално мапирање. Ова е јадрото на тоа како вештачката интелигенција „го разбира“ текстот. Користејќи ја архитектурата наречена трансформатор, моделот ги гледа сите токени истовремено додека ја обработува вашата порака (prompt) и одредува колку тежина треба да му даде на секој друг збор во текстот. Откако целата порака ќе биде контекстуално мапирана, вештачката интелигенција не бара одговори во база на податоци. Наместо тоа, ВИ ги користи статистичките шаблони врежани во нејзината обука за да ја предвиди најточната, контекстуално најрелевантната и логички најиздржаната низа токени, од кои го составува својот одговор.
Пример
Замислете дека вашиот влезен текст има точно 100 збора. Заради поедноставување, ќе претпоставиме дека секој збор претставува еден токен, а секој збор има димензија на вградување (вектор) еднаква на 4.096 броја. Текстот започнува како обична низа од букви, но се трансформира во математичка матрица (табела). Пред самовниманието (пред процесот) се добива табела (матрица) со димензии 100 × 4096. Тука, секој од стоте реда е статичен вектор што претставува изолирана дефиниција на тој поединечен збор, без да ги гледа другите зборови во текстот. По самовниманието (по процесот), димензиите на табелата остануваат исти (100 × 4096), но трансформацијата ги „измешала“ редовите заедно. Секој ред сега има апсорбирано информации од сите други редови со кои е поврзан. Ако 10-тиот збор во вашиот текст е „клетка“ (мислејќи на биолошка клетка), а 80-тиот збор е „неврон“, механизмот на самовнимание создава математички мост помеѓу 10-тиот и 80-тиот ред во табелата. Иако матрицата ги задржува своите почетни димензии (100 × 4096), таа веќе не е само збир на изолирани зборови, туку се претворила во густа мрежа од контекстуално значење.
Последици
Да заклучиме: и покрај впечатокот што го остава, големиот јазичен модел останува статистички систем што предвидува зборови, а не ентитет со вистинско разбирање или расудување. И покрај тоа, она што го „пишува“ вештачката интелигенција е процес на дејствување. Тоа дејствување е пасивно, изразено само со текст (или говор), но сепак ВИ директно влијае врз умот на човекот, без разлика дали ни помага да напишеме писмо или целосно го менува начинот на кој размислуваме за решавање на некој проблем.
Егзактни науки наспроти илузијата на точност
Во математиката, физиката и инженерството, валидацијата на генерираниот текст е релативно едноставна. Основните правила се детерминистички и се потпираат на строга структурна логика. Ако вештачката интелигенција генерира код, тој може да се компајлира. Ако пресмета фиксна точка на диференцијални равенки, вредноста може да се врати назад во векторското поле за да се провери нејзината точност. Опасноста тука не лежи во пристрасноста на ставовите, туку во халуцинацијата. Бидејќи авторегресивната јамка на вештачката интелигенција го предвидува само математички најверојатниот следен токен, таа повремено може да спои симболи што изгледаат совршено точно, но содржат фатална, суптилна математичка грешка. Поради ова, корисникот треба да заземе „конзервативен пристап“ и да дејствува како неопходен човечки супервизор за да ги открие овие математички и технички пропусти.
Западната пристрасност во хуманитарните и општествените науки
Просторот за вградување (embedding), повеќедимензионалниот математички простор што го користи вештачката интелигенција, е изграден преку токенизација на масивни корпуси во кои доминираат дигитализирани податоци од англиското говорно подрачје. Поради тоа, „гравитацијата“ на векторскиот простор на моделот е силно наклонета кон западните историски, филозофски и политички рамки. Кога од моделот ќе се побара да анализира сложен општествен феномен, механизмот на самовнимание природно ги привлекува векторите кон најгустите кластери во податоците за обука. Тие кластери, во огромно мнозинство, се задоени со евроцентрични, индустријализирани и индивидуалистички перспективи. Доколку корисникот нема длабоко стручно познавање од културна антропологија, социологија или глобална историја, тој може да го помеша течниот и самоуверен одговор со универзална вистина. Во реалноста, тој одговор е само статистички одраз на едно специфично подмножество од севкупното човечко творештво. Во овие области, ризикот не е само фактичка грешка; тука постои ризик од систематско воедначување на културните нијанси и целосно потиснување на незападните епистемологии.
Што е агентна ВИ (Agentic AI)?
Од друга страна, агентен ВИ-систем се дефинира како независен дигитален ентитет, кој во себе спојува шест карактеристики што наликуваат на човечкиот ум: перцепција (набљудување), расудување, планирање, меморија, преземање акции и учење од сопствените грешки. Важно е да се нагласи дека ова се само компјутерски функции што личат на неки човечки когнитивни функции, а не вистинска човечка свест. Кога овие шест карактеристики ќе се спојат, системот добива способност да работи сам, да носи одлуки во одредени ситуации и да презема иницијатива во средини коишто постојано се менуваат. Во оваа смисла, агентните системи се всушност напредни роботи во форма на софтвер, придвижувани од големи јазични модели, кои брзо се усовршуваат и сè почесто се користат во бизнисот. За разлика од обичните системи за разговор (четботови), кои само ви даваат совети, на овие нови агенти им се дава директен пристап до реални дигитални алатки. Тоа значи дека тие не само што ви кажуваат како да завршите некоја задача (на пример, да резервирате билет или да испратите мејл), туку можат самите да влезат во системот и да ја извршат таа задача за вас (да купат билет или да пратат мејл).
Иднината е веќе тука. Агентните ВИ-системи веќе одамна не се само научна фантастика. Иако во јавноста сè уште се дебатира и мислењата се поделени меѓу две крајности: голем ентузијазам и длабок скептицизам, овие системи веќе функционираат и го менуваат нашето секојдневие. Кога ќе дозволиме вакви независни системи на вештачка интелигенција директно да се поврзат со нашите секојдневни комуникациски мрежи и со компјутерските бази каде што ги чуваме документите (датотечни системи), се појавуваат сериозни безбедносни проблеми и предизвици во користењето и управувањето.
Заклучок
Она што го гледаме денес е премин од ВИ што само разговара кон ВИ што дејствува. Генеративните модели ни покажаа колку убедливо машините можат да имитираат разбирање, без навистина да разбираат; агентните системи го носат тој ист недостаток еден чекор понатаму, во светот на реални акции со реални последици. Токму затоа човечкиот надзор не е привремена мерка додека технологијата „созрева“, туку структурен услов за нејзина безбедна употреба, без разлика дали станува збор за проверка на еден алгебарски израз или за препознавање скриена културна пристрасност во еден анализиран општествен феномен.
(продолжува)
