Четботот Клод АИ на компанијата „Антропик“, кој му е ривал на ЧетГПТ на „Опен АИ“, сега може само за неколку секунди да разбере цела книга што се состои од околу 75.000 збора. Тоа е огромен скок напред за четботовите во време кога бизнисите бараат технологија што може брзо да обработи големи количества информации.
Откако „Опен АИ“ го воведе ЧетГПТ, компаниите како „Блумберг“ и „ЏП Морган Чејс“ бараат начини да ја искористат моќта на технологијата за вештачка интелигенција за подобро да го разберат светот на финансиите. Иако овој процес им трае најмалку неколку месеци, компанијата „Антропик“ со својот четбот Клод АИ може да го намали тоа време на само неколку секунди.
Во компјутерскиот свет, токенот е фрагмент од збор што се користи за поедноставување на обработката на податоците. Количеството на токени што во одредено време може да ги обработи големиот јазичен модел (LLM) се нарекува контекстен прозорец, кој е сличен на краткорочната меморија. Просечен човек може да прочита 100.000 токени за околу пет часа, но тоа е само времето потребно за читање на токените, што значи дека е потребно уште повеќе време за да се запамети и анализира оваа информација. ГПТ-4 ЛЛМ на „Опен АИ“ има контекстен прозорец од 4.096 токени (околу 3.000 збора) кога се користи со ЧетГПТ.
За да покаже како ова ги подобрува перформансите на технологијата за вештачка интелигенција, „Антропик“ го постави целиот текст на „Големиот Гетсби“ (72.000 токени) со еден ред изменет во однос на оригиналот. Вештачката интелигенција имаше задача да ја забележи разликата, а го направи тоа за само 22 секунди. Тоа можеби не звучи особено импресивно за оние што користеле програми за обработка на текст за да ги пронајдат разликите помеѓу два текста, но вештачката интелигенција ги надминува со својата способност да одговара на прашања за текстот и длабоко да го анализира.
„Антропик“ е фокусиран на компании што обработуваат голем број документи и ја користат својата технологија за вештачка интелигенција наместо однапред да му поставуваат конкретни прашања на Клод. Како и секој четбот, Клод може да побара конкретни информации и да понуди резултати, исто како човечки асистент.
Исто така, „Антропик“ користеше вештачка интелигенција за обработка на транскрипт од шестчасовна снимка на поткаст, го сумираше и одговараше на прашања. Компанијата верува дека истото тоа може да се примени за финансиските извештаи и правните документи, како и за подобрување на кодот и за одговарање на технички прашања.
