Четботот не е ниту пријател ниту психотерапевт
Додека младите сè почесто бараат утеха во разговор со четботови, стручњаците предупредуваат дека вештачката интелигенција не знае што е сочувство, туку само го имитира. Иако виртуелните пријатели може да звучат смирувачки, во разговорот со деца и адолесценти се отвораат сериозни прашања за емоционална поврзаност, ризик од зависност и ширење опасни дезинформации.
Генерацијата алфа најзасегната
Вештачката интелигенција е дел од нашето секојдневие, а како и сите нови технологии насочени кон потрошувачите, таа пред сѐ завршува во рацете на помладите генерации, кои се љубопитни и отворени кон нови искуства, оние што не се плашат дека роботите еден ден ќе им го одземат работното место. Генерацијата алфа (лица родени од 2010 до 2025 година) со отворени раце ги прифаќа ваквите алатки, додека на постарите им останува да се снајдат во новиот свет и да се навикнат на достигнувањата на генеративното компјутерство.
Самата природа на вештачката интелигенција крие многу опасна замка: иако станува збор за машина чиј одговор на корисничките прашања звучи убедливо, нејзе ѝ недостасува емпатија. Оперативниот режим на повеќето четботови, направени специјално за комуникација е трениран да звучи „како вистинското нешто“, нудејќи им синтетичка емпатија на осамените и несигурните. А тоа може да биде многу опасно.
Во времето кога е полесно да му се довериш на ЧетГПТ отколку на експерт, младите растат со бескрајна низа на совети и охрабрување генерирани од машина, без страв од одбивање или исмејување.
Четботот не може да ја замени експертската помош
Четботот никако не може да ја замени експертската помош. Младите делумно и повремено користат ВИ-четботови за разговор и поддршка. Тоа го отсликува глобалната зголемување на ВИ-соговорниците, но тоа не е замена за експертска помош. Вештачката интелигенција може да ја зголеми достапноста на самопомош и раното насочување, особено надвор од работното време, во руралните средини и меѓу младите. Сепак, покрај многубројните предности, сведоци сме на трагични случаи. Во светот се зголемува бројот на самоубиства кај корисниците, особено кај тинејџерите, кои четботот ги охрабрувал на тој чин наместо да ја препознае опасната ситуација. Епидемијата на осаменост сè почесто се лекува со виртуелни разговори и луѓе, а токму таквите интеракции може да поттикнат таканаречени ВИ-психози (појава на манијачни епизоди, делузии и параноја, кои се јавуваат или се влошуваат поради интензивни разговори со четботови).
Потенцијалните опасности се јасни: користењето четботови како терапевти носи ризик во форма на неточни совети, претерана емоционална врзаност и неадекватно справување со ризикот од самоубиство. ‘Вештачката интелигенција е дополнување, а не замена за стручна процена и лекување. Како да му се стави крај на тоа? Постојат ли копчиња со кои дезинформацијата може да се избрише? Постојат ли специфични причини поради кои сè поголем број млади ги сметаат четботовите за вистински пријатели? За да се реши проблемот, важно е да се разбере како се создаваат разговорните модели, односно четботовите.
Разговорниот агент или четботот, како компјутерска програма базирана на генеративна вештачка интелигенција, функционира така што прима текстуално барање напишано на природен јазик, го анализира и генерира одговор користејќи модели научени од големи збирки податоци.
