- Новите „суштества“ би можеле да преземат контрола врз сѐ, итно ни треба истражување како да ги спречиме
- Во блиска иднина, вештачката интелигенција може да се користи за создавање ужасни нови вируси и смртоносно оружје што самото ќе одлучува кого да убие или да повреди. Сите овие краткорочни ризици бараат итно и силно внимание од владите и меѓународните организации
Нобеловите комитети за физика и хемија го препознаа драматичниот напредок што се постигнува во новата форма на вештачка интелигенција, која користи вештачки невронски мрежи за да научи како да решава тешки пресметковни проблеми.
Оваа нова форма на вештачка интелигенција се истакнува во моделирањето на човечката интуиција, а не на човечкото расудување и ќе ни овозможи да создадеме високоинтелигентни и знаечки асистенти што ќе ја зголемат продуктивноста речиси во сите индустрии.
Доколку придобивките од зголемената продуктивност можат да се поделат еднакво, тоа ќе биде прекрасен напредок за целото човештво. За жал, брзиот напредок во вештачката интелигенција доаѓа со многу краткорочни ризици. Таа веќе создаде раздорни ехо-комори нудејќи им на луѓето содржина што ги прави огорчени. Веќе ја користат авторитарните влади за масовен надзор и сајбер-криминалците за фишинг-напади.
Во блиска иднина, вештачката интелигенција може да се користи за создавање ужасни нови вируси и ужасно смртоносно оружје што самото ќе одлучува кого да убие или да осакати. Сите овие краткорочни ризици бараат итно и силно внимание од владите и меѓународните организации.
Постои и долгорочна егзистенцијална закана што ќе се појави кога ќе создадеме дигитални суштества што се поинтелигентни од нас самите. Немаме поим дали можеме да ги држиме под контрола, но сега имаме докази дека ако тие се создадени од компании мотивирани од краткорочна добивка, нашата безбедност нема да биде врвен приоритет.
Итно ни треба истражување за тоа како да спречиме овие нови суштества да сакаат да преземат контрола. Тие повеќе не се научна фантастика.
Џефри Хинтон
Авторот е нарекуван кум на вештачката интелигенција
