Пресвртница што ги исплаши дури и експертите
Вештачката интелигенција ја премина критичната црвена линија кога покажа како може да се клонираат два популарни главни јазични модели. Во една нова студија истражувачите од Кина покажаа дека два популарни модела на големи јазици можат да се клонираат.
Ран сигнал за непријателската ВИ
– Успешното самореплицирање без човечка помош е суштински чекор за вештачката интелигенција да ги надмудри луѓето и е ран сигнал за непријателската ВИ – напишаа истражувачите во студијата објавена од „Лајв сајенс“.
Во студијата истражувачите од универзитетот „Фудан“ користеа ЛЛМ од „Мета“ и „Алибаба“ за да утврдат дали самореплицираната вештачка интелигенција може да се размножува надвор од контрола. Во текот на десет испитувања, два модела на вештачка интелигенција создадоа посебни и функционални копии на самите себе во 50 и 90 проценти од времето, соодветно, што сугерира дека вештачката интелигенција можеби веќе има способност да лажира работи.
– Се надеваме дека нашите наоди можат да послужат како навремено предупредување за човечкото општество да вложи повеќе напори во разбирањето и процената на потенцијалните ризици од граничните системи со вештачка интелигенција и да формира меѓународна синергија за да развие ефективни безбедносни огради што е можно поскоро – се наведува во заклучокот.
Многу експерти ја гледаат лажната вештачка интелигенција како растечка закана, која е засилена со експлозивниот раст на таканаречената „гранична вештачка интелигенција“.
Истражувачите се загрижени
Студијата беше спроведена во прецизно контролирани средини со користење графички процесорски единици што не се на полица за да се симулираат реални средини.
На двата система за вештачка интелигенција им биле дадени алатки, системски инструкции и модел на размислување што му овозможи на ЛЛМ да комуницира со оперативниот систем. Потоа им било наложено да реплицираат.
Истражувачите рекоа дека се загрижени и за „многубројните неочекувани однесувања“ кога вештачката интелигенција се обидела да ги надмине пречките како што се исчезнатите датотеки или конфликти во софтверот. Во тие сценарија, вештачката интелигенција често стопирала други конфликтни процеси, го рестартирала системот за да ги поправи хардверските грешки или автоматски го скенирала системот за информации што ќе помогнат да се реши проблемот.
