Замислете иднина во која вештачката интелигенција (ВИ) ќе може да предвиди кога и кој ќе направи насилство. Замислете совршено уредено општество во кое, дури и помислата (интенцијата) да се направи насилен чин се казнува ригорозно. Во таков совршено уреден систем во кој владее бесконечен мир, превенцијата станува осуда. Чинот веќе не е важен, во одредени случаи не е важна ниту намерата, станува важно системот да ја докаже својата ефикасност со тоа што ќе ве прогласи за виновни и пред да ја докаже вашата вина. Наместо презумција на невиност, во таков совршен систем би имале ПРЕЗУМЦИЈА НА ВИНА. Во таквото научнофантастично сценарио во градот повеќе не би имало тепачки, грабежи, ниту закани. Би имало само луѓе што исчезнуваат неколку дена пред да станат виновни и сето тоа во име на совршената превенција.
Сите жители во градот спијат мирно, сигурни дека никој нема да ги нападне, сѐ додека некој не заѕвони на нивната врата, но тоа не е разбојникот, туку тој што ги повикува на одговорност за дело што системот претпоставува или проценува дека би го направиле.
Во колоквијален контекст често се истакнуваат примери во кои поради масовни несреќи архитекти или инженери се самоубиваат и пред да биде пресудено дека тие се виновни. Тие живеат во системи каде што законите владеат беспрекорно, тоталитаристички и без исклучок. Нивната казна, воопшто не треба да биде екстерна, таа е интернализирана до таа мера, што дури и без да се докаже нивната вина, тие го плаќаат најскапиот данок со сопствениот живот.
Во научнофантастични сценарија, главната дилема е кој е тој што определува дали некој е доволно ризичен за да биде прогласен за виновен? Дали тој некој е поединец, кој евентуално би можел поради лично самоволие да ја злоупотреби својата процена на штета на осомничениот насилник или тоа е систем за кој со сигурност можеме да потврдиме дека е непогрешлив? И дали систем што нема човечка емпатија може воопшто да биде непогрешлив во процената или е само суров егзекутор на моментот „ако – тогаш“? Следната дилема што се поставува е дали систем што го решава насилството уште пред некој да помисли да го направи преку процена на неговата намера е населен со невини луѓе или сите се потенцијални насилници? До која мера насилството ќе биде опсежно и каде ќе се запре со истото тоа? Дали сѐ до оној момент до кога системот крајно не ги дисциплинира потенцијалните насилници (во името на превенција) и сите не се најдат под паноптикумот како што го опишува Фуко?
Сартр вели дека актот на слободата кај човечкото суштество не се мери по тоа колку надворешно ќе биде спречено да не направи „погрешен избор“ туку според внатрешното чувство и ориентир да не направи погрешен избор и покрај слободата што ја има во секој момент да скршне од патот.
Во „Основните црти на филозофијата на правото“, Хегел вели дека услов едно суштество да биде прогласено за разумно е можноста да ја признае сопствената грешка во сооднос со направеното дело. Во овој контекст, Хегел го проблематизира прашањето како човекот се третира низ правниот совршен систем како опасно суштество што треба да се направи безопасно? Оттука останува прашањето дали превентивниот систем воопшто го третира човекот како личност или само како опасност што треба да се отстрани. Одговорност може да има само разумен субјект што дејствувал. Во совршен систем на превенција, тој би се свел само на процена на ризик направена од државата – процена што го сведува човекот на збир од показатели за неговата евентуална вина, поради што треба да помине низ суров третман на дисциплинирање и да се направи безопасен, дури и по цена да се седатира додека не стане билка.
Според Маркс, совршените системи имаат голем историски дефект, бидејќи вложуваат напори да создадат системи што беспрекорно ќе предвидат насилство, но нема да обрнат внимание на условите го поттикнуваат тоа насилство. Во тој случај системот станува елиминатор на луѓе, а не на надворешни негативни појави што од тие луѓе прават насилници. Аналогно со апсурдната идеја дека ќе го отстраните злото само доколку ги отстраните сите злосторници.
Во такво совршено општество на максимална превенција од насилство, можеби најголемото насилство е што во името на безбедноста на човекот му се одзема шансата да ја побие прогнозата за сопствената иднина и сам да ја креира – дури и во случај кога би можел да изненади и да не го стори делото што системот му го става на товар уште пред да го направи.
Магдалена Стојмановиќ-Константинов
