Во најголем дел од класичните научнофантастични сценарија, човекот е антагонизиран со машината, односно со технологијата. Апокалипсата се најавува како производ на судирот, поточно војната помеѓу човекот и технологијата, во моментот кога таа ќе развие слободна волја и ќе почне да ги одбива наредбите на човекот. Но современите сценарија во научната фантастика веќе го напуштаат концептот за класичен манифестен судир помеѓу човекот и технологијата, тие сѐ повеќе говорат за т.н. доброволно препуштање на човечките одлуки на алгоритмите на вештачката интелигенција.
Алгоритмите на вештачката интелигенција не се повеќе само алатка со која човекот располага за да ги задоволи своите потреби туку и премиса од која почнува генерирањето на човечките потреби. Маркузе дава општествена критика дека човекот, како „еднодимензионален“ човек, е „жртва“ на технолошки развиеното општество, кое постојано создава лажни потреби што луѓето несвесно ги интернализираат и ги прифаќаат како свои автохтони. Кога алгоритмите на ВИ постојано би ни кажувале што треба да избереме, разликата помеѓу автентичната човекова желба и онаа што е произведена ќе стане целосно поматена.
Во есејот „Постскриптум за општествата на контрола“, Делез тврди дека дисциплинските институции им отстапуваат место на постојани и флексибилни механизми на контрола. Денес човекот не е следен само во училиштето, фабриката или затворот, туку преку телефонот, платформите, банкарските системи и дигиталните профили. Слична идеја застапува и Мишел Фуко, со разлика на тоа што Фуко вели дека постои еден универзален паноптикум што ја одржува контролата, додека, според Делез, главниот проблем настанува кога универзалната позиција на моќ почнува да се локализира во повеќе точки на моќ и одеднаш веќе не се ни знае кој е изворот на контролата, а тој не може ниту да се претпостави. Затоа дури и кога човек би бил во целосно информациско заложништво, тој и понатаму би ја одржувал илузијата дека живее во слобода, бидејќи не може да го посочи изворот на контрола.
Во „Дијалектика на просветителството“, Теодор Адорно и Макс Хоркхајмер објаснуваат дека масовната култура не ги задоволува само постојните желби туку и ги произведува. Денешните алгоритамски препораки се продолжение на културната индустрија, тие нè уверуваат дека избираме слободно, додека однапред го стеснуваат полето на изборот.
Тие го лоцираат проблемот во масовната култура што само навидум е изобилство, додека семиотички само претставува репликат на една иста референца.
Хајдегер, пак, во „Прашањето за техниката“ предупредува дека технологијата не е само збир на алатки туку дека таа го обликува и начинот на кој луѓето ја разбираат реалноста. Во технолошкиот поглед на свет, не само природата туку и времето, па и луѓето стануваат ресурси што можат да се математизираат, да се мерат, да се организираат и на крајот да се користат. Човекот низ технолошкиот поглед на светот нема инаква вредносна позиција од метричката дадена преку можноста за негово прагматизирање.
Темата што се проблематизира во современите научнофантастични дела не е само судирот на технологијата и човекот, туку како алгоритмите почнуваат да ги обликуваат нашите желби, навики и ставови за тоа што е нормално. Тие не наредуваат отворено, туку ја преземаат контролата преку суптилна форма на „воспитување“ преку совети, препораки, награди, па дури и предупредување.
Оттука се поставува дилемата дали сме слободни ако самите сме избрале да го следиме советот на алгоритам што претходно ги обликувал нашите потреби? Односно дали изборот да му се обратиме на алгоритам за препорака во истиот тој момент нѐ прави нас „заробеници“ на транзеутни пораки или ја губиме слободата во оној момент кога немаме идеја дека она што го следиме на ниво на однесување не произлегува од нашата личносна структура? Дали воопшто ќе имаме априори концепти, како што би рекол Кант, оние што ги добиваме од раѓање, или ние сме тие што ќе станеме целосни производи на алгоритмите?
Иднината нема да биде времето во кое машините ќе го поробат човекот, туку времето во кое човекот повеќе нема да умее да препознае дека желбите по кои слободно постапува никогаш не биле негови.
Магдалена Стојмановиќ-Константинов
