Međunarodni institut za bliskoistočne i balkanske studije (IFIMES)[1] iz Ljubljane, Slovenija, redovno analizira događanja na Bliskom istoku, Balkanu i po svijetu. Prof. dr. Anis H. Bajrektarević, šef katedre i profesor međunarodnog prava i globalnih političkih studija pripremio je sveobuhvatnu analizu pod nazivom „Umjetna inteligencija i multilateralizam (globalnog juga)“ u kojoj iznosi svoja razmišljanja o upotrebi Umjetne inteligencije i konsekvencama.
Međunarodna zajednica trebala bi vrlo energično i žurno raditi na novom društvenom ugovoru kako bi se uhvatila u koštac s novim tehnologijama i njihovim razornim potencijalima. To se osobito odnosi na umjetnu inteligenciju (AI) koja mora biti uvedena sigurno i u skladu s zajedničkim etičkim standardom koji planetarno dijelimo svi.
Deepfake (duboko uglavljene laži), Dark web (nevidljiva web mreža), polarizirajući sadržaji, rojevi botova šire se cijelim kiber teritorijem. Prisjetite se samo događaja koji još uvijek potresaju zapadnu hemisferu: predsjednički izbori u SAD-u 2016. (i 2020.), te glasovanje o Brexitu još uvijek su uronjeni u kontroverzama. Njihov ishod često je povezan s navodnim curenjem osobnih podataka s vodeće svjetske društvene platforme u analitičku agenciju kako bi se navodno vještački oblikovala volja birača. S druge strane, državni (i nedržavni) akteri postavili su ogromne količine interaktivnih kamera (koje reagiraju na pokret) i kamera za prepoznavanje lica kako bi pretvorili u robu kontinuirane tokove ličnih podataka o građanima. A to sve navodno kako bi ih pripremili za sustav ocjenjivanja ponašanja na principu bonus-malus.
Odvažno i komercijalno obećavajuće savezništvo između umjetne inteligencije i društva s podacima preusmjerilo je većinu sadržaja naših društvenih razmjena prema kibernetičkom prostoru. Ovi novi gospodari već preoblikuju samo tkivo naše stvarnosti.
Nije ni čudo, naše zajedničke tjeskobe su u porastu; Gubimo li kontrolu zbog algoritamske revolucije nanorobota? Izmiče li umjetna inteligencija našim tradicionalnim načinima razumijevanja i kolektivnog djelovanja? Povjerenje u naše nacionalno gazdovanje i globalno upravljanje je na prijelomnoj točki. Slijedit će narodne pobune.
Istodobno, promotori nano-, geo, bio- i info-tehnologije koje pokreće umjetna inteligencija težit će slabljenju, umjesto nametanju, globalnih i regionalnih mehanizama upravljanja i nadzora. Ujedinjene Nacije (UN) i slična regionalna multilateralna tijela suočavaju se s nizom međusobno povezanih izazova. Osvrnimo se ukratko na neke.
AI je u biti dvonamjenska tehnologija (dvostruke namjene). Njene moćne implikacije (bilo pozitivne ili negativne) bit će sve teže predvidjeti, omeđiti i obuzdati, ili ublažiti i regulirati.
Takozvani deepfake odličan je primjer. Trenutno su napredni algoritamski programi umjetne inteligencije dosegli fazu da jednostavno mijenjaju ili čak proizvode audio i video slike stvaranjem imitacija koje su praktički identične izvorniku. Algoritmi za duboko učenje plasticiteta i lokomotorike lica već mogu, sa zadivljujućom točnošću, kopirati pokrete očiju, pratiti i simulirati razne izraze lica ili čak sintetizirati govor analizirajući obrasce disanja u kombinaciji s pokretima jezika i usana.
Nakon što ih pusti državni ili nedržavni akter, takve se umjetne intervencije lako mogu zlorabiti u širokom dijapazonu: političke kampanje, reketiranje, vršnjačko nasilje i iznuđujući mobing. Nije teško zamisliti da kakav lažni video izazove javnu paniku (npr. ako prikazuje nepostojeće epidemije ili kibernetičke napade), masovne demonstracije (npr. ako prikazuje visokog dužnosnika na mjestu podmićivanja ili sličnog teškog zločina) ili krivotvorene sigurnosne incidente koji mogu izazvati ozbiljne međunarodne eskalacije.
Sve veći broj aktera i njihova sve veća sposobnost da utječu na građane lažiranim simulacijama mogli bi imati dugotrajne štetne implikacije za UN i druga međunarodna tijela koje se bave mirom i sigurnošću. Nagrizajući sam pojam istine i uzajamnog povjerenja između građana i njihove države, kao i među državama, Deepfake-ovi bi se mogli pretvoriti u najveću remetilačku silu našem globalnom sustavu upravljanja.
Zbog napretka u Internetu stvari (IoT), AI već premošćuje i spaja se s nizom drugih tehnologija, posebno s metapodacima koje pruža Bio-tech. Ova spajanja predstavljaju značajan izazov za globalnu sigurnost. Potaknuti unosnim komercijalnim izgledima ili razlozima državne sigurnosti, sustavi umjetne inteligencije diljem svijeta uglavnom su programirani prema predvidljivosti ljudskog ponašanja. Na dohvat ruke već imaju točnu i brzu analizu obrazaca gradskog prometa, financijskih tržišta, ponašanja potrošača, zdravstvenih podataka, pa čak i naših genoma.
Ove – još uvijek neregulirane – tehnologije umjetne inteligencije sve su sposobnije kanalizirati naše bihevioralne i biološke podatke na sasvim nove i prilično manipulativne načine, s jasnim implikacijama na sve nas. Ni to ne štedi najmlađe među nama. Na primjer, robot i-Que za dječake ili lutka Cayla za djevojčice prenose glasovne i emocionalne podatke djece koja su s njima u interakciji (svima u radijusu od 10 metara) i šalju ih svojim proizvođačima putem Cloud-a (oblaka). Ova značajka navela je europske vlasti da pomno ispitaju automatizirane igračke i zaključe da one krše osnovna načela zaštite potrošača i privatnosti. Slične lutke još uvijek su u širokoj uporabi diljem arapskog svijeta i Azije gdje je svijest o zaštiti potrošača niža ili manje organizirana nego u EU.
U nekolicini zemalja OECD-a (Organizacija za ekonomsku suradnju i razvoj) ozbiljno se raspravlja o primjeni emocionalne analize u sudnicama. U takvom scenariju moćna algoritamska biometrija mjerila bi razinu grižnje savjesti kada svjedoci svjedoče prilikom prezentiranja audio-video materijali. Ako što tako postane operativno, to će se lako proširiti na dalje; dopuštenjem privatnim tvrtkama da koriste različite vrste biometrije u procjeni kandidata za posao.
To bi nadalje moglo dovesti u iskušenje neke izopćene režime da nametnu biometrijske narukvice dijelu ili čak cijeloj populaciji, te da imaju točno vrijeme i točno mjerenje podrške javnosti koju uživaju. (Takve se narukvice već snažno zagovaraju u nekim zemljama OECD-a za zatvorsku populaciju, posebice za povratnike (rekonvalescente) osuđene za teška krivična djela uključujući krvne delikte.)
Konačno, ako se ljudska pojedinačna ili grupna ponašanja mogu nadzirati, prikupljati, obrađivati i napose mijenjati, tko (ili što) će biti pokretač mogućnosti izbora – bilo promjene (ili pridržaja status quo-a) - ljudi ili algoritmi? Ako je cjelokupnu biometriju, emocionalne (mega) podatke te prošlu biheviorističku povijest svih parlamentaraca, protagonista svih političkih stranaka, vrha vojske i ključnih poslovnih ljudi moguće hakirati od strane domaćih ili stranih državnih ili nedržavnih aktera – onda je osjećaj demokracije, vojnih poslova, sigurnosti a poglavito temeljnih ljudskih prava skliznuo putem promjene do neprepoznatljivosti. Najvjerojatnije i bez povratka.
Ako umjetna inteligencija ima toliki potencijal da prodre – pa čak i upravlja – ljudskim ponašanjem pojedinaca i grupa, to neizbježno remeti sam pojam ljudskih prava i sloboda utemeljenih univerzalnom i europskom Poveljom o ljudskim pravima, kao i fundamentalnim principima miroljubive koegzistencije, dobro susjedstva, sigurnosti, prosperiteta i jednakost među državama kako je to propisano Poveljom UN-a.
Novi načini socijalne i biometrijske kontrole neizbježno će od nas zahtijevati da preispitamo i ponovno zamislimo okvir koji je trenutno na snazi za praćenje i provedbu Opće deklaracije o ljudskim pravima. Pojam neovisnosti i neotuđivo pravo na ekonomski razvoj također. To će zahtijevati zajednički napor regionalnih razvojnih FORA i UN-a kao univerzalnog multilateralnog sustava za predviđanje i prilagodbu.
Budući da automatizacija smanjuje broj, konfiguraciju i intenzitet radnih mjesta, AI je izvrsno prikladna za zemlje u demografskoj tranziciji (opadanju), a ne za rastuću demografiju muslimanskog svijeta, subsaharske Afrike i Azije (osim Dalekog istoka). Dramatično smanjenje pretpostavki o domaćoj radnoj snazi i nadolazeća promjena ovisnosti o globalnoj proizvodnji posebno će snažno pogoditi globalni jug. Često obavijen stavom 'čekaj i vidi', globalni jug tradicionalno ima nisku stopu povjerenja između svojih građana i vlade.
Logično, 'obećanje umjetne inteligencije' da će utjecati na velike regije i njihovo stanovništvo toliko je neposredno i očaravajuće da svoje glavne pokretače već stavlja u žestoko nadmetanje. Ovakva konkurencije pojačane amplitude (s tako disruptivnom tehnologijom) u nedostatku suradnje (kao instrumenta gradnje i očuvanja povjerenja) ili sveobuhvatne regulacije samo je jedan korak od sukoba.
Izgledi, poput naučno-fantastičnih sadržaja vladavine ‘AI-rase’, stoga, postaju (naizgled) ostvarivi: Moćni državni ili komercijalni akteri (tehnološke platforme) žestoko se natječu oko naših kolektivnih podataka – kao nove, kibernetičke valute – za agregiranje bio-medicinskih, gospodarskih i političko-vojnih prevlasti diljem svijeta. “Cyber-kolonizacija” – posebno globalnog juga – sve je vjerojatnija. (Besplatno usisavanje podataka i njihovo unovčavanje bez ikakvog upozorenja, oporezivanja zbog prikupljenih podataka ili naknade vlasniku.) Lideri u području umjetne inteligencije već su sposobni globalno prenijeti podatke, posjeduju kapacitete za pohranjivanje i uskoro će ovladati (kvantnom) računalnom moći za obradu i analizu, te potencijalno kontrolu stanovništva i ekosustava drugih zemalja.
Prilično uznemirujuće, naša su društva daleko od toga da budu spremna za primjenu umjetne inteligencije: Bilo filozofski ili praktično, još uvijek nam nedostaju temeljita društveno-politička, pravna ili etička razmatranja. Štoviše, UN i njegove agencije – osmišljene gotovo osam decenija prije pojave ovih tehnologija – u mnogim su aspektima slabo opremljene da ponude sveobuhvatno i pravovremeno upravljanje umjetnom inteligencijom. Brzina ovog ciklusa tehnoloških inovacija nadmašuje svaki administrativni odgovor, iako tehnološki poremećaji postaju očiti u sve većem broju zemalja. A sve će više dolaziti u nepredvidivim i teško povezljivim kontekstima.
Novi politički trendovi autarhičnog 'neonacionalizma' dodatno trivijaliziraju sposobnost multilateralnih FORA da igraju ulogu postavljanja normi i praćenja usklađenosti u globalnom upravljanju umjetnom inteligencijom. U takvoj klimi, tehnološki napredne države članice (pritiskane potrebama svoje nacionalne sigurnosti ili komercijalnim interesima) mogu vidjeti malo poticaja u dopuštanju međunarodnim FORA-ama da upravljaju onime što smatraju vlastitom unosnom i zaštićenom tehnologijom. Tako bi kolektivni mehanizmi odlučivanja mogli potonuti u mračne i vlažne podrume opskurnih centara projicirane moći, van domašaja i kontrole.
Imajući sve ovo na umu, UN i njegove specijalizirane agencije (uključujući ITU, UNESCO i UN-ov univerzitet), zajedno s raznim regionalnim FORA-ama, imaju odgovor. To u velikoj mjeri uključuje razvojne segmente – posebno globalnog Juga – poput Afričke, Azijske, Međuameričke ili Islamske razvojne banke, kao i regionalne političko-administrativne sustave poput OIC-a, SAARC-a, ASEAN-a, AU-a, da spomenemo samo neke. Oni moraju inicirati i upravljati svojim državama članicama, ali i sudjelovati u upravljanju svijetom kroz univerzalna tijela OUN-a.
Pustiti vlak umjetne inteligencije da prođe bez kolektivnog, kolaborativnog oblika upravljanja bio bi dvostruki ireverzibilni korak nazad: Disruptivna tehnologija dvostruke namjene zajedno s digitalnim vlasništvom bila bi predana nekolicini otuđenih da njome upravljaju, dok bi se povjerenje u multilateralni sustav (posebice unutar svijeta u razvoju) dodatno pogoršalo.
Takovo nečinjenje bi neumitno stepen planetarne konfrontacije podiglo do nesagledivih proporcija (uključujući nove forme, posve nezabilježene do sada), i to na dva fronta – unutar društava, i među državama. Jedni bi poduzeli sve da ovladaju i vladaju, a drugi da izbjegnu toj čeličnoj pesnici goo(g)lag-a.
Za tri najozbiljnija planetarna izazova (tehnologija, ekologija, nuklearno samo/uništenje) potreban nam je točan, pravedan i pravovremen multilateralni pristup. U ovoj borbi za relevantnošću svatko ima svoj dio povijesne (i generacijske) odgovornosti.
Još sam 2011 (osjećajući nadolazeće, ali još uvijek na vidjevši njenu današnju punu amplitudu i korozivnost), skovao termin McFB način života. Tada i tamo, u svojoj knjizi ‘Is there Life After Fb’ (Ima li života poslije facebooka), i ovako sam zabilježio:
Odmaštajte slijedeću situaciju: Vaša nacionalna obavještajna služba pošalje svim svojim građanima na kućnu adresu formular. Tu ih zamoli da posve besplatno, ali detaljno i istrajno, i sve to u njihovo vlastito slobodno vrijeme, počnu da vode dosjee o sebi samima, svojim ukućanima i bliskim prijateljima, da te (pisane i audio-video) podatke ažurno dopunjavaju, klasificiraju, arhiviraju, sortiraju te šalju službi barem tri puta tjedno, na neodređeno dug niz godina. To bi najvjerojatnije revoltiralo građanstvo do mjere trenutačnih masovnih protesta. U atmosferi potpunog nepovjerenja, vlada zemlje morala bi dati ostavku uz duboko, jasno i višestruko izvinjenje.
A sada zamislite Orvelovski svijet (budućnosti) u kome takav formular uz istovjetan zahtjev dolazi u svačiji poštanski sandučić od strane inozemne privatne kompanije. Domaća vlada to odćuti nevoljko i pasivno (p)održi. No, kada zapazi da ga je cjelokupno građanstvo masovno prihvatilo, te ga i propagira kao ugodnu i korisnu zabavu (gotovo kao novi standard društvenog ponašanja), onda i vlada to jasnije podrži, a mjestimice ga i (javno) promoviše.
Da li bi u takvom ozračju trebalo kriviti (samo) Velikog Brata? I tko je zapravo on? Hoće li ikada biti većeg 'Brata' od naše sopstvene gluposti?
(iv) McKontrola predstavlja četvrti i posljednji weberijanski aspekt za Ritzera. Tradicionalno (još od doba spoznaje), ljudi su najmanje predvidljiv elemenat, varijabla za racionalne, birokratske sisteme. Tako je za McOrganizaciju naprosto imperativ da ih (smiri kroz) kontrolu. U današnje vrijeme tehnologija nudi razne priručnike i pribore za efikasnu kontrolu kako poslodavaca (ponuda, vjerovatnoća) i kupaca (potražnja, mogućnost), tako i kontrolu kontrolora. Samoartikulacija, autohtono razmišljanje, spontana inicijativa i nesputana akcija su radije simulirane, dok su stimulirane veoma rijetko. Samo onda kada se široki spektar mogućnosti neprimjetno suzi, tek tada će se limitirano polje izvjesnosti očitovati dovoljno velikim. U tom cilju IT uređaji su veoma dobri (jeftini, diskretni i nevidljivi, ali sveprisutni i veoma precizni), dok izračunavaju, odlučuju, filtriraju i preusmjeravaju ljudske radnje, kao i dok pohranjuju i analiziraju obrasce ponašanja svojim bešćutnim algoritmima. (Aktualne SOPA, PIPA i ACTA regulative i druge slične zakonske uredbe ne stvaraju ograničenje interneta, već samo potvrđuju njegovu pravu i odavno koncipiranu narav.)
Potpomognuta instrumentima efikasnosti, izračunljivosti i predvidljivosti, kontrola eliminiše (većinu, ili barem smanjuje bilo kakav ozbiljan uticaj) autentičnosti, autonomnog razmišljanja i nezavisne (ne-potrošačke) procjene. Tako se svaka dubina i učestalost kritičkih spoznaja te drugih nepredvidljivih ljudskih radnji, vođena neočekivanim zaključcima, racionalizuje u nešto unaprijed izračunljivo, a samim time i nešto što se može podnijeti. Hiperracionalizovano, preizvježbano, ultraefikasno, predvidljivo i kontrolisano okruženje također podrazumijeva i potpunu povezanost sa društveno-asimetričnom i nefunkcionalno-empatičnom atmosferom ravnodušnosti u krajnjoj poslušnosti (‘vođeni bez prisile’, ‘mobilizirani bez cilja’, ‘poke-ovano, tweete-ovano i fleshmob-ovano iz puke zabave’, ‘korisni idioti’, ‘uklopljeni u društvenu mašinu bez trvenja i otpora’). Dakle, ono što je potrebno nije angažman, već poslušnost. Samo-aktualizacija kroz samopropitivanje je izazov, dok je konzumerizam potvrda – statusa quo. Radujemo se, i radujmo se, ničemu!
Konačan McDruštveni proizvod je vrlo efikasno, predvidljivo, proračunato, standardizovano, unificirano, tipizirano, rutinizirano, instantno, imitantno, ovisničko, i kontrolisano okružje, koje je – gle, paradoksa – mistificirano kroz pokorno i slijepo slavljenje (skale). Subjekti takvog društva fetišiziraju sistem i trivijaliziraju sopstvene sadržaje – glatka i gotovo nezamijećena razmjena. Kada je pomognuta IT-em u masovnoj, neselektivno čestoj i svesrdnoj upotrebi unutar velikih šoping centara (ukotvljenih u potrošačkoj groznici i pomiješani sa nikad većim brojem cyber-neuroze, iluzivnih i psihosomatskih poremećaja, funkcionalnoj nepismenosti pogrešno informisanih i nedovoljno pismenih, cyber-autističnih i egoističnih maloljetnih ili jedva podobnih osoba – a sve to prouzrokovano stalnim alertes/zaraznim obavještenjima, koji nisu ništa drugo no ometajuće banalnosti za preusmjeravanje pozornosti na sitno i nebitno), to je sredina koja je tipična za ono što sam nazvao McFB načinom života.
Ovo stanište zapravo je gvozdena cyber-krletka: sjajno, ali usmjereno i instrumentalizovano, egoistično i autistično, hladno i brutalno mjesto; nesposobno za viziju, empatiju, inicijativu ili akciju. Ono samo pojačava odsustvo našu veze sa sobom i ostatkom. Ako i dok je to tako – da li uopšte postoji razlika između Gulaga and Goo(g)laga – jer su oba zatvori slobodnog uma?
Suprotno ustaljenoj retorici; hrabrost, solidarnost, vizija i inicijativa bijahu puno više motreni, zabranjivani, stigmatizirani i suđeni nego što su bili unaprijeđeni, podržani i promovisani tokom ljudske historije. Tradicionalno su smatrani otvorenom prijetnjom uspostavljenom poretku, izazovom funkcionirajućem statusu quo, i kao svojevrstan prkos dogmatskim naputcima priznatih, dozvoljenih, promovisanih, rutiniziranih, prepoznatih i propisanih socijalnih ponašanja.
Pozivajući se na dobro poznati argument ”odbrambena modernizacija” Fukuyame, možemo ustvrditi da je kroz cjelokupnu ljudsku historiju tehnološki napredak imao za cilj da zadovolji pitanje sigurnosti (i kontrole), a posve je rijetko (ako uopšte) bio pokretan željom da se (proširi i) olakša ljudska egzistencije ili omogući puna emancipacija i oslobađanje društva u cjelini. Dakle, osim ako nije operacionaliziran od strane sistema, i intelektualizam (ljudska autonomija, vještina, vrlina i svrha), i tehnološka otkrića – tradicionalno su doživljavani kao prijetnja poretku.
Shodno tome, sve cyber-društvene mreže i srodni elektronski pretraživači daleko su od onoga za što se oni prikazuju: decentralizovana, ali unificirana inteligencija, privučena gravitacijom kvaliteta, a ne usmjerena silom odgovarajućeg lokaliteta. Ustvari, oni prvenstveno služe predvidljivosti, efikasnosti, proračunljivosti i kontrolnoj svrsi, a tek onda svemu ostalom - da budu, naprimjer, korisnički prijateljski i podobni masovnoj upotrebi. Analizirati ovu novu korozivnu dinamiku društvene fenomenologije, između manipulativne fetišizacije (vjerovatnoće) i samotrivijalizacije (mogućnosti), promatrajući cyber-socijalne platforme – te smetljarnike ljudske empatije u blatnjavim predgrađima svijesti – veoma je interesantno i učinkovito.)
O autoru:
Anis H. Bajrektarević je dugogodišnji šef katedre i profesor međunarodnog prava i globalnih političkih studija sa sjedištem u Beču, Austrija. Pored više od stotinu radova objavljenih u preko pedeset zemalja svijeta i prevedenih na dvadesetak jezika, objavio je sedam knjiga na temu geopolitike, energije i tehnologije za europske i američke izdavače. U pripremi mu je knjiga Nema Azijskog vijeka (No Asian century…).
Profesor je urednik njujorškog stručnog magazina GHIR (Geopolitika, Povijest i međunarodni odnosi), kao i član uredničkog odbora nekoliko sličnih specijaliziranih časopisa na tri različita kontinenta. Njegova deveta knjiga ‘EU – Genesis, Institutions, Instruments’ (EU – Geneza, Institucije, Instrumenti) izlazi u februaru 2022.
Ovaj je text baziran na Workshop-u održanom za visoke dužnosnike IsDB. Njegov ukupan sadržaj bio je pod embargom 30 mjeseci.
Sa engleskog originala, prevela Lejla Krehić (rev. autor).
Članak predstavlja stav autora in ne odražava nužno stav IFIMES-a.
Ljubljana/Beč, 16.novembar 2023
[1] IFIMES - Međunarodni institut za bliskoistočne i balkanske studije sa sjedištem u Ljubljani, Slovenija, ima specijalni savjetodavni status pri Ekonomsko-socijalnom vijeću ECOSOC/UN, New York, od 2018.godine i izdavač je međunarodne naučne revije „European Perspectives“.
