Četvrti deo testiranja AI sistema
Piše: Vladimir Tomić
A cela ova priča o tome kako će nas AI uništiti kao u filmu „Terminator” meni uopšte ne pije vodu. Na svom blogu već sam objavio tri teksta o AI jezičkim modelima, odnosno o onome što sam vremenom počeo radije da nazivam proširenom inteligencijom, a ovo je četvrti nastavak tih promišljanja.
No, zašto mi taj najcrnji scenario ne pije vodu?
Zato što ljudi imaju tendenciju da sa svakom novom tehnologijom na kraju završe u mediokritetstvu, a ne tako ekstremno, bilo u dobrom ili u lošem smeru.
To bih mogao nazvati konsenzusnim mediokritetstvom tehnološke istorije (samom sebi se divim od jutros zbog ove kovanice ;)).
Pod tim mediokritetstvom ovde ne mislim prosto na glupost, prosečnost ili nesposobnost ljudi koji koriste neku tehnologiju. Mislim na nešto mnogo šire. Kada se pojavi velika nova tehnologija, čovek oko nje skoro uvek izgradi dve suprotne mitologije. Jedna kaže da će nas ona spasti, druga da će nas uništiti, a zatim prođe dovoljno vremena i dogodi se nešto mnogo prizemnije: tehnologija se utopi u svakodnevni život i počne da služi svemu onome čemu su služile i prethodne tehnologije, znanju i gluposti, medicini i ratu, obrazovanju i propagandi, genijalnosti i birokratiji, slobodi i kontroli. Završi negde između. Drugim rečima, čovečanstvo nekako uspeva da i čudo i katastrofu na kraju pretvori u svakodnevicu.
Internet je možda najjednostavniji primer. Trebalo je da bude ogromna decentralizovana mreža znanja, neka vrsta elektronske velike biblioteke čitavog čovečanstva. I jeste to postao. Samo što je istovremeno postao i beskrajna pijaca, televizija, javna kuća, kafana, biblioteka, psihijatrijska čekaonica, propagandni aparat, album sa mačkama i mesto na kojem ljudi koje nikada nismo upoznali nekoliko sati raspravljaju da li je Zemlja ravna. Dakle, opet konsenzusno mediokritetstvo. Ni raj ni pakao, no čovek – Ecce Homo.

AI je, zapravo, za mene najveća magijska alatka našeg doba. Magijska ovde, naravno, ne znači natprirodna. Artur Klark je još davno formulisao čuvenu misao da se dovoljno napredna tehnologija ne može razlikovati od magije. Kod Isaka Asimova u „Zadužbini” pojavljuje se nešto veoma slično, samo u političkom obliku: tehnološko znanje Fondacije za svetove koji su ga izgubili postaje skoro kao religija, a ljudi koji više ne razumeju princip po kojem mašina radi počinju njeno delovanje da doživljavaju kao čudo. Kada danas razgovaram sa jezičkim modelom, tražim od njega da mi pronađe grešku u kodu, prevede pasuse, uporedi nekoliko filozofskih sistema ili napravi nešto za šta bi mi nekada bili potrebni dani rada i više različitih ljudi, teško mi je da ne vidim tu staru vezu tehnologije i magije.
I Hajdeger je tehniku posmatrao mnogo šire od samog skupa alatki i mašina. Za njega pitanje tehnike zadire u način na koji nam se svet uopšte pokazuje i kako počinjemo da ga uređujemo, raspoređujemo i koristimo. AI je u tom smislu zanimljiv upravo zato što sve manje izgleda kao jedna sprava koju uključimo i isključimo, a sve više kao sloj kroz koji počinjemo da pristupamo znanju, radu, jeziku, slici i, na kraju, jedni drugima.

Ako pogledamo istoriju razvoja tehnologije iz bilo kog školskog udžbenika, naročito istoriju fizike, videćemo bezbroj trenutaka u kojima se nova tehnologija pojavljivala zajedno sa strahovima da će izazvati nešto što prevazilazi sve što poznajemo.
Jedan od poznatijih primera dogodio se tokom rada na prvoj atomskoj bombi. Tokom teorijskih rasprava još 1942. otvoreno je pitanje da li bi ogromna temperatura atomske eksplozije mogla da pokrene nekontrolisanu termonuklearnu reakciju u atmosferi (ovo se čak pominje u poslednjem filmu o Openhajmeru). Edvard Teler bio je među fizičarima koji su taj problem ozbiljno razmatrali, Openhajmer ga je shvatio dovoljno ozbiljno da se dodatno proverava, a Hans Bete i drugi fizičari radili su proračune. Pokazalo se da samoodrživa reakcija koja bi zapalila atmosferu nije realan scenario.
Dakle, strah nije izmislio neki novinar koji nije znao fiziku. Pojavio se među nekim od najboljih fizičara tadašnjeg sveta, samo što se pokazalo da nije bio opravdan. Ovo navodim jer mi se čini važnim za današnje razgovore o AI. Pametan čovek može da se uplaši pogrešnog scenarija, a genije takođe može da pogreši u proceni budućnosti. Nauka upravo zato postoji kao proces provere, a ne kao zbirka proročanstava genijalnih pojedinaca.
Naravno, iz toga nikako ne sledi da je atomska bomba bila bezopasna. Pokazalo se upravo suprotno. Samo se njena stvarna opasnost nalazila na drugom mestu: atomska bomba nije zapalila atmosferu, ljudi su njome spalili Hirošimu i Nagasaki. Ta razlika mi je veoma važna.
Tokom Hladnog rata strah od nuklearnog uništenja planete često je poprimao histerične razmere. Sam nuklearni rat svakako nije bio izmišljena opasnost i bilo je trenutaka u kojima je svet zaista bio neprijatno blizu katastrofe. Ali oko stvarne opasnosti vremenom se uvek izgradi i čitav dodatni sistem slika, propagande, političkog jezika, filmova, skloništa, neprijatelja i permanentne napetosti. A strah je oduvek bio politički upotrebljiv.
Ne moramo čak zamišljati neku ogromnu tajnu zaveru u kojoj nekoliko ljudi sedi za stolom i odlučuje da uplaši čovečanstvo. Dovoljno je primetiti mnogo banalniji mehanizam. Kada neka institucija, država, služba, industrija ili politička struktura otkrije da joj određeni strah koristi, ona nema naročit razlog da taj strah smanjuje. U dokolici čovek previše misli, a kada ga stalno držite u tenziji, on se dobrim delom bavi upravo tom tenzijom. I opet dolazimo do mediokritetstva. Čak i apokalipsa, kada dovoljno dugo traje kao mogućnost, na kraju dobije radno vreme, kancelariju, budžet, propagandni poster i nekoliko hiljada ljudi koji od nje primaju platu.
Zato mi je komično kada slušam istu mitologiju primenjenu na veštačku inteligenciju: jednog jutra AI će se probuditi, shvatiće da postojimo, zaključiti da mu smetamo, preuzeti računare, zatim nuklearno oružje, i onda kreće Terminator. Meni je to besmisleno.
To ne znači da mislim da je AI bezopasan. Naprotiv, danas, u septembru 2026. godine, neke njegove opasnosti više uopšte nisu stvar nagađanja: prevare pomoću generisanog glasa i slike, deepfake sadržaji, propaganda, problemi sa autorskim pravima, pristrasni modeli, sajber-zloupotrebe, pogrešni odgovori tamo gde greška može skupo da košta i sve veća zavisnost čoveka od automatizovanih odluka. Sve su to realne opasnosti. Samo što su mnogo manje nalik Skajnetu, a mnogo više nama.
Pre nekoliko godina istraživačica Saša Lučioni održala je predavanje čiji naslov precizno sažima ono što hoću da kažem: „AI is dangerous, but not for the reasons you think”. Nije tvrdila da AI nije opasan. Govorila je upravo o tome da opsednutost zamišljenom budućom apokalipsom lako zakloni probleme koji već postoje pred nama.
I tu dolazimo do onoga čega se ja zaista bojim. Ja se uopšte ne bojim da će me ChatGPT, Gemini ili neki budući vojni AI jednog jutra zamrzeti i odlučiti da mi nešto uradi. Brinem se da će ljudi nešto uraditi pomoću AI, a onda reći da je to uradio AI. To je ogromna razlika.
Pre neki dan slušam kako istraživači strahuju da AI u budućnosti nešto ne uradi „sam”. Hah, pa naravno. Ako nešto krene po zlu, savršen krivac već postoji. Biće to AI, a ne ljudi koji su ga projektovali, trenirali, pustili u upotrebu, priključili na infrastrukturu i dali mu ovlašćenja. „On je sam odlučio.” Ma kako da ne.
Naravno, ne tvrdim da znam u kom će smeru AI otići. Ne znam. Ne znam ni kakve će sposobnosti imati za deset, dvadeset ili pedeset godina, i nemam nameru da glumim proroka. Ali mogu da govorim o onome što vidim sada. Savremeni AI sistemi već mogu da naprave poteze koje njihovi programeri nisu unapred konkretno predvideli. Mogu pogrešno da protumače zadatak ili pronađu sasvim neočekivan način da ga izvrše. Međutim, jedno je nepredvidiv potez sistema, a sasvim drugo priča da se mašina nekakvim čudom oslobodila ljudskog sveta i sama sebi dala moć.
Čak i najnoviji međunarodni pregled bezbednosti AI iz 2026. navodi da današnji sistemi još nemaju sposobnosti potrebne za scenario stvarnog gubitka ljudske kontrole. Šta će biti kasnije, oko toga se ni stručnjaci ne slažu. I sasvim je u redu da ne znamo.
Ali znam nešto drugo. AI ne dobija pristup serveru od Svetog duha. Ne otvara sam sebi bankovni račun. Ne kupuje sam sebi data-centar. Ne priključuje se sam na električnu mrežu, policijski sistem ili vojni dron. Neko mu je dao pristup. Neko mu je dao ovlašćenje. Neko je odlučio da ga postavi upravo tamo.
Zato me rečenica „AI je sam odlučio” mnogo više zabrinjava kao budući ljudski alibi nego kao opis nekakvog budućeg pobunjenog robota.
U svom drugom tekstu o AI, objavljenom u martu 2025. godine, mnogo više sam se bavio mogućnošću superinteligencije, takozvanim Rogue AI scenarijem i pitanjem da li bismo uopšte prepoznali trenutak kada bi AI postao nešto više od alata. To pitanje i dalje ostavljam otvorenim. Fascinira me i danas. Samo me više zanima mnogo prizemnija stvar: šta ljudi već sada rade sa sistemima koje imaju u rukama i šta će sutra pokušati da pripišu tim sistemima kada posledice postanu neprijatne.
Možda nikada nećemo dobiti HAL 9000, Skajnet ili nekakav digitalni Levijatan sa sopstvenom voljom za moć. Ali sasvim lako možemo dobiti banku koja kaže da vas je odbio algoritam, kompaniju koja kaže da vam otkaz nije dao direktor nego sistem procene, policiju koja kaže da vas je softver označio kao rizičnog ili vojsku koja kaže da je metu odabrao AI. To već mogu da zamislim. Jer to veoma liči na čoveka.
U trećem tekstu iz avgusta 2025. godine pokušao sam zato da AI posmatram manje kao nekakav budući autonomni entitet, a više kao deo proširene inteligencije, kao novu mrežu kroz koju ljudsko znanje može da se povezuje rizomatski, horizontalno, mimo starih hijerarhija. Taj stav mi je danas još bliži.
Već sada svakodnevno koristim AI da proveravam stvari, istražujem, programiram ono što sam ranije morao da tražim od drugih ljudi, sređujem sajt, upoređujem izvore, prevodim, tražim greške i razgovaram o filozofiji, književnosti, fizici ili istoriji nauke. Za mene je to ogromna i fascinantna alatka. Može da pogreši, može da halucinira, može da bude pristrasna i može da bude zloupotrebljena. Ali upravo je ovo poslednje ključno: neko može da je zloupotrebi.
Još u decembru prošle godine pisao sam na Fejsbuku o jednom drugom strahu, tada veoma čestom među umetnicima, da će generativna veštačka inteligencija uništiti umetnost. Taj komentar ovde prenosim onako kako sam ga tada napisao:
Ja uopšte ne strahujem, za razliku od nekih umetnika koje sam juče imao priliku da slušam u jednom podkastu, da će AI sistemi uništiti umetnost. Naprotiv, verujem da će oni indirektno otvoriti vrata povratku prave umetnosti. Pored neminovnog prezasićenja hiperprodukcijom AI sadržaja, koje će se pre ili kasnije dogoditi, presudni su mnogo dublji razlozi.
Ko želi da u ovu problematiku zađe na filozofski način, preporučujem da pročita tekst na mom blogu posvećen filozofiji proširene inteligencije.
Međutim, i van tog teorijskog okvira, postavlja se ključno pitanje: zašto prava umetnost, bilo da je reč o muzici, slikarstvu, prozi, poeziji ili vajarstvu, ne može biti uništena pojavom AI sistema?
Zato što velika umetnička dela ne nastaju iz komfora, algoritma ili simulacije, već iz iskustva koje je egzistencijalno rizično. Kao što je to jasno pokazao Fridrih Niče u svom možda najvažnijem delu, „Tako je govorio Zaratustra” – a o čijoj sam filozofiji detaljnije pisao u eseju „Fridrih Niče za početnike”.
Velika dela nastaju krvlju. Ne prolivanjem tuđe krvi, već sopstvene. „Piši krvlju i uvidećeš da je krv duh”, kaže Niče. To je mnogo više od metafore za stilsku žestinu ili patos; to je sažetak duboke istine o poreklu stvaralaštva.
Sva velika dela izviru iz unutrašnjih lomova, gubitaka, bolesti, poniženja, egzistencijalnih kriza i graničnih iskustava. Svako ko je ozbiljno proučavao biografije velikih umetnika to vrlo lako može da vidi.
Georg Fridrih Hendl, na primer, u jeku karijere doživljava težak moždani udar koji mu oduzima desnu stranu tela. Prognoze su bile sumorne, lekari su smatrali da je s njim gotovo i da nikada više neće komponovati. Ipak, na zaprepašćenje i lekara i okoline, on se iznenada i neočekivano oporavlja. Taj povratak iz ponora, koji prevazilazi puki fizički oporavak, doneo je eksploziju stvaralačke snage iz koje nastaje „Mesija”, jedno od njegovih najznačajnijih dela, kao dokaz da duh može pobediti ograničenja tela.
Ludvig van Betoven u jednom trenutku potpuno ogluvi, ali uprkos tome nastavlja da komponuje. Kao potpuno gluv stvara „Odu radosti”, zatim Missa solemnis u D-duru i čitav niz kasnih dela koja predstavljaju vrhunac svetske muzičke tradicije.
Fjodor Dostojevski biva osuđen na smrtnu kaznu i zatvoren. Samo nekoliko trenutaka pred streljanje biva pomilovan od strane carske vlasti. Iskustvo radikalne blizine smrti postaje temelj njegove kasnije književnosti. Nakon toga nastaju dela koja će zauvek promeniti istoriju svetske književnosti i način na koji razumemo krivicu, slobodu, zlo i veru.
Daleko pre njega, Migel de Servantes boravi u zatvoru zbog optužbi za finansijske nepravilnosti. Upravo u tom prostoru društvene margine i ličnog sloma dobija ideju za „Don Kihota”, roman koji se danas s pravom smatra početkom moderne književnosti.
Vinsent van Gog završava u psihijatrijskoj ustanovi, ali ni tamo ne prestaje da slika. Iz tog perioda dolaze neka od njegovih najznačajnijih dela, slike nastale iz unutrašnje rastrojenosti, ali i iz ekstremne koncentracije duha.
I tu dolazimo do moje poente. AI može da imitira iskustvo boravka u zatvoru. Može da imitira narativ moždanog udara, boravka u ludnici ili suočavanja sa smrću. Može da generiše tekst, sliku ili muziku koja formalno liči na ta iskustva. Ali ono što ne može jeste da proživi stvarno ljudsko iskustvo.
To iskustvo se ne odvija na nivou razuma ili obrade informacija, već obuhvata celinu ljudskog bića. Ono uključuje konfliktna osećanja, telesnu patnju, strah, nadu, sumnju, krivicu, veru i spremnost da se, makar na trenutak, čuje ona skrivena muzika svemira koja se otvara samo onima koji su platili cenu sopstvenim životom, a ne imitiranjem.
Vladimir Tomić, Facebook, 22. decembar 2025.
AI može da proizvede hiljadu pesama, deset hiljada lažnih fotografija, propagandni tekst ili sistem za klasifikaciju ljudi, ali onda se vraćamo pitanjima koja su mnogo starija od AI: ko je to od njega tražio, ko je sadržaj naručio i pustio u opticaj, ko mu je dao zadatak, ko je odredio kriterijume i ko će snositi posledice? Koliko god pokušavali da pobegnemo u futurizam, na kraju se opet vraćamo čoveku.

Nigde se to ne vidi jasnije nego kod vojnih sistema. I tu stvar postaje groteskna. Od 31. avgusta do 4. septembra 2026. u Ženevi je održana završna ovogodišnja sesija Grupe vladinih eksperata u okviru Konvencije UN o određenom konvencionalnom oružju, posvećena smrtonosnim autonomnim sistemima naoružanja. Dakle, dok jedni upozoravaju da bi AI jednog dana mogao da stekne previše autonomije, države već sada sasvim konkretno pregovaraju o tome koliko autonomije žele da mu daju.
Tu treba biti precizan: nije postojao neki klasični „veto” SAD i Rusije, kako sam u prvi mah mislio. Ova grupa radi po principu konsenzusa. Prema izveštaju Human Rights Watcha posle septembarske sesije, Rusija i Sjedinjene Države bile su među državama koje su insistiranjem na izmenama oslabile više široko podržanih odredaba (da, da ta ista Rusija i SAD su pre samo par dana zajednički blokirale usvajanje veće kontrole za vojne AI sisteme). Iz završnog teksta uklonjene su, između ostalog, reference na etička pitanja, predvidljivost, pouzdanost, objašnjivost i sledljivost sistema. Istovremeno je ostao princip da su ljudska kontrola i ljudsko prosuđivanje potrebni za poštovanje međunarodnog humanitarnog prava.
Za mene je to mnogo zanimljivije od priče o Skajnetu. Sa jedne strane slušamo kako bi jednog dana mašina mogla da ima previše slobode, a sa druge ljudi već sada odlučuju koliko će joj slobode dati. Zato me mnogo manje zanima pitanje: „Šta ako AI jednog dana sam odluči da ubije čoveka?”, a mnogo više: „Ko je odlučio da napravimo sistem kojem je uopšte dozvoljeno da dođe u položaj da bira između ljudi?”
A onda dolazi pitanje koje smatram važnijim od svih futurističkih scenarija: ko će biti kriv kada sistem pogreši? General, programer, kompanija, operater, država, političar koji je odobrio njegovo korišćenje? Ili ćemo dobiti odgovor koji će svima njima biti najudobniji: „AI je doneo odluku.” Upravo tu počinje moj stvarni strah od veštačke inteligencije. Ne strah od mašine, nego od čoveka koji će pokušati da se sakrije iza mašine.
I tu se vraćam na konsenzusno mediokritetstvo. Čovek koristi AI za posao, umetnost, nauku, medicinu, zabavu, zaradu, propagandu, prevaru i rat. Ni raj ni pakao, opet čovek. Sve velike metafizičke fantazije na kraju se prospu po svakodnevici, dobiju korisnički nalog, pretplatu, pravilnik, kancelariju, vojni budžet ili dugme na ekranu.
Zato, kada razmišljam o budućnosti AI, ne mogu da tvrdim da znam šta će se dogoditi za deset, dvadeset ili pedeset godina. To sam već rekao. Ali mogu da kažem šta mi danas izgleda mnogo verovatnije od pobune mašina: da ćemo i ovu tehnologiju, kao i sve prethodne, upotrebiti za sve ono za šta smo oduvek koristili moćne alatke, i za najbolje i za najgore stvari koje možemo da uradimo jedni drugima.
Ja se, dakle, ne bojim da će ChatGPT, Gemini ili neki vojni AI jednog dana ustati protiv mene. Mnogo mi je neprijatnija mogućnost da će čovek nešto uraditi drugom čoveku, a onda mirno pogledati u kameru i reći: „Nisam ja. AI je sam odlučio.”
Bibliografija, izvori i prethodni tekstovi:
- Od Orvela do klimatskih promena i besplatne energije (razgovor i testiranje mogućnosti jezičke veštačke inteligencije ChatGPT-Open AI, Deo Prvi)
- AI: Između alata i entiteta (Nastavak testiranja AI sistema)
- Proširena inteligencija i rizom znanja (Nastavak testiranja AI sistema)
- Saša Lučioni: „Veštačka inteligencija je opasna, ali ne iz razloga na koje mislite” (TEDWomen, 2023)
- Međunarodni izveštaj o bezbednosti veštačke inteligencije za 2026. godinu
- Kancelarija Ujedinjenih nacija za pitanja razoružanja: Grupa vladinih eksperata za smrtonosne autonomne sisteme naoružanja u okviru Konvencije o određenom konvencionalnom oružju, 2026.
- Human Rights Watch: „Razgovori UN o robotima ubicama završeni uz sve glasnije zahteve za pregovore”, 7. septembar 2026.
- Ministarstvo energetike Sjedinjenih Američkih Država, Istorija projekta Menhetn: proračuni o mogućnosti paljenja atmosfere
- NASA: Artur K. Klark i misao „Svaka dovoljno napredna tehnologija ne razlikuje se od magije”








