Intervju Jovan Čekić: Doba ChatGPT-a, ko postavlja pitanja, a ko piše odgovore?

U kojoj meri veštačka inteligencija oblikuje priče? Kako to utiče na novu generaciju novinara i pisaca? Na ova i druga pitanja odgovara filozof, teoretičar modernih medija i profesor na Fakultetu za medije i komunikacije Jovan Čekić.

Postoji nešto prometejsko u našem odnosu prema veštačkoj inteligenciji. Baš kao što je Prometej ukrao vatru sa Olimpa i podario je ljudima, omogućivši im napredak, tako smo i mi, ljudi koji su u želi da postanu Bogovi, stvorili AI. Tehnologiju koja obećava znanje, moć i efikasnost bez presedana.

Baš kao što je Prometejev čin doneo, pored napretka i nesagledive posledice, zbog kojih je Bogove izazvao, a ljude osudio na novu zavisnost od vatre, tako i mi sada stojimo ispred pitanja: da li smo stvorili dar koji će nas osloboditi ili nas zauvek vezati za sopstveni izum?

Prometejeva kazna, vezanost za stenu i svakodnevno kidanje njegove jetre, podseća na našu sve veću zavisnost od AI-a. Svakog dana učimo kako da ga koristimo a da se pritom ne izgubimo u njegovoj neograničenoj moći. Svakog dana iskušavamo svoje intelektualne sposobnosti, suočavajući se sa dilemom da li nas on obogaćuje ili nam polako oduzima ono što nas čini ljudima. Prometej je ostao simbol i prosvetljenja i patnje, a mi se nalazimo u liminalnom prostoru između napretka i potencijalne kazne, nesigurni da li će nas ova nova vatra osloboditi ili opeći.

*Ovaj uvod potpuno je napisan od strane ChatGPT-a, besplatna verzija. 

Jovan Čekić, filozof i teoretičar umetnosti i medija, istražuje granice između čoveka i tehnologije, između kreativnosti i algoritma, između značenja i simulacije, ukazujući na to da digitalni aparati ne samo da prenose informacije već ih i generišu, preoblikujući način na koji opažamo svet.

U razgovoru sa njim dotakli smo se mnogih tema, ali nas je, zapravo, najviše zanimalo u kojoj meri će ChatGPT promeniti jednu profesiju novinarstvo. 

Sećate li se kada ste prvi put koristili ChatGPT, kojim povodom? Koji je bio Vaš prvi utisak? 

– Ubrzo pošto se pojavio ChatGPT, počeo sam da eksperimentišem sa tim, novim, alatom. Izgledalo je dosta neobično jer se u prvim komentarima na mreži isticalo da će chatbotovi zameniti pretraživače. Međutim, pre bi se moglo reći da je sa njihovom pojavom otvoren potpuno novi prostor i da nije u pitanju puka zamena za različite pretraživače. Sada smo od pretraživača, preko chatova, došli do „agenata”, i čini se da je to tek početak.

Agenti su počeli da se pojavljuju uz chatbotove ne samo kao unapređenje već i kao ozbiljno proširenje postojećih mogućnosti, a zamišljeni su kao neki budući personalni asistenti, kao što je to slučaj u Villeneuveovom filmu „Blade Runner 2049”. Oni bi trebalo da imaju sofisticiranije mogućnosti rezonovanja i sposobnost da donose nezavisne odluke, da razumeju kontekst, formulišu originalne odgovore i svoju strategiju prilagođavaju u zavisnosti od situacije. Za razliku od chatbotova koji su dizajnirani prevashodno za konverzaciju koja se bazira na interakciji upita i odgovora, agenti će moći da izvode kompleksne zadatke koji prevazilaze puku konverzaciju.

Oni bi trebalo da su proaktivni, da iniciraju i izvršavaju određene zadatke, manipulišu podacima, koordiniraju sa drugim sistemima i rade u skladu sa zadatim ciljevima. No, ne treba gubiti iz vida da je ChatGPT još uvek na početku razvoja i da svaka upotreba chatbotova zahteva minucioznu proveru podataka.

Uostalom, na kraju svakog odgovora koji dobijete od chatbotova piše da taj model – Can make mistakes. Please double-check responses. 

Koje su etičke dileme vezane za proces implementiranja AI tehnologija (ChatGPT-a) u medije, posebno u online novinarstvu? 

– Pojava svake tehnologije pokreće mnoga etička pitanja, međutim, nikako ne smemo zaboraviti da sama tehnologija nije pretnja – pretnja su ljudi koji je koriste. Ovde nam može poslužiti razlika koju filozof Vilem Fluser pravi između mašina i aparata.

Po njegovom mišljenu, osnovna kategorija industrijskog društva je rad. Alati i mašine rade izvlačeći objekte iz prirodnog sveta i dajući im određenu formu (in-form), i oni tako menjaju svet.

Aparati ne rade u tom smislu, njihova namena nije da menjaju svet, već da menjaju značenje sveta. Njihova intencija je simbolička. Za Flusera foto-aparat nije alat, već igračka i fotograf nije radnik, već igrač: nije „homo faber”, već „homo ludens”. Čovek i aparat grade jedan novi sklop gde čovek nije ni konstanta niti promenjiva. Svi aparati simuliraju specifične misaone procese i sa pronalaskom inteligentnih mašina, odnosno kompjutera, postalo je jasno da je u pitanju mišljenje izraženo u brojevima.

Za Flusera svaki aparat, ne samo kompjuter, već i analogni foto-aparat, jeste računska mašina i u tom smislu „veštačka inteligencija”. Iz njegovih analiza čini se da već sa pojavom tehničke reprodukcije (fotografija i film) započinje pojava inteligentnih mašina a sa tim i radikalna trensformacija čitave civilizacije, mada mi u početku nismo bili svesni toga. 

Da li korišćenje Chat GPT-a narušava novinarski kodeks? 

– Kada je 2016. Oxford Dictionary „postistinu” proglasio za reč godine, to je značilo da sve češće nastaju okolnosti u kojima objektivne činjenice imaju sve manje uticaja na oblikovanje javnog mnjenja nego što to imaju pozivanja na emocije ili subjektivna verovanja.

Sa postistinom, postčinjenicama, postdemokratijom, postpolitikom i sl. „post” ne samo što dobija drugačije značenje već utiče i na to da nastaju i različiti novi vidovi kako aktuelnih, tako i virtuelnih zatvaranja.

Moglo bi se reći da sa normalizacijom postistine nastaju uslovi za produkciju toksičnih medijskih produkata (fake news, deep fake, conspiracy theories...) koji blokiraju ne samo demokratski dijalog već svako različito i, što je najvažnije, kritičko mišljenje.

Kao kolateralni efekti umreženog kompleksnog sveta, posebno društvenih mreža, nastaju svojevrsna „virtuelna zatvaranja” („filter bubble”, „eho chamber” i sl.) koja se aktuelizuju u realnom i sve češće dovode do toga da je dijalog moguć samo među istomišljenicima.

Godine 2011. Eli Pariser je prvi put u svojoj knjizi „The Filter Bubble: What the Internet Is Hiding from You” predstavio ovaj koncept. Efekat „filter bubble” nastaje kada algoritmi i online platforme selektivno prikazuju informacije na osnovu naših prethodnih aktivnosti i preferencija. To znači da ovaj „filter balon” propušta samo određene vrste informacija – one za koje algoritmi „misle” da vas zanimaju.

Ovaj balon se formira na osnovu vašeg ranijeg online ponašanja (pretraživanja, lajkovanja, vremena zadržavanja na određenim temama i sl.). Verujući da ovi algoritmi nastoje da što bolje i preciznije personalizuju sadržaj, mi počinjemo da živimo u našim zasebnim informacionim stvarnostima. Ova „virtuelna zatvaranja” gotovo savršeno funkcionišu jer mi verujemo da imamo apsolutnu slobodu izbora. „Echo chamber” (soba odjeka) stvara efekat da se ista mišljenja i ideje stalno ponavljaju i pojačavaju jer ljudi prirodno teže da se povezuju sa istomišljenicima.

Može se reći da se „echo chamber” i „filter bubble” sve vreme nadopunjuju i prepliću uprkos njihovoj razlici. „Filter bubble” stvaraju algoritmi, dok „eho chamber” nastaje kroz naše svesne i nesvesne društvene izbore. Ali upravo iz njihovih preplitanja nastaju „virtuelna zatvaranja”, čiji se efekti sve više prepoznaju u svakodnevnom životu. Pre svega dolazi do smanjene spremnosti da se suočimo sa različitim životnim perspektivama.

Zapravo postajemo netolerantni prema drugačijim mišljenjima jer ih retko srećemo, a kada ih sretnemo, odmah ih odbacujemo kao pogrešna. Naša postojeća uverenja se, umesto da se preispituju, pojačavaju budući da stalno dobijamo potvrdu da smo u pravu.

Kada su u pitanju „virtuelna zatvaranja”, čini se da živimo u prostoriji gde svi klimaju glavom na sve što kažemo, čime se stvara se lažni osećaj da – „svi misle kao mi”.

Tako na jednoj strani nastaju sve veće i nepomirljive političke polarizacije, a na drugoj nespremnost za uspostavljanje dijaloga. S obzirom na to da je demokratija neodvojiva od dijaloga, ovakvo nepostojanje spremnosti za dijalog čini da demokratija može biti prva žrtva ovih novih modusa zatvaranja. 

Ako bi ChatGPT mogao da napiše dobar novinarski članak, da li bi to uslovilo da se ljudska kreativnost manje ceni? Da li je moguće da u budućnosti intervju, poput ovog, obavljaju dve veštačke inteligencije? 

– Takav razgovor ili neki novinski članak kao i ChatGPT članak bio bi remix razgovora, odnosno tekstova sa sličnom tematikom, sličnim učesnicima za sličnu vrstu novina ili portala koji su veštačkoj inteligenciji dostupni na mreži. To bi bila neka vrsta „the best of” kako pitanja tako i odgovora. Možda bi takav razgovor imao smisla ukoliko posluži polaznicima novinarske škole kao primer kako se vodi razgovor o temama koje su više fokusirane na društvena, a ne tehnička pitanja.

Međutim, ukoliko biste imali mnogo takvih razgovora na mreži koje je generisala veštačka inteligencija, onda bi se moglo dogoditi da dobijete negativne efekte koji se obično nazivaju „digitalnim srodstvom” ili „kolapsom modela”.

Prve generacije veštačke inteligencije obučavane su direktno na podacima koje su stvorili ljudi i njihovi rezultati imaju smisla. No, posle više generacija obuke veštačke inteligencije, rezultat je besmislica, tačnije nešto što samo naizgled ima smisla, a u stvarnosti je gomila klišea i ključnih reči koje pripadaju žargonu za stvaranje hajpa.

Stephen Wolfram, jedan od pionira u razvoju veštačke inteligencije, upozorio je da smo na ivici dostupnih podataka u obuci veštačke inteligencije – zapravo dolazimo do granica onoga sa čime možemo hraniti veštačku inteligenciju da bismo je učinili pametnom.

Mnogi autori ističu da sadržaji generisani veštačkom inteligencijom i ChatGPT-om mogu postati velika pretnja njihovoj efikasnosti ali i čitavoj ljudskoj kulturi.

Kada se govori o „digitalnom srodstvu”, onda se ima u vidu da se nešto slično događa i u prirodi kada se članovi neke populacije razmnožavaju s drugim članovima koji su previše genetski slični. To često dovodi do potomstva sa značajnim zdravstvenim problemima i drugim deformitetima, što je efekat degradacije genetskog fonda. Ako se pogleda koji su društveni, kulturni, ekonomski i politički činioci za praksu razmnožavanja ljudi koji su u bliskom srodstvu, onda donekle postaju jasni razlozi i za nastanak „digitalnog srodstva” ili „kolapsa modela” u razvoju ChatGPT-a.

Zamislite scenario u kojem ChatGPT napiše članak koji je toliko dobar da osvoji Pulicerovu nagradu. Da li bi to bio kraj za novinarstvo? 

– Nešto slično se već dogodilo 2023. u oblasti fotografije kada je nemački autor Boris Eldagsen osvojio prvu nagradu na jednom od najprestižnijih fotografskih takmičenja „Sony World Photography”.

On je odbio ovu nagradu jer fotografiju ne smatra svojom s obzirom na to da je nastala uz pomoć veštačke inteligencije. Njegova namera je bila ne samo da pokrene debatu o korišćenju veštačke inteligencije već i raspravu o tome šta bi trebalo da se smatra fotografijom, a šta ne. Može se očekivati da će slična debata, vezana za različite oblasti gde se koristi veštačka inteligencija i ChatGPT trajati još dosta dugo. Ovo je tek početak primene različitih alata.

Ako se setite, sličnih rasprava je bilo kada se pojavila fotografija, potom i film. Walter Benjamin je pokazao kako se u to vreme vodila žučna debata oko slikarstva i fotografije, tačnije oko umetničke vrednosti njihovih proizvoda.

Za Benjamina, ova debata je bila simptom svetsko-istorijskog obrta kojeg nije bio svestan nijedan od učesnika u raspravi. Film je naš opažajni svet obogatio metodama Freudove teorije čineći vidljivim „optički nesvesno” svakodnevnog života.

Tako je posledica filma bilo veliko proširenje percepcije vizuelnog sveta, a onda i produbljivanje percepcije akustičkog. Zapravo je u toj debati učesnicima izmicalo ono ključno, da se sa pojavom fotografije i filma promenio čitav karakter umetnosti. Svaka nova tehnologija dovodi do radikalne promene naših uvida u realno, a to se upravo dešava i sada sa pojavom veštačke inteligencije i ChatGPT-a. 

Za kraj, možete li da ilustrujete dve paralelne realnosti suživota sa AI tehnologijama, jednu distopijsku, drugu utopijsku? 

– Sedamdesetih godina matematičar Irving John Good postavio je tezu da će prva inteligentna mašina ujedno biti i poslednji čovekov pronalazak.

Takva mašina će biti u mogućnosti da napravi bolje mašine od nje same, što neminovno dovodi do „eksplozije inteligencije” i pojave superinteligentnih mašina. U tom slučaju jedino što preostaje jeste pretpostavka da će takva mašina biti dovoljno poslušna da nam pokaže kako da je držimo pod kontrolom. Distopijska razmišljanja o mogućem razvoju superinteligencije polaze od toga da će ovakva mašina gotovo neminovno uništiti čitavu civilizaciju kao u kakvom holivudskom SF blokbasteru.

Bill Joy je pre više od dvadeset godina u tekstu „Zašto nismo potrebni budućnosti?” (Why the Future Doesn’t Need Us?, Wired, april, 2000) ukazao na opasnosti koje donose nove tehnologije XXI veka. Polazeći od pretpostavke da smo uspeli da stvorimo AGI (generalnu veštačku inteligenciju), Joy smatra da iz toga proizilaze dve stvari: mašinama se može dozvoliti da samostalno donose odluke bez ljudskog nadzora, ili drugo, kontrola nad mašinama mora ostati u rukama ljudi.

U prvom slučaju sudbina ljudske rase bila bi u milosti mašina, dok bi u drugom ljudi zadržali kontrolu nad vlastitom sudbinom. Istovremeno sa napretkom u informatici, fizici i genetici oslobođena je enormna transformativna moć. Tako se sa pojavom superinteligentnih mašina stvaraju uslovi za mogućnost potpunog preoblikovanja sveta s obzirom na to da procesi evolucije i replikacije nisu više ograničeni samo na prirodni svet već postaju područje ljudskih intervencija.

Nove tehnologije XXI veka mogu vrlo lako postati „pogoni destrukcije” i kao destruktivni autoreplikatori dovesti u pitanje opstanak života na Zemlji. Moć destruktivne autoreplikacije, koja je inherentna novim tehnologijama, preti da izmakne svakoj ljudskoj kontroli svejedno da li je reč o bio, nano ili info tehnologijama. Smatra se da bi superinteligentna veštačka inteligencija mogla da se replicira bez ograničenja, koristeći sve resurse Zemlje kako bi postigla svoj cilj.

Destruktivna autoreplikacija je ključni koncept u razumevanju egzistencijalnih rizika koje donose nove tehnologije XXI veka. Kako veštačka inteligencija postaje sve autonomnija, potrebne su stroge mere kontrole kako bi se izbegli scenariji gde inteligentne mašine, algoritmi ili sintetički biološki agenti postaju „nesavladivi paraziti”. Isto tako, treba imati u vidu zlonamernu upotrebu gde bi se mogućnosti veštačke inteligencije iskoristile radi nanošenja velike štete.

Veštačka inteligencija može dovesti do stvaranja smrtonosnih patogena i omogućiti njihovu zlonamernu upotrebu, odnosno bioterorizam. Kao u hladnoratovskoj trci u naoružanju, danas već započinje trka u razvoju sistema veštačke inteligencije koji mogu da izmaknu bilo kakvoj kontroli. Vojska bi mogla da razvije autonomno oružije, kao i da koristi veštačku inteligenciju za sajber ratovanje, što bi omogućilo novu vrstu automatizovanog ratovanja gde ljudi više ne bi mogli da intervenišu. Slično bi mogle da se ponašaju i korporacije, što bi dovelo do masovne nezaposlenosti i zavisnosti od  sistema veštačke inteligencije.

Moglo bi se dogoditi i da evolucioni pritisci dugoročno oblikuju razvoj inteligentnih mašina pa bi „prirodna selekcija” između različitih modela veštačke inteligencije dovela do nastajanja „sebičnog algoritma”, neke vrste digitalnog „sebičnog gena”.

Istoričar Yuval Noah Harari smatra da je veštačka inteligencija prva u istoriji sposobna da samostalno donosi odluke ne samo o vlastitoj upotrebi već i o ljudima. On ističe da nisu u pitanju neka predviđanja budućnosti, naprotiv, to se već događa, tako da po prvi put u istoriji moć iz naših ruku preuzimaju algoritmi a da većina ljudi toga nije ni svesna. Najveća opasnost od nekontrolisanog razvoja veštačke inteligencije nastaje usled toga što je to prva tehnologija koja može da stvara priče. Jedinstveno mesto koje homo sapijens zauzima među svim ostalim vrstama ogleda se u činjenici da je primitivni čovek bio sposoban da stvara nematerijalne narative.

Upravo to je najveća demonstracija njegove moći, jer su verovanja u najrazličitije priče – bez obzira na to da li su u pitanju priče koje se tiču naših mitova, finansija i slično – omogućila čoveku da zavlada svetom.

Sa novom generacijom veštačke inteligencije moguće je zamisliti svet u kojem će najveći broj tekstova, melodija i slika biti stvoren od strane ne-humane inteligencije. U ovom trenutku mi ne razumemo u potpunosti koje su moguće konsekvence ukoliko bi veštačka inteligencija preuzela kulturu. Jedan od ključnih problema sa kojim se suočavamo kada je AI u pitanju jeste i to da ne možemo biti sigurni kako će alati veštačke inteligencije biti korišćeni.

U savremenim bio-političkim igrama moć oscilira između nuklearnog holokausta koji može da uništi kompletan život na zemlji i novih tehnologija XXI veka čije (destruktivne) potencijale tek naslućujemo. Strah od zloupotrebe novih tehnologija uopšte ne samo da potvrđuje da živimo u jednoj kulturi straha već isto tako pokazuje da su mnogi problemi pre svega na strani čoveka, a mnogo manje na strani mašina.

Nije li ovo tek simptom jednog paradoksa u koji smo dospeli verujući u mit da će nastanak superinteligencije dovesti do poslednje revolucije, ne samo u polju nauke već i radikalne promene čitave civilizacije?

Sa duge strane, možda nikada nećemo ni uspeti u postojećim okvirima sadašnje faze neo-kapitalizma (neo-liberalne / neo-konzervativne / neo-fašističke) da napravimo generalnu veštačku inteligenciju, kamoli superinteligenciju.

Čini se da je upravo nastupio trenutak kada treba razmišljati o novim društvenim mašinama koje upravo zahvaljujući veštačkoj inteligenciji neće biti ni nalik onima koje su postojale u dosadašnjoj istoriji ljudske civilizacije.

Foto: Goranka Matić