Na Instagram nalogu Kajli Džener mogli bi se pratiti svi vodeći popkulturni fenomeni, jednako koliko i evolucija i menjanje standarda lepote i modnih trendova. Kao i čitava porodica Kardašijan, od koje više niko ne može da pobegne, Kajli Džener postaje oličenje trenutka koji kolektivno živimo: tačke u istoriji kada se čini da je virutelan svet nadvladao materijalni, dok naše misli i proizvodi našeg rada obitavaju u prostoru pod kontrolom nekolicine (tehnoloških) korporacija.
Kad kažemo da je Kajli Džener postala lice distopije koja dolazi, mislimo na njenu nedavnu kampanju za korporaciju Marka Zakerberga, Metu, pri kojoj reklamira nov proizvod: pametne naočare. Baš kao u epizodi popularne antologijske serije Black Mirror, naočare sadrže softver koji, prema navodima stručnjaka, predstavlja ozbiljnu pretnju po privatnost.
Naš telefon nam već prikazuje reklame za proizvode o kojima pričamo s prijateljima u trenutku dok o njima govorimo, pa nas više nimalo ne čudi što je Meta razvila naočare koje neovlašćeno snimaju, kao ni činjenica da postoji čitav niz sličnih gedžeta na tržištu. Džordž Orvel je bio u pravu.
Šta Kajli Džener zapravo reklamira?
Kajli je udružila snage sa Metom i kompanijom EssilorLuxottica, kako bi kreirala naočare opremljene nizom funkcija zasnovanih na veštačkoj inteligenciji: imaju ugrađeni ekran i kameru koja može da snima i fotografiše vaše okruženje dok ih nosite.
Pametne naočare takođe omogućavaju korisnicima da slušaju audio-sadržaje preko open-ear tehnologije, primaju pozive i komuniciraju sa AI asistentom. Meta navodi da naočare imaju stroga podešavanja privatnosti kako bi zaštitile korisnike, kao i ugrađenu lampicu koja se uključuje tokom režima snimanja kako bi upozorila ljude u vašoj okolini.
Međutim, ova kontroverzna tehnologija već je izrodila „jeziv“ trend nakon lansiranja prvih Meta Ray-Ban AI naočara 2024. godine, pri kojem muškarci prilaze ženama u javnom prostu, često sa ciljem da snime njihove reakcije na neobavezna pitanja ili ulete za muvanje, snimajući ih bez njihovog znanja ili pristanka upravo putem naočara. Žene za ove video-snimke saznaju tek nakon što oni postanu popularni na internetu, gde su neretko izložene uvredama i zlostavljanju.
BBC je pisao o dva takva slučaja. Početkom godine, preneli su iskustvo devojke po imenu Unag, koja se sunčala na plaži u Brajtonu, kada joj je prišao muškarac koji je nosio sunčane naočare. Pitao ju je kako se zove, odakle je i da li može da dobije njen broj telefona. Ona ga je pristojno odbila, rekavši da ima dečka. Nekoliko nedelja kasnije, stigao joj je video-snimak s TikToka. Bio je to video njene interakcije sa tim muškarcem, zabeležen iz njegove perspektive. Tada je shvatila da ju je sve vreme snimao svojim naočarima.
Drugi je slučaj Džoj Kalekje iz Kenije, koja je primila poziv od prijatelja koji je zvučao veoma zabrinuto. Rekao joj je da proveri društvene mreže jer je neko objavio video-snimak na kojem se ona nalazi. Klip prikazuje Kalekje, tada devetnaestogodišnju studentkinju, kako sama stoji pored prometnog puta u glavnom gradu Kenije, Najrobiju, gledajući u svoj telefon. Osoba koja snima prilazi joj i govori: „Ćao, sviđa mi se kako izgledaš.“ Bio je to susret na koji je Kalekje potpuno zaboravila. Nakon što je odgledala video, shvatila je da ju je sve vreme snimao.
Ove žene su bile žrtve globalnog trenda u kojem muškarci sa skrivenim kamerama snimaju interakcije bez njihovog pristanka i objavljuju te video-zapise na internetu, gde oni ponekad sakupljaju milione pregleda. Neki od kreatora ovih snimaka zarađuju novac tako što ih objavljuju na društvenim mrežama, ili profitiraju prodajući priručnike koji navodno pomažu muškarcima da prilaze ženama.
Iz Kenije takođe dolazi uznemirujuća vest o tužbi radnika koji su javnost obavestili o načinima na koji je Meta prekršila privatnost korisnika pametnih naočara. U februaru su radnici kompanije Sama izjavili za dva švedska lista da su svedočili situacijama u kojima su korisnici pametnih naočara odlazili u toalet i upražnjavali seks. Švedski listovi Svenska Dagbladet (SvD) i Göteborgs-Posten (GP) objavili su istraživanje koje je uključivalo svedočenja neimenovanih radnika od kojih je traženo da pregledaju video-snimke zabeležene Metinim naočarama.
„Vidimo sve – od dnevnih soba do nagih tela“, izjavio je jedan od radnika.
Manje od dva meseca kasnije, Meta je prekinula ugovor sa ovom kompanijom, što će, kako navode iz firme Sama, rezultirati otpuštanjem 1.108 radnika kao tehnološkog viška. Meta tvrdi da je razlog tome to što Sama nije ispunila njihove standarde, što je kritika koju Sama odbacuje. Kenijska organizacija radnika pak tvrdi da je Metina odluka direktna posledica toga što su zaposleni javno progovorili o ovom problemu.
Meta se nije očitovala povodom te optužbe, ali je u saopštenju za BBC News navela da je „odlučila da prekine saradnju sa kompanijom Sama jer oni ne ispunjavaju standarde“.
Poslednjih godina nekoliko novinarskih istraživanja bavilo se temom o kojoj tehnološke kompanije nerado govore, a koja, kada god dospe u javnost, periodično ponovo pokreće javnu debatu: u pitanju je takozvano označavanje podataka (data labeling), koje podrazumeva klasifikaciju različitih vrsta informacija, kao što su audio i video zapisi, slike ili tekst, kako bi se trenirali sistemi veštačke inteligencije. Ovi zadaci su često loše plaćeni i repetitivni, a radnici su ponekad izloženi nasilnom ili uznemirujućem sadržaju. Ipak, oni su neophodni da bi AI postao efikasniji, iako tehnološke kompanije često imaju tendenciju da umanjuju značaj tog procesa.
Tokom proteklih godina, ovu aktivnost prati i takozvano „učenje potkrepljivanjem na osnovu ljudskih povratnih informacija“ (Reinforcement Learning with Human Feedback – RLHF), odnosno korišćenje ljudskih procena za evaluaciju rezultata koje generiše veštačka inteligencija. Cilj je da se sistemi usmere ka tačnijim ili korisnijim odgovorima i da se progresivno poboljšaju njihove performanse. Ove zadatke u masovnom obimu potražuju velike tehnološke kompanije poput Google-a, Microsoft-a i OpenAI-ja, a posao se često poverava eksternim firmama u zemljama u razvoju, kao što su Kenija ili Nepal, gde su troškovi rada znatno niži.
Još jedna uznemirujuća odlika pametnih naočara koje reklamira Kajli dolazi iz izveštaja magazina Wired. Kako navode, Meta je u potaji ugradila tehnologiju za prepoznavanje lica namenjenu njenim pametnim naočarima u aplikaciju koja je preuzeta na milione telefona.
Kod koji je diskretno dodavan u Meta AI aplikaciju kroz više ažuriranja tokom ove godine pokazuje da ova funkcija, koja se interno naziva „NameTag“, identifikuje ljude koje zabeleži kamera naočara i, kada je aktivirana, obaveštava korisnika čim nekoga prepozna.
Otkriće funkcije „NameTag“ u aktivnoj verziji Meta AI aplikacije pokazuje da je Meta počela da isporučuje kod za prepoznavanje lica na telefone korisnika u istom periodu dok je u javnosti to opisivala kao nešto o čemu kompanija još uvek „promišlja“. U aprilu je Meta saopštila da, ukoliko bude koristila tehnologiju prepoznavanja lica, ona neće biti lansirana bez prethodnog „veoma promišljenog pristupa“. Međutim, Wired je otkrio da su još u januaru ključne komponente ovog sistema već bile integrisane u softver distribuiran milionima ljudi.
Ukoliko se aktivira, ova opcija će transformisati lica koja zabeleže Metine naočare u jedinstvene biometrijske potpise, u javnosti poznate kao „otisci lica“ (faceprints), i upoređivaće svaki od njih sa otiscima sačuvanim na korisnikovom telefonu – u bazi podataka koja je trenutno konfigurisana tako da prima ažuriranja direktno od Mete. Prepoznata lica će pokretati obaveštenja (notifikacije), dok se ostala isecaju, indeksiraju i čuvaju u folderu sa oznakom „na čekanju“ (pending).
Najzad, naravno da Meta nije usamljena u svojim kršenjima privatnosti putem proizvoda. Nedavno, kompanija za proizvodnju pametnih zvona Ring, u vlasništvu korporacije Amazon, morala je da prekine partnerstvo sa firmom Flock Safety, poznatom po uslugama nadzora, nakon što se našla pod lupom javnosti,
Odluka da se ne nastavi sa projektom doneta je samo nekoliko dana nakon što je Ring reklama, emitovana tokom Super Bowl-a, izazvala oštre reakcije javnosti koja ju je ocenila kao „jezivu“. Ring, koji je Amazon kupio 2018. godine, i ranije se suočavao sa kritikama u vezi sa svojom politikom privatnosti. Njegova odluka da sarađuje sa kompanijom Flock privukla je dodatnu pažnju javnosti, posebno nakon što je predsednik Donald Tramp intenzivirao mere protiv imigracije.
Reklama za Super Bowl, koja je predstavila novu funkciju pod nazivom Search Party, pokrenula je talas kritika. Ona prikazuje komšiluk u kojem korisnici Ring-a sarađuju i koriste ovaj alat kako bi pronašli izgubljenog psa, što su kritičari brzo osudili kao distopijski primer masovnog nadzora.
Poput reklame Kajli Džener za Meta naočare, dovoljno pokazuje da je distopija već tu.
Naslovna fotografija: Barry King / Alamy / Profimedia