Kompanija Ilona Maska za AI dobila je optužbe koje se tiču svih nas
Zašto je važno da ovo znate?
Povezano
Kompanija Ilona Maska koja se bavi razvojem veštačke inteligencije suočava se za ozbiljnim optužbama, koje se zapravo tiču svih nas – jer veoma lako mogu da postanu i naš problem. Tužbe su podnele tinejdžerke koje tvrde da je kompanija omogućila dečiju pornografiju dozvoljavajući kreiranje njihovih seksualno eksplicitnih slika.
Tužbu protiv Maskove kompanije xAI podnele su u ponedeljak saveznom sudu u Kaliforniji tri mlade žene čije je slike i video-snimke korisnik Groka izmenio bez njihovog znanja, kako bi ih prikazao nage ili na drugi način očigledno seksualizovane.
Kako prenosi BBC, jedna od tri žene koje su podnele tužbu – od kojih su dve maloletne – izjavila je da je saznala za postojanje slika na kojima je prikazana nakon što je primila anonimnu poruku na Instagramu, koja ju je uputila na datoteke podeljene na Discordu, platformi koja korisnicima omogućava kreiranje privatnih servera i četova za razmenu poruka, slika i video-zapisa.
Na istoj platformi su, prema istragama, slične slike generisane Grokom prikazivale još najmanje osamnaest maloletnih devojčica.
Advokati koji zastupaju ove tri žene tvrde da u ovom slučaju odgovornost za kršenje zakona ne treba pripisati isključivo korisniku koji je kreirao i distribuirao manipulisane slike, već i samoj kompaniji xAI – koja je obezbedila tehnologiju za to.
Prema navodima tužilaštva, Maskova kompanija je uvela ove funkcije sa ciljem da poveća broj aktivnih korisnika Groka, a samim tim i pretplatnika na mreži X, iako je bila svesna potencijalne zloupotrebe ovog alata.
Tužba protiv Maska otkriva opasnosti Groka
Prošle godine, xAI je objavio ono što je nazvao „Grok Imagine“ ili „spicy mode“, sa funkcijama koje su korisnicima omogućavale da putem komandi kreiraju lažne slike seksualne prirode.
Ovaj režim je čak vršio „svlačenje“ stvarnih ljudi koristeći njihove slike sa mreže, od Tejlor Svift do prosečnih korisnika.
Za manje od dve nedelje, Grok je kreirao milione seksualizovanih slika, uključujući više od 20.000 slika dece, prema istraživanju koje je sproveo Centar za suzbijanje digitalne mržnje (Center for Countering Digital Hate).
Mask je u početku umanjivao Grokovu sposobnost da kreira lažni seksualizovani sadržaj, rekavši u januaru da „nije upoznat ni sa jednom nagom slikom maloletnika koju je generisao Grok. Bukvalno nula“, prebacujući krivicu na korisnike te funkcije.
„Očigledno je da Grok ne generiše slike spontano, već to čini isključivo prema zahtevima korisnika“, napisao je Mask na mreži X.
Međutim, kako se takva onlajn zloupotreba nastavila i ove godine, britansko regulatorno telo Ofcom, Evropska komisija i Kalifornija pokrenuli su istrage o mogućnosti ove funkcije da kreira seksualizovane slike stvarnih ljudi, posebno dece.
Do sredine januara, X je saopštio da će primeniti „tehnološke mere“ kako bi zaustavio Grokovu sposobnost da „svlači“ ljude na fotografijama. Na kraju je uhapšen počinitelj koji je stajao iza Discord servera pomenutog u novoj tužbi.
On nije imenovan u tužbi, ali je deo zasebne policijske istrage. Ta istraga je otkrila da je posedovao stotine AI-generisanih i izmenjenih slika seksualnog zlostavljanja maloletnika, kojima se trgovalo na platformi za razmenu poruka Telegram i na platformi za deljenje datoteka Mega, navodi se u tužbi.
Slučaj u Kaliforniji nije jedini pravni problem koji indirektno uključuje Maska. U februaru je francuska policija izvršila upad u kancelarije mreže X u Parizu u okviru istrage koju je prošle godine pokrenuo lokalni tužilac, nakon prijave parlamentarca Erika Botorela, člana Renesanse, centrističke partije predsednika Emanuela Makrona.
Među elementima koji se ispituju u istrazi je i kontroverzna funkcija Groka. Tužilac je takođe najavio da su Mask i Linda Jakarino, koja je obavljala funkciju generalne direktorke mreže X od 2023. do 2025. godine, pozvani u Pariz na saslušanje.
Istragama o Groku u Sjedinjenim Državama i Francuskoj pridružuju se i one koje su već u toku u Australiji i Ujedinjenom Kraljevstvu, dok su Indonezija i Malezija direktno blokirale pristup. I u Indiji je Ministarstvo elektronike i informacionih tehnologija oštro kritikovalo lokalnu filijalu mreže X, optužujući platformu za podsticanje distribucije seksualno eksplicitnog sadržaja.
Mask, čije se neto bogatstvo procenjuje na blizu 840 milijardi dolara, trenutno je najbogatija osoba na svetu. Poslednjih godina nizao skandal za skandalom, počevši od akvizicije Tvitera i njegovog pretvaranja u platformu – preimenovanu u X – na kojoj se podstiče cirkulacija kontroverznog sadržaja, često usklađenog sa ekstremno desničarskim političkim strujama, napominje nss magazine.
Stoga ne iznenađuje što je pre nekoliko meseci novinska agencija Reuters izvestila da je, analizirajući upite poslate Groku, u samo deset minuta zabeleženo više od 100 pokušaja modifikovanja fotografija kako bi se subjekti prikazali u bikiniju.
Naslovna fotografija: Joshua Sukoff / Alamy / Profimedia