Muskov X i Grok pod istragom EU-a! Seksualno eksplicitni deepfakeovi šokirali svijet

Društvena mreža X Elona Muska našla se pod istragom Europske unije zbog sumnji da nije spriječila svojeg AI chatbota Groka od generiranja deepfakeova "koji bi mogli predstavljati sadržaj koji prikazuje seksualno zlostavljanje djece".

Europska komisija izjavila je da će se istragom, koja bi mogla izazvati još jedan val kritika iz Bijele kuće, ustanoviti je li platforma društvenih medija pravilno procijenila i ublažila rizike povezane s implementacijom Groka u mreži X u Europskoj uniji.

"Seksualizirani deepfakeovi žena i djece nasilni su i neprihvatljivi oblik ponižavanja", rekla je europska povjerenica nadležna za tehnologiju Henna Virkkunen. Slučaj spada pod pravila EU-a o online sadržaju, Akt o digitalnim uslugama, koji postavlja stroge sigurnosne mjere za ograničavanje štetnog i ilegalnog materijala na internetu.

Globalna osuda Groka eskalirala je posljednjih tjedana nakon što su korisnici u više zemalja prijavili tog AI chatbota zbog generiranja seksualiziranih slika i objavljivanja istih na X-u, što je izazvalo brze reakcije regulatora i zagovornika zaštite djece. Britanski regulator komunikacija Ofcom već formalno istražuje je li X prekršio zakon o internetskoj sigurnosti te zemlje (Online Safety Act). Francuska i Indija također su se oglasile, optužujući Groka za ilegalno stvaranje seksualiziranih slika ljudi bez njihovog pristanka.

X, podružnica tvrtke xAI, u prethodnoj je izjavi naveo da uklanja nezakoniti sadržaj, uključujući sadržaje koji prikazuju seksualno zlostavljanje djece, suspendira račune i, kada je potrebno, surađuje s policijom.

Istraga Groka uslijedila je nakon zasebne kazne EU-a u iznosu od 120 milijuna eura u sklopu Akta o digitalnim uslugama, koju Trumpova administracija smatra flagrantnim napadom na slobodu govora. U tom slučaju, nadzorna tijela zaključila su da X-ov plaćeni simbol plave kvačice obmanjuje korisnike, da platforma blokira istraživačima pristup podacima te da nije pravilno uspostavila repozitorij oglašavanja.

Prema Aktu o digitalnim uslugama koji je stupio na snagu 2023. godine, EU može kazniti online platforme kaznama do šest posto njihovih godišnjih globalnih prihoda zbog neadekvatnog rješavanja problema nezakonitog sadržaja i dezinformacija te nepoštivanja pravila transparentnosti.

Prije kazne EU-a u prosincu, američki potpredsjednik JD Vance objavio je na X-u da bi "EU trebala podržavati slobodu govora, a ne napadati američke tvrtke zbog besmislica".

 

– U pisanju pomogao Max Ramsay