Papa Franjo nije zaista nosio zimsku jaknu firme Balenciaga … a bivši predsjednik Donald Trump nije fotografisan kako bježi od policije. Te lažne slike napravio je softver koji koristi generativnu vještačku inteligenciju.
Tehnologija lažnih slika “deepfake” već je dio predsjedničke kampanje u Americi 2024. Tako Trumpovi protivnici emituju snimak na kome se vidi kako grli bivšeg zdravstvenog savjetnika Bijele kuće Anthonyja Faucija, sa kojim se često sporio za vrijeme pandemije Covida 19.
Autori emisije “Verify”, koja razotkriva dezinformacije, ustanovili su da su te tri slike – lažne.
“Ako pažljivo pogledate ove slike, vidite dokaze da ih je proizvela vještačka inteligencija. Ovde u pozadini, umjesto da piše Bijela kuća, piše ‘miphep’, ukazuje Casey Decket, reporter emisije “Verify”.
Lažni snimci u političkom marketing brinu neprofitnu organizaciju za prava potrošača Public Citizen, čija je potpredsjednica Lisa Gilbert.
“Jedna od stvari koju vještačka inteligencija, a posebno generativna, može da lako proizvodi su lažni snimci – takozvani ‘deepfake’. To je audio ili video koji izgleda nevjerovatno realno i ponekad je nemoguće golim okom ga razlikovati od stvarnog videa”, rekla je ona.
Organizacija Public Citizen je zatražila od Federalne izborne komisije da uvede pravila za spotove u kampanji koji koriste kompjuterski proizvedene snimke, ali je komisija odgovorila da to nije u njenoj nadležnosti. Trenutno nema mnogo pravne infrastrukture za regulisanje “deepfakeova”, kaže James Grimmelmanb, profesor prava u informatici na pravnom fakultetu Univerziteta Cornell.
“Vrhovni sud je zapravo prilično jasno stavio na znanje da je za njih veoma teško da regulišu bilo šta osim duboko i izrazito netačnog i štetnog govora”, kaže on.
On očekuje da će se lažni snimci sve više koristiti u političkim kampanjama: “I biće veoma teško da se ustanovi ko ih je napravio”.
U Kongresu se trenutno razmatra zakon prema kojem bi se od autora političkih spotova zahtijevalo da navedu da li je korištena generativna vještačka inteligencija.