Teen Marvel-stjernen Xochitl Gomez er det seneste offer for deepfake porno. Efter at have fundet de seksuelt eksplicitte deepfakes uden samtykke, der cirkulerede på X, tidligere Twitter, blev hun dog forvirret, da platformen undlod at handle og fjerne dem.
Mange problemer er opstået sideløbende med fremkomsten af kunstig intelligens, men deepfake porno er en af de mest bekymrende. Mens deepfakes har eksisteret i et stykke tid, har fremskridt inden for teknologi gjort dem mere tilgængelige og overbevisende. Som et resultat har mange individer, især kvinder, fundet deres lighed taget eller genskabt uden deres samtykke og brugt i pornografisk indhold. Det er blevet et massivt problem for kvindelige berømtheder, men også for almindelige kvinder, der har oplevet, at deres lighed bliver brugt i seksuelt eksplicit indhold til hævnporno, chikane og mobning. Der er også en stor bekymring for, at deepfakes bliver brugt til at skildre børnemishandling.
Desværre er der i øjeblikket ingen føderale love mod deepfake porno uden samtykke, og kun få stater har lovgivning, der beskytter borgerne mod det. Mange kvinder, der er blevet ofre for deepfake pornografi, har fundet sig selv uden muligheder for at bekæmpe det på grund af manglen på regulering og lovløsheden på internettet. De fleste har ikke de økonomiske ressourcer til at tage retslige skridt. Selv berømtheder som Scarlett Johansson har erklæret, at det er nytteløst at forsøge at kæmpe mod de deepfakes.
Et lille beskyttelsesniveau, kvinder har, kommer fra de sociale medieplatforme, der har forbudt deepfake og AI-genereret porno. Hvis disse websteder håndhæver sådanne forbud, ville det gøre udbredelsen af dette skadelige indhold vanskeligere. Gomez' erfaring viser dog, at sociale medier ikke håndhæver deres regler.
Xochitl Gomez åbner op om sin oplevelse med deepfake porno
(Axelle/Bauer-Griffin/Getty)
Mens de optrådte på Taylor Lautner og hans kones podcast, Squeeze , Xochitl Gomez (a.k.a. America Chavez) åbnede op om sine oplevelser som et offer for dybfalsk pornografi. Den 17-årige afslørede, at hun fandt det seksuelt eksplicitte materiale, der cirkulerer på X, tidligere Twitter, men har ekstremt svært ved at fjerne det. X forbød AI-genereret porno tilbage i 2018 og har politikker mod seksuelt eksplicitte deepfake billeder og videoer samt vildledende medier og nøgenhed uden samtykke. I betragtning af, at billederne af Gomez klart overtræder X's regler, og at dette indhold indeholdt en mindreårig, ville man have troet, at platformen straks ville tage affære.
Gomez blev dog chokeret, da hun fandt ud af, at hendes team allerede havde forsøgt at gribe ind over for indholdet uden held. NBC News rapporteret at billederne så sent som den 19. januar 2024 stadig kunne findes på X, som ikke reagerede på anmodninger om kommentarer. Gomez forklarede, at indholdet gjorde hende mærkelig og desperat ville have det fjernet, da det ikke var et godt udseende for hende. Hun spurgte: Hvorfor er det så svært at tage ned? Det var hele min tanke om det, var: 'Hvorfor er det tilladt?'
I sidste ende resignerede hun dog for at acceptere, at indholdet simpelthen ikke kunne fjernes, og afslørede, at hun bare prøver ikke at tænke på det og lægger sin telefon væk for at håndtere problemet. Alligevel er de spørgsmål, hun stillede, stadig meget relevante. Hvorfor er det så svært for dette indhold at blive fjernet? Det er moralsk forkasteligt og ulækkert, når deepfake porno er lavet af et individ, der ikke samtykker. Det er direkte forfærdeligt, når det involverer en mindreårig. Der cirkulerer faktisk børnepornografi på X, og platformen gør, bizart nok, ikke noget ved det, selvom dette burde være det mest presserende problem at håndtere.
Det lyder næppe som en kompleks situation, hvis en person rapporterer seksuelt eksplicit materiale og giver platformen besked om, at de ikke har givet samtykke til det. Materialet strider mod flere regler på hjemmesiden. Hvad er der ellers at gennemgå eller bestemme? Det er allerede traumatiserende nok for et individ at finde denne form for indhold på sociale medier; det mindste, disse platforme kunne gøre, er at overholde deres anmodninger om at få det fjernet. Intet individ, især ikke en mindreårig, burde bare acceptere, at indholdet er der, fordi X og andre sociale medieplatforme vedvarende og forvirrende nægter at beskytte deres brugere.
(udvalgt billede: Axelle/Bauer-Griffin/FilmMagic/Getty)
