Falsk billede af "unge mænd" fra Danmarksdemokraterne viser hvor svært deepfakes er at afsløre

Nogle gange er internettet en gedigen spejlkabinet, og denne uge var det Danmarksdemokraternes tur til at levere et glimrende eksempel. Partiet delte et billede på Facebook af to unge mænd, der ifølge opslaget skulle illustrere problemer med dunjakker og kasketter på danske ungdomsuddannelser. Billedet ser fuldstændig ægte ud. Der er bare ét lille problem: de to mænd eksisterer ikke. De er kunstig intelligens fra top til tå.

Billedet viser to unge mænd med mellemøstligt udseende, der kigger surt på en kvinde med tørklæde. Det blev delt som en del af partiets kampagne, og inden nogen fik regnet ud, at der var noget galt, nåede opslaget at samle omkring 13.000 likes. En del af kommentarerne gik direkte på personerne på billedet, som ifølge flere brugere "gav brækfornemmelser". Awkward, når man finder ud af, at de brugere reagerede på nogen, der aldrig har trukket vejret.

Det var journalister fra DR, der gravede sig frem til sandheden. Danmarksdemokraterne havde faktisk skrevet i deres officielle PDF-udspil, at billedet var AI-genereret, men skriften var så lille og gennemsigtig, at ingen normale mennesker ville opdage det. På selve Facebook-opslaget stod der ingenting. Altså: teknisk set fortalte de sandheden, men på en måde der krævede lup og et forstørrelsesglas for at få øje på.

Eksperterne er ikke imponerede

Claes De Vreese, professor ved Syddansk Universitet, peger på, at der bør være fuld transparens, når politiske partier bruger AI til at skabe billeder af den her slags. Og Michael Wessel fra Copenhagen Business School tilføjer, at billedet faktisk rammer lige ind i EU's nye AI-forordning, fordi det forestiller "plausible" mennesker i en realistisk, hverdagsagtig situation. Kort sagt: det er præcis den type indhold, reglerne er lavet for at fange.

Først efter at DR rettede henvendelse til partiet, blev der sat et AI-mærke på billedet, både på Facebook og på hjemmesiden. Partisekretær Steen Thomsen indrømmede ligeud, at de simpelthen "ikke fik skrevet" markeringen på alt deres digitale grafik. En form for øv-vi-glemte-det, som nok ikke ligefrem beroliger dem, der er bekymrede for AI-manipulation i politisk kommunikation.

Det store billede (pun intended)

Sagen føjer sig ind i en voksende bunke af eksempler på, hvor svært det efterhånden er at se forskel på ægte fotos og AI-genereret indhold. Teknologien er blevet så god, at selv trænede øjne kan blive taget på sengen, og når politiske partier begynder at bruge den slags billeder uden ordentlig mærkning, bliver det for alvor et problem for den offentlige debat. For hvis vi ikke længere kan stole på, at et billede faktisk viser virkelige mennesker, hvad kan vi så stole på?

Indtil videre er konklusionen: tjek altid det lille print. Og måske også lige zoom ind på ansigterne, hvis noget føles en anelse for perfekt.