Deepfakes — teknologi, risiko og slik avsløres de

Hva er en deepfake?

Deepfake er et sammensetning av «deep learning» og «fake» — altså kunstig intelligens-generert falskt innhold. Begrepet brukes om bilder, videoer, lyd eller tekst som er manipulert eller helsyntetisert av AI for å fremstille virkelige personer i situasjoner eller med uttalelser de aldri har vært i eller kommet med.

Teknologien bygger på dype nevrale nettverk, særlig en type kalt Generative Adversarial Networks (GANs) og nyere diffusjonsmodeller. Et GAN består av to konkurerende nettverk: ett som genererer falsk innhold og ett som prøver å oppdage det falske. Gjennom tusenvis av treningsrunder lærer generatoren å lage stadig mer overbevisende resultater. Resultatet i dag er videoer og bilder som selv trente eksperter kan ha vanskeligheter med å skille fra ekte.

Slik lages deepfakes — steg for steg

Lage en enkel deepfake var tidligere forbeholdt ressurssterke aktører med avansert utstyr. I dag finnes det brukervennlige apper og netttjenester som lar hvem som helst generere overbevisende falske videoer på minutter:

• Face swap: Den vanligste typen — ansiktet til én person settes inn på en annen persons kropp i en video ved hjelp av maskinlæring
• Lipsync deepfake: En video av en person manipuleres slik at munnen beveger seg i synk med annen lyd — effektivt brukt til å sette ord i politikeres munn
• Stemme-deepfake (voice cloning): Med bare noen minutter lyd kan AI klone en persons stemme og generere vilkårlig tale. Brukes til svindel og desinformasjon
• Hel syntese: Ansikter og kropper som aldri har eksistert genereres fra bunnen av — brukes til svindelprofiler på sosiale medier
• Tekst-til-video: Nyeste modeller som Sora (OpenAI) kan generere realistiske videoer fra en tekstbeskrivelse alene

Risikoen deepfakes utgjør for samfunnet

Deepfakes utgjør en alvorlig og voksende trussel på flere fronter. Den mest utbredte formen for misbruk er seksuelt ikke-samtykkende deepfake-innhold — der virkelige personers ansikter settes inn i pornografisk materiale. Forskning viser at over 96 prosent av alle deepfake-videoer online er av denne typen, og ofrene er nesten utelukkende kvinner. Dette er nå kriminalisert i mange land, inkludert Storbritannia og etter hvert i EU.

I politikken er deepfakes en trussel mot demokratiet. Falske videoer av politikere og statsledere som sier eller gjør ting de aldri har gjort, kan spre seg viralt i sosiale medier og påvirke valg og folkeopinion. Under valg i USA, India og Storbritannia i 2024 ble deepfake-desinformasjon et dokumentert problem. I finans brukes stemme-deepfakes til CEO-svindel, der kriminelle ringer ansatte og utgir seg for å være daglig leder og ber om pengeoverføringer.

"Deepfakes er en trussel mot sannhet, tillit og demokratisk diskurs. Vi er nødt til å utvikle både teknologiske og regulatoriske svar."

Deepfakes i norsk kontekst

Norge har opplevd deepfake-relaterte hendelser som viser at problemet ikke er begrenset til andre land. Kjente norske profiler og kjendiser har blitt utsatt for deepfake-pornografi spredt i lukkede grupper på nett. Norsk politi og Kripos mangler foreløpig spesialiserte ressurser til å etterforske slike saker effektivt, og lovverket halter etter teknologien.

På politisk nivå har Stortinget begynt å diskutere tilpasninger i straffeloven for å eksplisitt kriminalisere ikke-samtykket syntetisk seksuelt innhold. EUs AI Act, som gjelder for norske virksomheter via EØS, klassifiserer visse deepfake-applikasjoner som høyrisiko-AI og krever merking av AI-generert innhold i mange sammenhenger.

Slik avslører du en deepfake

Det finnes flere tegn å se etter når du mistenker at et bilde eller en video er falsk:

• Øynene: Blikk, blinking og refleksjoner i øynene er ofte unaturlige i deepfakes
• Hårgrensen og ørene: Hår og ører er vanskelig for AI å gjengi korrekt — se etter uskarpe kanter
• Belysning og skygger: Inkonsistent belysning mellom ansikt og bakgrunn er et rødt flagg
• Hudtekstur: Overdreven glatthet eller merkelige artefakter i ansiktshud
• Lydsynkronisering: Munn og lyd stemmer ikke helt overens, særlig ved raske bevegelser
• Bevegelsesartefakter: Flimrende kanter rundt ansiktet eller merkelig bevegelse i nakken
• Bruk verktøy: Microsoft Video Authenticator, Sensity, og Intel FakeCatcher kan analysere innhold automatisk
• Kontekstsjekk: Søk etter originalkilden — ofte avslører søk om innholdet er tatt ut av kontekst

Lovverk og regulering

Regulering av deepfakes er i rask utvikling. EUs AI Act krever at AI-generert innhold merkes tydelig, og forbyr visse typer syntetisk innhold. Storbritannia har gjort det kriminelt å lage ikke-samtykket seksuell deepfake-innhold. I USA er lovgivningen fragmentert mellom delstater.

I Norge er den juridiske situasjonen kompleks. Eksisterende lovverk om ærekrenkelse, personvern og seksuelt krenkende innhold kan i noen tilfeller anvendes, men det er tydelig behov for spesifikk regulering. Regjeringen har signalisert at lovverket vil oppdateres i takt med EUs AI Act-implementering.

Veien fremover

Kampen mot deepfakes er i realiteten en teknologisk rustningskappestrid. Deteksjonsverktøy forbedres, men generasjonsverktøyene forbedres enda raskere. Den mest lovende langsiktige løsningen er kryptografisk innholdsautentisering — teknologi der ekte kamera og mikrofoner signerer innhold digitalt ved opptak, slik at manipulert innhold kan avsløres.

Initiativet C2PA (Coalition for Content Provenance and Authenticity), støttet av Adobe, Microsoft, BBC og Sony, jobber med å innføre slike standarder. For norske forbrukere i dag er den viktigste immuniteten kritisk medieforståelse: alltid vær skeptisk til sensasjonelt innhold, sjekk kilden, og bruk faktasjekk-tjenester som Faktisk.no og Politifact.