Deepfakes, den nye formen for digital manipulasjon

Det er lettere å tro det du ser enn det du blir fortalt. Det er av denne grunn at «deepfakes» er i stand til å utnytte din godtroenhet og uskyld.
Deepfakes, den nye formen for digital manipulasjon

Siste oppdatering: 23 oktober, 2021

Det ser ut som trolldom, men det er det ikke. Faktisk er det ren fremtidsteknologi, en kunstig intelligens som er verdig å bli inkludert i bøkene til Arthur C. Clarke. Deepfakes er videoene som endres digitalt og som lar deg bytte ansiktet til en person med en annen. Resultatet er så perfekt at du kan skildre at hvem som helst sier eller gjør noe som de faktisk aldri har sagt eller gjort.

De fleste bruker denne ressursen til å lage vitser med venner og familie. Tross alt, hvem har ikke lagt ansiktet sitt på en kjendis som Lady Gaga, Leonardo DiCaprio, Captain America og Scarlett Johansson, etc. på en slik måte at du plutselig danser i en musikkvideo eller spiller hovedrollen i et klipp fra en kjent film.

Imidlertid kan denne teknologien brukes både for uskyldige og kriminelle formål. Et eksempel på sistnevnte er Raffaela Spone, en 50 år gammel kvinne som bor i en by i Pennsylvania. Denne husmoren startet en svertekampanje mot tre medlemmer av datterens cheerleader-lag. Faktisk skapte hun inkriminerende falske bilder av jentene og distribuerte dem.

Spone ble arrestert og siktet for nettmobbing av mindreårige. Hennes manipulerte bilder ble distribuert av skolen og sosiale nettverk. Imidlertid var politiet heldigvis klar over at de hadde blitt laget med kunstig intelligens-teknologi.

Et annet eksempel er en video av Obama som sirkulerte på YouTube der han sa at Donald Trump var en idiot. Det skapte en stor mediekontrovers. I virkeligheten var det ikke sant, men var faktisk et eksperiment av University of Washington. Imidlertid demonstrerte det effekten som manipulering av videoer gjennom en kunstig intelligensalgoritme er i stand til å produsere.

jente med binære tall som symboliserer deepfakes

Deepfakes og viktigheten av kritisk tenkning

Deepfakes er på motem. Å sette ansiktet til en person på kroppen til en annen for å si eller gjøre noe, er faktisk ganske genialt. Faktisk sier en vandrehistorie at hvis du sier ordet deepfake tre ganger, vil Tom Cruise dukke opp.

University of Victoria (Canada), Nottingham Trent University (Storbritannia) og LUISS Guido Carli University (Italia) forsket imidlertid på at fotografisk manipulasjon er noe som har blitt gjort siden 1800-tallet.

Likevel har ankomsten av deepfakes markert et vendepunkt i dette fenomenet. Fordi de i mange tilfeller brukes til kriminelle formål, for eksempel pornografi, falske nyheter og økonomisk svindel. Faktisk er problemet blitt så alvorlig at nye lover vil implementeres i nær fremtid.

I denne digitale tidsalderen er bedrag, enten det er gjennom falske nyheter eller bilder, på dagsorden. Videre er dens sosiale innvirkning enorm. Derfor må vi være forberedt på å oppdage disse manipulerende enhetene.

Når bildet har mer kraft enn ord (og sannheten)

Det er lettere å tro det du ser enn det du blir fortalt. Deepfakes endrer sannheten ved å manipulere visuelle dokumenter. Ett eksempel skjedde i Venezia under pandemien. Bilder av svarte svaner som beveger seg rolig gjennom kanalens vann ble publisert.

Vi så også merkelig formet fisk i de kanalene. Imidlertid var ingenting av det sant. Svanene var et produkt av kunstig intelligens. Faktisk, i feilinformasjonsverdenen, er deepfakes en god alliert.

Pornografisk innhold og deepfakes

Deepfake-teknologi brukes ofte som trakassering og hevn. Hva kan være bedre enn å lage pornografiske videoer for denne typen oppførsel? Faktisk velger folk ganske enkelt et klipp og plasserer ansiktet til hvem de vil på det.

Så kommer det neste trinnet, distribuerer det. Faktisk brukes pornografiske videoer laget med deepfake-teknologi i skole- og arbeidssettinger. Det er en svært effektiv form for trakassering.

Hacking av virkeligheten

Deepfakes dukket opp i 2007, litt før falske nyheter ble dagsorden. For tiden hacker og tukler alle disse trendene med virkeligheten vår. De brukes i svertekampanjer for å angripe offentlige personer. Dessuten innebærer deepfakes for kriminelle formål enorme mengder penger hvert år, ifølge en publikasjon i Crime Science Journal.

Det anslås at det for tiden kan være mer enn 50 000 deepfakes som sirkulerer på internett. Videre gir vi tillit til mange av dem.

kvinne som ser på deepfakes

Hva kan vi gjøre med denne typen teknologi?

Land som Kina har forbudt bruk av denne typen kunstig intelligens. Facebook har også opprettet et fond på mer enn ti millioner dollar med den hensikt å generere verktøy for å beskytte befolkningen mot misbruk. Microsoft foreslår for eksempel at vi bruker Video Authenticator for å finne ut om en video eller et bilde er blitt manipulert.

Vi har to siste kommentarer til dette emnet. For det første bør du aldri ty til denne typen teknologi for trakassering eller hevn. For det andre må du utvikle ferdigheten kritisk tenkning for å tilnærme deg slike budskap. Fordi i en verden der virkeligheten blir stadig mer manipulert, er det bare et filter av forsiktighet som kan beskytte deg …

Det kan interessere deg ...
Hvorfor tror vi falske nyheter er reelle?
Utforsk Sinnet
Les det hos Utforsk Sinnet
Hvorfor tror vi falske nyheter er reelle?

I disse dager opplever vi en epidemi av falske nyhetsrapporter og halv-sannheter, ellers kjent som "falske nyheter". Les mer om dette i denne artik...



  • Nguyen, Thanh & Nguyen, Cuong M. & Nguyen, Tien & Nguyen, Duc & Nahavandi, Saeid. (2019). Deep Learning for Deepfakes Creation and Detection: A Survey.
  • Kietzmann, J.; Lee, L. W.; McCarthy, I. P.; Kietzmann, T. C. (2020). “Deepfakes: Trick or treat?”. Business Horizons63 (2): 135–146. doi:10.1016/j.bushor.2019.11.006
  • Roose, Kevin (4 March 2018). “Here Come the Fake Videos, Too”. The New York Times. ISSN 0362-4331