Velkommen til algokrati: kraften til algoritmisk bias

Algoritmisk bias refererer til den falske følelsen av kontroll som mennesker har over en del av beslutningene vi tar. Les mer om dette.

Skrevet og verifisert av psykologen Valeria Sabater.

Siste oppdatering: 17 juli, 2024

Søke etter et jobbtilbud. Sende inn en klage til kundeservice. Informe oss om et lån eller annet bankprodukt. Bestille fly- eller hotellbillett. Nyhetene, informasjonen og reklamene du ser når du går inn i sosiale medier … Algoritmer står bak uendelige daglige oppgaver og i flere sektorer enn vi forestiller oss, noe som fører til et fenomen kjent som algoritmisk bias.

De er de stille mekanismene som mer og mer beveger verden uten at vi nesten ikke merker det. Og det mest slående av alt er at de lærer å bli stadig mer effektive med dataene vi gir dem. De tilpasser seg hele tiden til mennesket – de som er kodet som «brukere» – og prøver å tilby en stadig mer personlig, rask og tilfredsstillende opplevelse slik at innsatsen blir minimal.

Tentaklene dens når datingapplikasjoner, der den til og med kan betinge vårt valg av partner ved å presentere oss for en rekke svært spesifikke kandidater som visstnok er basert på våre preferanser. Dette inntoget i den digitale verden er slik at algoritmisk bias til og med antas å påvirke våre politiske beslutninger …

Hva er algoritmisk bias?

Algoritmer kan gjøre livene våre enklere. Hvis du for eksempel er en naturelsker og forsvarer av miljøet, er det svært sannsynlig at du vil finne mer og mer informasjon relatert til dette emnet på sosiale medier. Dette er ikke nødvendigvis en dårlig ting, selvfølgelig. Men ting endrer seg når bekymringene dine ikke er helt sunne.

La oss ikke glemme den forferdelige saken om Molly Russell. Denne tenåringen lette etter emner knyttet til selvmord, og det kom en tid da alt hennes sosiale nettverk viste henne var innhold relatert til det temaet. Nesten uten å være klar over det kan vi forbli fanget i en informasjonsboble der andre trender og variert innhold ikke lenger kommer inn.

Algoritmisk bias refererer til vår falske følelse av kontroll over informasjonen vi mottar og avgjørelsene vi tar fordi det er en forstyrrende kode som siver inn i hverdagen vår, og kontinuerlig tilbyr oss data som nesten aldri er upartiske. Men la oss huske, det er nesten alltid skjulte interesser.

Du bestemmer ikke; algoritmen bestemmer for deg

Det er et fenomen som vi ser stadig oftere i normaliseringen av kunstig intelligens. KI gir oss en falsk kontroll- og mestringsfølelse. Den følelsen vil øke mye mer når bruken av ChatGPT normaliseres for å hjelpe oss i våre avhandlinger, akademiske arbeider og endeløse daglige oppgaver.

Vi vil føle oss mer effektive, men i virkeligheten vil det være den chatboten som vil utføre oppgavene som gjelder oss. Dette er ikke alltid negativt, men det øker den nevnte algoritmiske biasen. Det vil si oppfatningen om at vi bestemmer og handler uten innblanding når dette ikke er tilfelle.

Algoritmer er ikke rettferdige

Cathy O’Neil er en matematiker som skrev en veldig populær bok med tittelen Weapons of Mathematical Destruction (2016). I denne artikkelen beskrev hun algoritmer som «masseødeleggelsesvåpen». For det første er disse beregningsverdiene ikke fritatt for moralske og kulturelle biaser, for ikke å snakke om interessene bak dem.

I boken snakker hun om tilfellet der en lærer ble sparket som følge av en negativ evaluering av henne utført av en algoritme. Data fra personlige meldinger, medisinske rapporter og mer ble analysert i denne evalueringen. Det samme skjer ved vurdering av tildeling av lån eller bistand. Enkelte etniske grupper vil for eksempel alltid være dårligere stilt.

De fleste bedrifter og organisasjoner validerer imidlertid disse raske analysene. Algoritmebias får dem til å konkludere med at det en algoritme analyserer alltid vil være gyldig, selv om det ikke er rettferdig, og ofte blir disse dataene ikke engang innsamlet personlig.

Algokrati: algoritmer i politikkens tjeneste

Vi sier ofte at politikere er langt unna folkets reelle problemer. Vi stiller spørsmål ved deres ideer fordi de ikke oppfyller behovene til sine medborgere. En annen kritikk er deres overdrevne utgifter til rådgivere, dårlig ledelse og til og med deres feil når de tar beslutninger og lover.

Nylig fortalte en undersøkelse publisert av konsulentselskapet Deloitte oss om noe veldig slående. Det kan være en fremtid der algoritmer og kunstig intelligens tar over en god del av politikernes oppgaver. De kan ganske enkelt analysere dataene som store teknologiselskaper samler inn om oss med mobiltelefonene våre. På denne måten vil de vite behovene våre for å gi mer passende sosiale svar.

På samme måte kan kunstig intelligens trenes opp slik at politisk ledelse ikke er uredelig. Dens analytiske kapasitet ville erstatte et mangfold av rådgivere og ville spare uendelig mye arbeid for offentlige organer. Algokrati, forstått som kraften til algoritmer for å erstatte politikernes arbeid, kan virke mest dystopisk for oss, men det er en reell mulighet.

Universitetet i Utrecht gjennomførte en studie som viste at det kan være fordelaktig å la algoritmer erstatte alle de byråkratiske aspektene ved statlige organisasjoner. Grunnen? Innbyggerne har en tendens til å ha større tillit til ledelsen som en maskin kan utføre enn til den som utføres av en politiker (en annen åpenbar bias).

Konklusjon

Algoritmisk bias er kommet for å bli, og den blir bare sterkere. Vi vil fortsette å tro at mange av kjøpene vi gjør, menneskene legger merke til på sosiale nettverk, eller ideene vi anser som sanne, er et produkt av vår vilje. Vi vil fortsette å oppfatte oss selv som å ha frie sinn, når vi i realiteten stille vil bli mer og mer betinget.

Dette ser vi spesielt hos unge mennesker som blir stadig mer ulykkelige fordi de lever i et digitalt univers basert på sosial sammenligning. Vi må forstå at algoritmer ikke er enheter som oppstår av seg selv. Snarere er det store selskaper bak dem som programmerer dem. Og slik programmering har alltid et mål.

Hvis vi er på vei mot en fremtid der mennesker og kunstig intelligens jobber sammen, trenger vi at de som trener og programmerer KI er transparente og tar utgangspunkt i mer etiske, rettferdige, moralske og sunne verdier. Vi må regulere disse mekanismene, som i økende grad endrer atferden til brukerne. Det vil si hver og en av oss.