Velkommen til algokrati: Magten ved algoritmisk bias

Algoritmisk bias refererer til den falske følelse af kontrol, som mennesker har over en del af de beslutninger, vi træffer. Læs mere her.

Skrevet og kontrolleret af psykolog Valeria Sabater.

Sidste ændring: 08 november, 2023

Søge efter et jobtilbud. Indgive en klage til kundeservice. Informere os om et lån eller et andet bankprodukt. Bestille en fly- eller hotelbillet. De nyheder, informationer og reklamer, som du ser, når du går ind på dine sociale medier… Algoritmer ligger bag uendeligt mange daglige opgaver og i flere sektorer, end vi forestiller os, hvilket fører til et fænomen kendt som algoritmisk bias.

Det er de stille mekanismer, der bevæger verden mere og mere, uden at vi næsten bemærker det. Og det mest slående af det hele er, at de lærer at blive mere effektive med de data, vi giver dem. De tilpasser sig konstant mennesket – dem, der er kodet som “brugere”. De forsøger at tilbyde en mere personlig, hurtig og tilfredsstillende oplevelse, så indsatsen er minimal.

Dens fangarme når datingapplikationer, hvor den endda kan formidle vores valg af partner ved at præsentere os for en række meget specifikke kandidater, der angiveligt er baseret på vores præferencer. Dette indtog i den digitale verden er så stort, at algoritmisk bias endda menes at påvirke vores politiske beslutninger.

Hvad er algoritmisk bias?

Algoritmer kan gøre vores liv lettere. Hvis du f.eks. elsker naturen og forsvarer miljøet, er det meget sandsynligt, at du vil finde flere og flere oplysninger om dette emne på dine sociale medier. Det er selvfølgelig ikke nødvendigvis en dårlig ting. Men tingene ændrer sig, når dine bekymringer ikke ligefrem er sunde.

Lad os ikke glemme det forfærdelige tilfælde med Molly Russell. Denne teenager ledte efter emner, der var forbundet med selvmord, og der kom et tidspunkt, hvor alt, hvad hendes sociale netværk viste hende, var indhold relateret til dette tema. Næsten uden at opdage det kan vi forblive fanget i en informationsboble, hvor andre tendenser og varieret indhold ikke længere finder vej ind.

Algoritmisk bias henviser til vores falske følelse af kontrol over den information, vi modtager, og de beslutninger, vi træffer. For der er en foruroligende kode, der siver ind i vores daglige liv og vedvarende tilbyder os data, der næsten aldrig er upartiske. Men lad os huske på, at der næsten altid er skjulte motiver.

Du bestemmer ikke; algoritmen bestemmer for dig

Der er et fænomen, som vi ser mere og mere hyppigt i normaliseringen af kunstig intelligens. AI giver os en falsk følelse af kontrol og self-efficacy. Den følelse vil stige meget mere, når brugen af ChatGPT normaliseres til at hjælpe os med vores specialer, akademiske arbejde og endeløse daglige opgaver.

Vi vil føle os mere effektive, men i virkeligheden vil det være chatbotten, der udfører de opgaver, der vedrører os. Det er ikke altid negativt, men det øger den førnævnte algoritmiske bias. Det vil sige opfattelsen af, at vi beslutter og handler uden indblanding, når det ikke er tilfældet.

Algoritmer er ikke retfærdige

Cathy O’Neil er matematiker og har skrevet en meget populær bog med titlen Weapons of Mathematical Destruction (2016). I den beskriver hun algoritmer som “masseødelæggelsesvåben”. For det første er disse beregningsværdier ikke fritaget for moralske og kulturelle fordomme. For ikke at nævne de interesser, der ligger bag dem.

I bogen fortæller hun om en lærer, der blev fyret som følge af en negativ evaluering af hende udført af en algoritme. Data fra personlige beskeder, lægeerklæringer og meget mere blev analyseret i denne evaluering. Det samme sker, når man vurderer tildelingen af bistand eller hjælp. Visse etniske grupper vil f.eks. altid være dårligere stillet.

De fleste virksomheder og organisationer validerer dog disse hurtige analyser. Algoritmisk bias får dem til at konkludere, at det, en algoritme analyserer, altid vil være gyldigt, selv om det ikke er retfærdigt, og ofte bliver disse data ikke engang indsamlet personligt.

Algokrati: Algoritmer i politikkens tjeneste

Vi siger ofte, at politikere er langt væk fra befolkningens virkelige problemer. Vi sætter spørgsmålstegn ved deres ideer, fordi de ikke opfylder deres medborgeres behov. En anden kritik er deres overdrevne udgifter til rådgivere, dårlig ledelse og endda deres fejl, når de træffer beslutninger og lovgiver.

For nylig fortalte en undersøgelse offentliggjort af konsulentfirmaet Deloitte os om noget meget slående. Der kan komme en fremtid, hvor algoritmer og kunstig intelligens overtager en stor del af politikernes opgaver.

De kan simpelthen analysere de data, som store teknologivirksomheder indsamler om os via vores mobiltelefoner. På den måde vil de kende vores behov og kunne give mere passende sociale svar.

På samme måde kan kunstig intelligens trænes, så politisk ledelse ikke er bedragerisk. Dens analytiske kapacitet ville erstatte et væld af rådgivere og ville spare offentlige instanser for uendeligt meget arbejde. Algokrati, forstået som algoritmernes evne til at erstatte politikernes arbejde, virker måske mest dystopisk for os, men det er en reel mulighed.

Universitetet i Utrecht gennemførte en undersøgelse, der viste, at det kunne være gavnligt at lade algoritmer erstatte alle de bureaukratiske aspekter af regeringsorganisationer. Hvad er årsagen? Borgerne har en tendens til at have større tillid til den forvaltning, som en maskine kan udføre, end til den, der udføres af en politiker (endnu en åbenlys bias).

Konklusion om algoritmisk bias

Algoritmisk bias er kommet for at blive, og den bliver kun stærkere. Vi vil fortsætte med at tro, at mange af de indkøb, vi foretager, de mennesker, vi følger på sociale netværk, eller de ideer, vi anser som sande, er et produkt af vores vilje. Vi vil fortsætte med at opfatte os selv som frie, mens vi i virkeligheden stille og roligt bliver mere og mere betingede.

Vi ser det især hos unge mennesker. De bliver mere og mere ulykkelige, fordi de lever i et digitalt univers, der er baseret på social sammenligning. Vi må forstå, at algoritmer ikke er enheder, der opstår af sig selv. Der er snarere store virksomheder bag dem, som programmerer dem. Og en sådan programmering har altid et mål.

Hvis vi går en fremtid i møde, hvor mennesker og kunstig intelligens arbejder sammen, har vi brug for, at de, der træner og programmerer AI, er gennemsigtige og tager udgangspunkt i mere etiske, retfærdige, moralske og sunde værdier. Vi skal regulere disse mekanismer, som i stigende grad ændrer brugernes adfærd. Det vil sige hver og en af os.