Matteødeleggelsesvåpen

I sin urovekkende fortelling om kommende datamodellering viser dataforsker Cathy O’Neil hvordan tallene selv utvider gapet mellom dem som har og dem som ikke har.

Weapons of Math Destruction

Cathy O’Neil

Penguin Books Ltd

UK

De økonomiske forskjellene øker over hele verden. En av de betydeligste forskere på ulikhet, Thomas Piketty, ble verdensberømt for sin bok Kapitalen i det 21. århundre. Takket være ham vet vi nå helt sikkert at skjevfordelingen vokser. Ifølge Piketty skyldes dette en markedsøkonomi basert på privat eiendom, som er til fordel for folk som eier kapital. Piketty skriver at «formue akkumulert i fortiden vokser raskere enn produksjon og lønninger. […] Entreprenøren tenderer uvegerlig mot å bli rentenist, og overskygger mer og mer disse som ikke eier annet enn sin arbeidskraft.» Eller, som han fastslår: «Fortiden fortærer fremtiden». Du er sannsynligvis kjent med dette synet grunnet all oppmerksomheten Piketty har fått de siste par årene. Men du er antakeligvismindre kjent med den svært annerledes oppfatningen av tingenes tilstand, som blir forklart i Weapons of Math Destruction.

Learning by doing, eller ikke. Boken er skrevet av tidligere matematikkprofessor og dataforsker Cathy O’Neil, og vil åpne øynene våre for skavankene ved big data-analyse. Det er tross alt menneskeskapte algoritmer som leverer varslingsmodellene big data benytter. O’Neil peker umiddelbart på forskjellen mellom Google – som har millioner på millioner av brukere som kan teste og forbedre datagigantens algoritmer – og for eksempel en datamodell for en enkelt skole i Washington DC med noen få tusen elever. Ifølge forfatteren har dette alvorlige konsekvenser. «Ved å love effektivitet og rettferdighet deformerer de høyere utdanning, driver opp gjeld, stimulerer til massefengslinger, mørbanker de fattige så å si når som helst og undergraver demokratiet.» Matematiske modeller forutsier sannsynligheten for at noen underyter, misligholder et studielån eller begår en forbrytelse. Av og til skaper modellen en selvoppfyllende profeti når den er feilaktig i utgangspunktet, og har vansker med å lære av sine feil om den går i en feedbackloop. I enkelte tilfeller forårsaker feilaktige modeller reelle ødeleggelser. «Skadevirkningene er mange. De viser seg når en enslig mor ikke kan sørge for barnepass hurtig nok til at det passer med jobb-timeplanen hennes, eller når et ungt menneske som sliter blir svartelistet fra en timejobb på grunn av en personlighetstest knyttet til arbeidsplassen. Vi ser dem når en fattig minoritetsgutt blir stoppet, banket opp og får en advarsel av det lokale politiet, eller når en som jobber på en bensinstasjon og bor i et fattig område rammes av høyere forsikringspremie,» ifølge O’Neil.

Algoritmene deformerer høyere utdanning, driver opp gjeld, stimulerer til massefengslinger.

Bevare konkurranse. Ulikheten ser her ut til å skape mer ulikhet i en uendelig nedadgående spiral, der den rike blir rikere og den fattige fattigere, akkurat som i Pikettys bok. Konsekvensene av økende ulikhet er store, skriver Piketty: «[F]or den langsiktige dynamikken i distribusjonen av rikdom er [konsekvensene] potensielt skremmende, særlig når en legger til at fortjenesten på kapital varierer direkte med størrelsen på den opprinnelige eierandelen, og at forskjellen i fordeling av rikdom skjer på et globalt nivå.» Han fortsetter: «Vekst kan selvsagt stimuleres ved investering i utdannelse, kunnskapsoppbygging og ikkeforurensende teknologi. Men ingen av disse tiltakene vil øke vekstraten til 4 eller 5 prosent i året.» Ifølge Piketty er en vekstrate på 4 eller 5 prosent nødvendig for å bedre økonomien for alle, og ikke bare for de rike. Men å nå dette vekstnivået er ikke lett. Piketty peker på at bare land som tar igjen mer avanserte økonomier, som Kina, har sett slike tall. Mer sannsynlig er en årlig vekst på 1 til 1,5 prosent i det lange løp, «uansett hvilken økonomisk politikk som føres». Så økonomisk vekst vil ikke hjelpe oss på lang sikt. Hva er det da som kan endre utviklingen? Piketty foreslår en progressiv årlig skatt på kapital. «Dette vil gjøre det mulig å unngå en endeløs ulikhetsspiral, samtidig som vi bevarer konkurransen og insentiver for nye tilfeller av primitiv akkumulering.»

Forutse misbruk. Når det gjelder datamodellene, er det også andre tiltak som kan settes i verk for å unngå en nedadgående ulikhetsspiral. Først av alt: Ikke alle big data-modeller er onder. For det andre: Big data er kommet for å bli. Med dette i bakhodet, hva kan vi gjøre for å hindre modellene i å løpe løpsk? Modeller må være transparente og vise dataene som er brukt, på samme måte som de viser resultatene av modellbruken. De må også revideres og forbedres når svakheter viser seg. Eller som O’Neil uttrykker det: «Dette er tross alt kraftige maskiner. Vi må holde øye med dem.» O’Neil går videre med å peke på at noen modeller kan ha en utrolig positiv innvirkning på samfunnet. Ett eksempel handler om en organisasjon som forebygger misbruk av barn i Florida, USA; modellen ble utarbeidet i 2013 i Floridas Hillsborough-fylke, etter at ni barn hadde dødd som følge av overgrep i området de to foregående år. Forskerne identifiserte flere indikatorer som lot til å forutsi misbruk. Det dreide seg om faktorer som stoffmisbruk og familievold, samboende mannlig kjæreste og forelder som selv hadde vært fosterbarn. Familiene denne modellen markerte ble tildelt ekstra ressurser, og de to neste årene var det ingen barn i risikoområdet som ble drept. Med disse forholdsreglene kan vi vokte datamodeller før de kommer ut av kontroll og det er for sent å gjøre noe med ulikhetene.

---
DEL