Algoritmene er overalt

Dersom aktuelle trender i forretningslivet og forbrukerkulturen fortsetter, kan vi snart ha mye til felles med Kinas meritokratiske og kommunitaristiske tradisjoner, skriver Mark MacCarthy.

Mark MacCarthy
MacCarthy er ansatt ved Georgetown University, og seniorpresident for Public Policy at the Software and Information Industry Association (SIIA).

Rundt 1200 før vår tidsregning utviklet Shang-dynastiet i Kina et fabrikksysem for å lage tusenvis av store bronsebeholdere, til bruk i hverdagen og ved rituelle seremonier. I dette tidlige eksemplet på masseproduksjon krevde støpningen detaljert planlegging og koordinering av store grupper arbeidere, der hver gruppe utførte en separat oppgave i korrekt rekkefølge.

En liknende kompleks prosess lå bak den berømte hæren av terrakottakrigere som Qin Shi Huang, Kinas første keiser, avduket 1000 år senere. Ifølge Asian Art Museum i San Francisco «ble statuene skapt ved å bruke et monteringssystem som banet veien for fremskritt innenfor masseproduksjon og handel». Enkelte vitenskapsfolk har fundert på om disse tidlige formene for arbeidsveiledende teknologier spilte en viktig rolle i utformingen av det kinesiske samfunnet. Blant annet ser det ut til at de har predisponert folk til å akseptere byråkratiske strukturer, en sosialfilosofi med vekt på hierarki og en tro på at det er én eneste riktig måte å gjøre ting på.

Algoritmer

Da industrielle fabrikker ble introdusert i England i det 19. århundret, innså selv steile kritikere av kapitalismen, som Friedrich Engels, at masseproduksjon krevde en sentralisert autoritet, uansett om det økonomiske systemet var kapitalistisk eller sosialistisk. I det 20. hundreåret utvidet teoretikere som Langdon Winner denne tenkemåten til å omfatte andre teknologier. Han mente at atombomben, for eksempel, burde betraktes som en «dypt politisk gjenstand», fordi bombens «dødelige egenskaper fordrer at den blir kontrollert av en sentralisert, strengt hierarkisk kommandolinje».

Maskinlærende algoritmer er i strid med ønsket om privatliv.

I dag kan vi ta denne tankegangen enda et stykke lenger: Tenk på algoritmene som gjør det mulig for maskiner å lære – det er den viktigste teknologien som er i bruk i dag, til en rekke ulike formål. Ved å bruke eksempler fra virkelighetens verden for å herme etter menneskets kognitive evner, er disse algoritmene allerede overalt i arbeidslivet. Men for å få fullt utbytte av denne teknologien må organisasjoner omdefinere menneskelige oppgaver til oppgaver som kan forutses. Det passer bedre til det som er styrken til disse algoritmene.

En sentral egenskap ved maskinlærende algoritmer er at prestasjonene deres blir bedre med flere data. Som et resultat av dette skaper bruken av disse algoritmene et trykk i retning av å behandle informasjon om mennesker som registrerbare, tilgjengelige data. I likhet med masseproduksjonssystemet er de «iboende politiske», fordi kjernefunksjonaliteten deres krever visse sosiale praksiser, og motvirker andre. Særlig er det slik at maskinlærende algoritmer virker i direkte motstrid til individers ønske om privatliv.

Rangeringssamfunn

Et system basert på at informasjon om individuelle samfunnsmedlemmer skal være offentlig tilgjengelig, kan virke høvelig for kommunitarister som sosiologen Amitai Etzioni, som mener at begrensninger på privatlivet er et middel til å styrke sosiale normer. Men i motsetning til kommunitarister er algoritmer likegyldige til sosiale normer. Det eneste de bryr seg om, er å lage bedre forutsigelser ved å forvandle flere og flere områder av menneskelivet til datasett som kan utnyttes. Dessuten, mens styrken i et teknologisk imperativ forandrer vestlige individualister til tilfeldige kommunitarister, gjør den dem også mer tilbøyelige til å godta en meritokratisk kultur basert på algoritmiske vurderinger. Om det er på jobben, på skolen, eller endatil i datingapper, har vi allerede blitt vant til å bli vurdert av upersonlige verktøy, som så tildeler oss posisjoner i et hierarki.

I likhet med masseproduksjons-systemet er algoritmene «iboende politiske».

Algoritmisk vurdering er slett ikke noe nytt. For en generasjon siden advarte for eksempel professor Oscar H. Gandy om at vi var i ferd med å få et skårings- og rangeringssamfunn, og krevde mer ansvarlighet og muligheter for oppreisning etter feil som skyldtes teknologi. Men til forskjell fra moderne maskinlærende algoritmer, ble eldre vurderingsverktøy noenlunde forstått. De fattet beslutninger på grunnlag av relevante normative og empiriske faktorer. For eksempel var det ingen hemmelighet at å samle seg stor kredittkortgjeld kunne skade kredittverdigheten.

I motsetning til dette går den nye maskinlærende teknologien til bunns i store datamengder for å finne korrelasjoner som er forutsigbare, men dårlig forstått. I arbeidslivet kan algoritmer sjekke de ansattes samtaler, lunsjvaner og hvor mye tid de bruker ved datamaskinen, i telefonen eller på møter. Med disse dataene utvikler algoritmen sofistikerte produktivitetsmodeller som langt overgår vår fornuftsbaserte intuisjon. I et algoritmisk meritokrati vil det modellene etterspør bli den nye standarden for hva som anses som utmerket.

Kommunitarisme

Likevel: Teknologi er ikke skjebne. Vi former den før den former oss. Bedriftsledere og andre beslutningstakere kan utvikle og anvende den teknologien de ønsker, ut fra sine institusjonelle behov. Det står i vår makt å beskytte sensitive deler av privatlivet, verne folk mot skadelig bruk av data og sørge for at algoritmene balanserer nøyaktige forutsigelser mot andre verdier som rettferdighet, etterrettelighet og transparens.

Men dersom vi følger den naturlige retningen til algoritmisk logikk, vil et mer meritokratisk og kommunitaristisk samfunn være uunngåelig. Og denne jevne forvandlingen vil ha vidtrekkende implikasjoner for våre demokratiske institusjoner og politiske strukturer. Som Kina-ekspertene Daniel A. Bell og Zhang Weiwei har pekt på vil det viktigste politiske alternativet til vestlige liberaldemokratiske tradisjoner være de kommunitaristiske institusjonene som fortsetter å utvikle seg i Kina.

De kommunitaristiske institusjonene blir politiske alternativer.

I Kina legitimeres ikke kollektive beslutninger ved borgernes eksplisitte samtykke, og folk har gjennomgående færre håndhevede rettigheter i forholdet til regjeringen – særlig når det gjelder overvåking. En vanlig kinesers rolle i politikken er stort sett avgrenset til å delta i lokale valg. Landets ledere velges ut gjennom en meritokratisk prosess og ser på seg selv som garantister for folkets velferd.

Det er ikke sannsynlig at liberale demokratier endres fullt og helt til et slikt politisk system. Men dersom aktuelle trender i forretningslivet og forbrukerkulturen fortsetter, kan vi snart ha mer til felles med Kinas meritokratiske og kommunitaristiske tradisjoner enn med vår egen historie preget av individualisme og liberalt demokrati. Om vi ønsker å skifte kurs, må vi sette våre egne politiske imperativer foran de imperativene som gjelder for teknologien vår.

Oversatt til norsk av Lasse Takle.
Project Syndicate, 2016.
www.project-syndicate.org

DEL

Legg igjen et svar

Dette nettstedet bruker Akismet for å redusere spam. Lær om hvordan dine kommentar-data prosesseres.