Kunstig intelligens

Totalitært? På Partnerforum i Oslo hørte vi at Orwell tok feil.

Ill. Jetzig (Ny Tids tegner)
Truls Lie
Ansvarlig redaktør i Ny Tid.

For nå å identifisere barn som potensielle selvmordsbombere, arbeider forskere ved Federal University Lokoja i Nigeria med kunstig intelligens ved å gjøre maskiner selvlærende.

Velkommen til 2018 – året da AI, eller kunstig intelligens, overtar for «big data». La meg nevne noen eksempler: Donders Institute i Nederland har presentert et system som kan skanne hjernen din for enkelt å rekonstruere bilder av ansikter du har sett. Men de fleste av oss bruker allerede, mer eller mindre bevisst, kunstig intelligens via eksempelvis Apples Siri og Googles Gmail. Sistnevnte leser eposten din og foreslår gjerne svaralternativer. Google sporer også dine søk og sender deg relevante annonser. Og selskaper som Amazon og Netflix overvåker preferansene våre og foreslår passende kjøpsprodukter eller serier/filmer å se.

Totalitært? I Oslo på Partnerforum i desember poengterte Teknologirådets direktør Tore Tennøe – under en debatt om George Orwells bok 1984 – at Orwell tok feil med hensyn til hvor fremtidens totalitære samfunnssystem ville komme fra. Det er altså ikke Sovjet, men USA, nærmere bestemt hippienes San Francisco, som har skapt dagens nye overvåkning – vestkystens Facebook, Google og andre.

The Economist viser at årlige investeringer i kunstig intelligens har økt hele 26 ganger fra 2015 til 2017 – til nå over 180 milliarder kroner. Gigantene kjøper opp små, lovende startups, jamfør Googles overtakelse i 2014 av det lille engelske AI-selskapet Deepmind for 4 milliarder kroner. For ti år siden var ExxonMobil og General Electric verdens største selskaper – nå er det Google, Apple, Facebook og Microsoft som er de største.

Vi er mange som blir avhengige av Google.

Og Google? Vi er mange som blir avhengige av Googles søkemotor, mailsystem (Gmail), smarttelefon (deres Android), videonettsted (YouTube) og snart GooglePhotos (som skanner og grupperer ansikter), betalingssystem (GooglePay) – og kanskje en dag Googles (Alphabet) selvkjørende bil Waymo.

Tilbake til Partnerforum, kalt «Frokost med Bernt»: Professor Bernt Hagtvedt mener stadig – hvor ironisk er han egentlig? – at dagens studenter er tanketomme og åndelig late. Han påpekte at det totalitære Orwell beskrev, vel så mye endrer dine tankevaner, utover overvåkning og kontroll. Om ikke akkurat til at 2+2=5, slik som i romanen, men «big data» vil kombinert med AI gi styringsmuligheter som både kommersielle og politiske krefter vil ha sterk interesse av. For med ny overvåkningsteknologi følger også ny lovgivning. Som Datatilsynets Bjørn Erik Thon sa til publikum i salen: PST ønsker nå å samle data i enorme mengder for formodentlig å skulle kunne hindre kriminell aktivitet mens den planlegges. Ja, å flytte grensen for kriminalitet slik at selv det å tenke galt blir ulovlig, likner ikke så lite på hva Orwell forutså om fremtiden i 1949.

Men med økt overvåkning følger en nedkjølingseffekt: Folk blir redde for å uttale seg per telefon og epost. Ifølge Thon bekreftet statistiske undersøkelser denne effekten etter Snowden-avsløringene om USAs massive overvåkning av egen befolkning. I Europa strider fremdeles en slik utstrakt inngripen i privatlivet mot menneskerettighetene: Tanken er at dersom man føler seg konstant overvåket, går det ut over evnen til å tenke selvstendig. Det gir et demokratisk underskudd.

På Berkeley i San Francisco, under mine studier på 1990-tallet, var «nevrale nettverk» noe helt nytt innen kunstig intelligens. Forskere innen kognitive vitenskaper og filosofi prøvde å etterlikne menneskets måte å tenke på. Min filosofilærer – ingen hippie lenger, han kjørte i en Porsche – hadde en teori om maskinlæring basert på kinesiske rom og tegn, om mønstre og programmer som ble fulgt, men uten forståelse eller tekning.

Den gang tiltrakk konferansen med navn «Neural Information Processing Systems» seg noen hundre mennesker – i desember 2017 dukket det opp hele 8000 tilhørere, deriblant en rekke investorer og talentspeidere. Google sto bak konferansen som presenterte flere hundre undersøkelser.

Men i dag er prognosen i The Economist at kineserne vil ta over der hippiene startet. Kina investerer nemlig enormt innen kunstig intelligens – eksempelvis i selskaper som Alibaba og Baibu. I Kina jobber i dag dessuten to millioner mennesker med overvåkning, og rangerer offentlig  borgerne etter deres adferd både på nett og ute i offentligheten. Orwells perverterte overvåkingssamfunn er med andre ord for lengst en realitet.

Men vil vår menneskelige intelligens la seg styre av den kunstige? Dan Nixon i Bank of England dokumenterer i det minste at bruken av smart-
telefoner og nye sosiale medier fører til en distraksjon som nedsetter arbeidsevnen din med 10 prosent. Og med en gjennomsnittlig telefon- og nettsjekk hvert tredje minutt, skaper de konstante avbrytelsene en tilvenning til – eller faktisk et ønske om – å bli distrahert. Vi mister evnen til å holde fokus og å tenke klart.

«Maskinlæring» kan vel så mye gjelde oss mennesker.

---
DEL

Legg igjen et svar