Kunstig idioti og naturlig intelligens

Den reelle faren med kunstig intelligens er at vi overgir oss til forstokkede byråkratmaskiner som ikke vet å bryte reglene.
Anders Dunker
Filosof. Fast litteraturkritiker i Ny Tid. Oversetter per august 2018
Email: andersdunker.contact@gmail.com
Publisert: 03.12.2018
Artifictional intelligence – Against Humanity’s surrender to Computers
Forfatter: Harry Collins
Polity Press, Storbritannia

Denne boken er åpenbart kritisk, og tittelen, Artifictional Intelligence, antyder hvor problemet ligger: Ved hjelp av science fiction og en selvbejublende IT-sektor griper troen på en allmektig kunstig intelligens om seg. I ly av denne ideologien om fremtidens muligheter smyger den kunstige intelligensen vi faktisk har – ufullkommen, feilbarlig og irriterende – seg inn på stadig flere samfunnsområder. Blendet av en relativ suksess er vi blitt altfor overbærende overfor svakhetene til snakkende roboter og digitale hjelpere.

En deterministisk hype

Tech-bransjens allianse med – og svakhet for – science fiction munner ofte ut i fantasier om robotenes overtakelse, som i praksis fungerer som en del av en deterministisk hype, om enn fortellingene er aldri så dystopiske, påpeker Collins. At tanker om at kunstig intelligens nærmest med nødvendighet vil «ta over verden», er blitt understøttet av autoriteter som Stephen Hawking, er urovekkende nok. At Elon Musk argumenterer for at vi bør koble hjernen på datasystemene for «ikke å bli gjort irrelevante» av maskinene – og at han selv utvikler denne teknologien – er verre. At Ray Kurzweil, forfatteren av The Singularity is Near, selve bibelen for dem som tror på kunstig superintelligens, også er sjefen for det mektige Google, er kanskje verst.

Slike eksempler til tross, hevder Collins, er troen på kunstig intelligens langt større blant filosofer, evolusjonsbiologer og den jevne allmennhet enn blant dem som virkelig kjenner feltet. Mangelen på spesialkunnskap gjør at vi stoler på eksperter med en blandet agenda, mens filmene venner oss til en tvilsom visjon av morgendagens verden.

Illojale, men nøytrale

Filmer som Her, der hovedpersonen forelsker seg i en talkbot for å bli sveket med 641 andre menn, eller Ex Machina, der en kjærlighetsrobot hevner seg på sin skaper, er interessante kulturelle symptomer, sier Collins – men den bakenforliggende patologien ligger i en manglende evne til å skille mellom simulasjon og realitet. Vi projiserer det menneskelige på maskinene og det maskinelle på mennesket, og visker dermed ut skillet. Datamaskiner er kanskje ikke lojale eller kjærlige, påpeker han nøkternt, men de er heller ikke onde eller manipulerende.

Collins’ argumenter bygger til dels på Heidegger-eleven Hubert Dreyfus fra UC Berkeley – og hans bok med den talende tittelen What Computers Can’t Do (1971) og oppfølgeren What Computers Still Can’t Do (1991). Her er argumentet at en kunstig intelligens trenger en kropp for å være i verden på en måte som gjør ordene meningsfulle – for eksempel ord som «godt» og «ondt». Når den kunstige intelligensen kommer til kort i forsøket på å passere som et menneske, er det på grunn av de delene av intelligensen som avhenger av kroppslig og språklig samkvem med andre – ikke bare kroppsspråk, men språklig kommunikasjonen som gir en finjustert følsomhet for tillit, uenighet, ironi og kreative regelbrudd.

Maskinenes blinde flekk

Språklæringen medfører altså en taus kunnskap som vi ikke uten videre kan gjøre eksplisitt og simulere i et program. Siden Dreyfus’ bøker kom ut, har det begynt å se ut som om selv sansen for ironi og humor kan læres ved å erfare tidligere regelbrudd og dobbeltmeninger, en erfaring som tilsynelatende kan oppnås gjennom stordata. Kroneksempelet på dette gjennombruddet er programmet Watson, som slår mennesker i spillet Jeopardy ved å tråle gjennom millioner av sider på nettet. Den kjenner igjen mønstre og forstår ordspill basert på tidligere tilfeller og sannsynlighetsbaserte analyser.

Mens menneskene forblir de samme, øker prosessorkapasiteten til maskinene eksponentielt, og de kan finne stadig mer avanserte mønstre i stadig større samlinger av data. Singulariteten er nær, bekrefter Kurzweil, og tilbakeviser alle forbehold med en poengtert provokasjon, som Collins ser som en nøkkel: «Hvis mønstergjenkjennelse ikke ‘teller’ som virkelig forståelse, har ikke mennesker forståelse heller.» Collins sier tvert imot: Det å kjenne igjen ting er bare en liten del av kunnskapen. Forståelsen vår oppstår ikke bare ved at vi gjenkjenner ting i verden, men også ved at vi tilegner oss endeløst mange måter å ordne verden på, måter som er kulturelt betinget, uendelig nyanserte og i stadig forandring.

Mangfoldige fortolkninger

Kunnskap oppstår gjennom et komplisert samspill av erfaring, språk og sosiale relasjoner. Som vitenskapssosiolog har Collins blitt en ekspert på selve fenomenet ekspertise. Ved å undersøke hvordan kunnskap blir utviklet, overprøvd og debattert i miljøer av spesialister, kan han også si noe om oddsene for den kunstige intelligensens gjennomslag.

Mens menneskene forblir de samme, øker prosessorkapasiteten til maskinene eksponentielt.

Collins har i en årrekke studert miljøet som forsker på gravitasjonsbølger, og har dermed også lært nok om fysikk til å delta i en meningsfull samtale om temaet. En slik fortrolighet med diskursen, innrømmer han, er en slags simulasjon som en datamaskin kanskje kunne oppnå. Å kunne prate om et tema er imidlertid ikke nok til å gi ham autoritet til å motsi forskerne: Han kan ikke ta stilling til om et kontroversielt utsagn er en avansert spøk, et genialt innspill eller beror på en dyp misforståelse. En forståelse som bygger på mønstergjenkjennelse, vil alltid være basert på den kunnskapen som allerede foreligger, men vitenskapen er basert på uenighet i en streben etter ny kunnskap. Dette krever virkelig ekspertise, forstått som dømmekraft.

Sunn skepsis

Den store faren med troen på kunstig intelligens er at vi misforstår hva naturlig intelligens er. At all kunnskap skulle bestå i analyse av foreliggende data, er et forflatet bilde av læring, og dypere sett av virkeligheten. Verden er ikke en ansamling av ferdige fakta, men kan sees på mange ulike måter som delvis er motstridende og delvis utfyller hverandre. Dette er det essensielle poenget i boken, som hos Collins delvis drukner i en lang rekke spissfindige argumenter. Likevel ligger bokens styrke nettopp i detaljfikseringen – i forfatterens vilje til å undersøke og utfordre den kunstige intelligensens tilkortkommenheter punkt for punkt i den vitenskapelige skeptisismens navn. En drøfting av konsekvensene av det han kaller «overgivelsen» til den kunstige intelligensen, går ut over bokens prosjekt. Likevel fremstår boken som et nøkternt forsvar for en truet humanisme i den deliriske posthumanismens tidsalder.

 

Gratis prøve
Kommentarer