Intelligens i bullshitens tid

Vi får neppe oppleve kunstig intelligens i nær fremtid. Spørsmålet er hvordan vi kan få dumme maskiner til å tilrettelegge for menneskelig intelligens.

Kunstig intelligens har vært et yndet tema i populærkulturen, her i filmklassikeren Edward Saksehånd (1990). Men en tenkende og bevisst maskin ligger uoverskuelig langt frem i tid, sier filosofiprofessorene Ny Tid har snakket med.
Tori Aarseth
Aarseth er statsviter, og fast journalist i Ny Tid.

 

«Før snakket man om ‘fornuftens tidsalder’ og liknende. Vi lever dessverre i bullshitens tidsalder,» sier filosofiprofessor John Searle. Vi befinner oss på konferansen «Technology and the Human Future» i regi av Fritt Ord og The New York Review of Books. John Searle tar for seg hypen rundt kunstig intelligens – ideen om at bare maskiner kan regne fort nok, så vil de til slutt bli bevisste. Det er et velkjent tema innen science fiction-sjangeren, men kan det skje i virkeligheten? En hel fremvoksende industri med Google i spissen ser ut til å mene det. «Jeg holder foredrag for Google-ansatte og andre i bransjen av og til, og forteller dem at de snakker tull,» sier Searle til Ny Tid.

Luciano Floridi er professor i filosofi og informasjonsetikk ved Oxford University, hvor han også leder Oxford Internet Institute.
Luciano Floridi er professor i filosofi og informasjonsetikk ved Oxford University, hvor han også leder Oxford Internet Institute.

Semantikk er mer enn syntaks. Searle er kjent for argumentet om det kinesiske rommet, som tilbakeviser tanken om det han kaller «sterk» kunstig intelligens, altså at man kan bygge et menneskeliknende sinn. Argumentet går som følger: Sett at du satt i et rom og fikk matet inn kinesiske symboler. Der inne finnes et bibliotek som forteller deg hva du skal gjøre når du får bestemte symboler inn. Du leter opp de riktige svarene, og mater dem ut igjen, men du forstår likevel ikke et kløyva ord kinesisk. Searle forklarer: «Et dataprogram stokker bare symboler. Det manipulerer tegn etter mønster av en syntaks. Menneskelig kognisjon har noe mer enn en syntaks, den har semantikk. Syntaks er ikke tilstrekkelig for semantikk, for forståelse, og derfor er dataprogrammet ikke et sinn

Den såkalte Turing-testen, lansert av Alan Turing i 1950, er en mye brukt målestokk på maskinintelligens. Testen går ut på at en dommer kommuniserer med et menneske og en maskin ved hjelp av et tastatur. Hvis dommeren ikke klarer å skille hvem som er hvem, har maskinen bestått testen. Turing spådde at testen ville være bestått innen år 2000, men hittil er det ingen maskiner som har kommet i nærheten. Filosofiprofessor Luciano Floridi, som ofte har vært dommer i slike tester, gir oss en idé om hvorfor: «Hvis du stiller spørsmål som ‘Hva kan du gjøre med et par sko?’ i stedet for spørsmål av typen ‘Hva er hovedstaden i Frankrike?’, så får maskinen problemer. Et menneske vil si: ‘Jeg vet ikke jeg, du kan jo bruke skoen til å holde åpen en dør eller du kan spikre noe på veggen.’ Maskinen vil si ‘Jeg er ikke et leksikon.’»

John Searle er professor emeritus i filosofi ved University of California, Berkeley.
John Searle er professor emeritus i filosofi ved University of California, Berkeley.

Maskinenes ontologi. Searle finner også frem til en dypere forskjell på menneske og maskin ved hjelp av ontologien – altså det som dreier seg om det værendes vesen. «Hvis du ser på de viktigste begrepene innen kognitiv vitenskap, uttrykk som persepsjon, hukommelse, slutning, rasjonalitet, og selv informasjon og kalkulasjon, så er alle systematisk tvetydige. De kan ha en betydning som er observatøruavhengig og en betydning som er observatørrelativ. Informasjonen på en datamaskin er observatørrelativ, den må tolkes av mennesker,» sier Searle. Derfor kan man ikke snakke om at en datamaskin har informasjon i en uavhengig forstand. Til det kreves noe en datamaskin ikke har, nemlig bevissthet.

«Jeg kan si at datamaskinen min har bedre hukommelse enn tidligere datamaskiner, men det betyr ikke at den går gjennom en proustiansk opplevelse av å erindre sine unge dager som en boks i en kinesisk fabrikk,» utdyper Searle. Han fortsetter: «Det jeg prøver å formidle, er at intelligensen i intelligente maskiner er absolutt null. Det å tenke at en datamaskins enorme regnekraft gir den psykologisk relevans, er en feilslutning.» Både Searle og Floridi er enige om at det teoretisk sett ikke finnes noen hindring for at vi en vakker dag skal klare å bygge en tenkende og bevisst maskin, men for å få det til må vi først forstå hvordan vår egen hjerne skaper bevissthet. Det er vi fremdeles langt unna å oppnå.

Infosfærens arkitektur. «Det er nettopp fordi datamaskiner ikke er intelligente, fordi de er dumme, at jeg er bekymret,» sier Floridi til Ny Tid. Mange av oss har en tendens til å tenke på datamaskiner og nettverk som et annet sted, noe uhåndgripelig. For Floridi utgjør summen av teknologien vi omgir oss med en ny arkitektur som vil forme oss på veldig konkrete måter. «Denne nye infosfæren handler ikke bare om kommunikasjon eller penger, den handler om det nye levemiljøet vi kommer til å tilbringe mesteparten av våre liv i. Allerede i dag blir det meste av vår bevisste tid brukt på det som skjer på nettet. Vi må begynne å tenke strategisk rundt hvordan vi designer alt dette som et miljø hvor vi tilbringer veldig mye tid,» sier Floridi.

Noe av problemet i dag, slik Floridi ser det, er at utviklingen er preget av ubetenksomhet og ad hoc-beslutninger. Datamaskiner er gode på det de er laget for å gjøre. De kan altså være smarte, men de er ikke intelligente. For at smarte roboter skal kunne fungere, må vi tilrettelegge miljøet rundt dem for å sørge for at de kan utføre oppgavene de er ment for. Vi er det grensesnittet som gjør roboten vellykket, for eksempel når vi skanner varene i kassa på butikken. Når vi slik tilpasser miljøet rundt oss til å bli robotvennlig, er det fort gjort at det ikke blir tilsvarende menneskevennlig. For Floridi er det essensielt at dumme datamaskiner må brukes for å tilrettelegge for menneskelig intelligens – ikke motsatt.

«Jeg kan si at datamaskinen min har bedre hukommelse enn tidligere datamaskiner, men det betyr ikke at den går gjennom en proustiansk opplevelse av å erindre sine unge dager som en boks i en kinesisk fabrikk.»

Teknologi og klasseskiller. Det finnes flere grelle eksempler på at iveren etter å implementere smart teknologi har gjort livet vanskeligere for folk, og i noen tilfeller også forsterket eksisterende klasseskiller. Floridi forteller om en by hvor det ble besluttet at parkeringsplassen ved jernbanestasjonen kun skulle akseptere en betalingsløsning basert på kredittkort via smarttelefon. Dette skulle gjøre alt enklere, men endte opp med å skape store problemer for studenter og andre med lav inntekt som ikke hadde kredittkort. Eldre mennesker uten smarttelefon kunne heller ikke parkere der lenger. En annen by tok i bruk en mobil-app for å registrere hull i veiene, og dermed få oversikt over hvor det måtte asfalteres på nytt. Forutsigbart nok ble flest hull registrert i velstående områder med mange smarttelefoner, og byen endte opp med å styre ressursene i retning av å gjøre de gode veiene bedre, mens de dårligste veiene ble ignorert.

«Dette er eksempler som viser mangel på tydelig planlegging,» sier Floridi. «Plutselig trer det digitale skillet mellom de som er heldige nok til å være på den ene siden og de som ikke er det, tydelig frem. Dette er den svært konkrete verdenen vi lever i, og det er her politikken kan gjøre en forskjell». Ny Tid spør Floridi om han kan gi et eksempel på vellykket bruk av smart teknologi. «Jeg tenker for eksempel på tredje generasjons sykkeldelingsprogrammer,» sier han. «Først satte man bare sykler der i håp om at noen ville ta dem, betale, og levere dem tilbake. Nå kan du faktisk sjekke hvor det er sykler; du vet hvilken stasjon som har dem mens du sitter på toget. Med smart ressursbruk ser vi at folk plutselig begynner å sykle. Det er god trening, det blir færre biler, det er økonomisk og det gir grunnlag for en ny business. Si at man i neste generasjon kan bestille en sykkel på forhånd – da snakker vi om teknologi som forbedrer livene våre.»

Det siste poenget er kanskje punktet hvor Floridi mener det syndes mest når ny teknologi skal implementeres. For Floridi holder det ikke at en smart teknologi er gjennomførbar, den må også være økologisk bærekraftig og sosialt akseptabel, og ikke minst må den skape en ønskverdig situasjon for mennesket. «Hvis vi gjør dette riktig, vil det være et stort skritt fremover. Vi kunne virkelig håndtert miljøproblemer ved hjelp av smarte maskiner. Vi kunne funnet løsninger på ulikhet, helseproblemer og boligmangel. Teknologi kan være en utrolig kraft for det gode, eller det kan være en total katastrofe,» avslutter Floridi.

---
DEL