Det er vi som er farlige, ikke maskinene

Artificial Intelligence – A Guide for Thinking Humans
Forfatter: Melanie Mitchell
Forlag: Pelican Books (Storbritannia)
KUNSTIG INTELLIGENS / En datamaskin kan slå deg i sjakk, men strever med å se forskjell på katter og hunder. Betyr det at den ikke er intelligent?

Eksperter på kunstig intelligens (KI) deler seg hovedsakelig i to leire: De som føler seg sikre på at maskiner vil passere mennesker i intelligens innen relativt kort tid og som frykter for hvilke konsekvenser dette vil få for menneskeheten, og de som føler seg sikre på at maskiner aldri kan bli mer intelligente enn oss og som derfor mener at det er lite å frykte.

Forfatter Melanie Mitchell tilhører definitivt den siste kategorien.

Mitchell er professor i informatikk ved universitetet i Portland og har arbeidet med analogisk tenkning, komplekse systemer, genetiske algoritmer og cellulære automater (matematisk modellering). Hun har flere bøker og utgivelser bak seg, blant annet An Introduction to Genetic Algorithms (1996). Hun hevder at selv om en maskin har klart å gjøre seg uslåelig i sjakk, duger den jo ikke til noe som helst annet.

Jeg synes hun virker for tilbakelent i sine synspunkter. Det er riktig at det som er lett å lære for mennesker, er vanskelig for maskiner, men det motsatte gjelder også. Det største problemet er derimot at maskiner og mennesker har problemer med å forstå hverandre. Det er vanskelig for oss å forstå hvorfor intelligente maskiner strever med noe som selv små barn makter så lett som ingenting – som for eksempel å skille mellom en hund og en katt på et bilde.

Vi mennesker har en tendens til å overvurdere maskinenes intelligens og til å undervurdere
vår egen.

Datamaskiner er lynraske til å lære seg reglene i forskjellige spill, men har store utfordringer med å forklare hvorfor de gjør som de gjør på en måte som vi kan forstå. Det er neppe forståelig for maskinen heller. Men når vi ser på hvor fort informatikken har utviklet seg, kan lite utelukkes i framtiden. Boken handler i altfor liten grad om sammensmeltingen mellom menneske og maskin.

Forklaringsproblem

Et menneske kan lett forklare hvorfor det valgte å gå en tur i parken framfor å vaske huset. Men hvordan skal en maskin kunne forklare hvorfor den valgte et spesifikt trekk på sjakkbrettet og ikke en av de trillioner andre mulighetene? Det kan den ikke. Den forstår heller ikke at den har vunnet, eller hva det betyr å «vinne». Heller ikke kan den glede seg over seieren. Vi kan derfor avfeie den som «uintelligent».

Men idioter kan være farligere enn smartinger. Så det at en maskin er dum, beviser ikke at den ikke kan bli farlig i framtiden.

«Jeg er livredd. Rett og slett livredd.» Douglas Hofstadter

Siden utviklingshastigheten har vært så enorm på dette området, er det selvsagt lett å tro at det innebærer maskinens raskt kommende maktovertagelse. Kanskje for lett. På 1980-tallet ble informatikeren og fysikeren Douglas Hofstadter spurt om han trodde en maskin noensinne kunne bli verdensmester i sjakk, noe han svarte tydelig nei på. Da han forsto hvor feil han hadde tatt, tok skrekken ham: I et møte med Googles ingeniører en gang på 2000-tallet sa Hofstadter: «Jeg er livredd. Rett og slett livredd.»

Eventyrlig utvikling

1970-tallets utvikling av ulike maskiners kompetanse beskriver Mitchell som et eventyr. Nå har eventyret blitt virkelig på en måte som få kunne forestille seg, og man kan beskrive dette som forholdet mellom det å fortelle et eventyr og det å selv være en del av eventyret. Å være en del av et eventyr er sikkert morsomt, inntil du skjønner at mennesket har rollen som Rødhette, mens maskinen er som ulven – og at eventyret faktisk har blitt til virkelighet.

Heimat Ahmadi, se www.libex.eu
Heimat Ahmadi, se www.libex.eu

På spørsmålet: «Hvor skremt bør vi være over KI-utviklingen?» svarer Mitchell: «Det er naturlig å bli skremt når vi ser på filmer og leser science-fiction-bøker om KI-utviklingen. Men dette er ren fiksjon.»

Men hun nevner også at vi fortsatt er langt unna å kunne oppnå tilstanden «generell kunstig intelligens» [systemer som kan trenes opp til nær sagt hva som helst, red.anm.], også kalt «The Alignment Challenge».

Mitchell er mer redd for at dumheten skal overta enn for selve intelligensen. Selv mener jeg at poenget ikke ligger der, men i hva fenomenet gjør med oss, for om vi kaller det dumhet eller intelligens, spiller liten rolle hvis fenomenet truer vår eksistens.

Hun svarer entydig: «In any rate of near term guesses about KI-superintelligence, winning over humans should be far down the list.»

La meg bare nevne at en ekspert som Ray Kurzweil mener noe helt annet. Kurzweil spådde for eksempel (i boken The Age of Intelligent Machines, 1990) at en datamaskin vil kunne slå et menneske i sjakk i framtiden, hvilket skjedde syv år senere da IBMs Deep Blue slo Kasparov, daværende verdensmester i sjakk.

Fake media

«Vi må være klar over de innebygde begrensningene i de nye systemene, hvis ikke ender vi opp med å overvurdere dem», skriver Mitchell. Selv om jeg synes Mitchell virker for ubekymret med tanke på hvor raskt maskiner kan utvikle seg og hvor fort vi kan miste kontrollen over dem, har hun mange gode poenger. Ett av hovedpoengene er at vi mennesker har en tendens til å overvurdere maskinenes intelligens og til å undervurdere vår egen – det er vi som er farlige, ikke maskinene. Først og fremst bør mennesket frykte sine egne muligheter, for den dagen maskinene virkelig blir farlige, kan det være for sent.

Hun uttrykker en viss bekymring over hvordan maskinene vil kunne bli brukt. Særlig frykter hun komplikasjonene ved vår bruk av maskiner innenfor det som kalles fake media: tekst, bilder, lyd og videoer som kan manipuleres på en måte som vanlige mennesker ikke er i stand til å gjennomskue.

Hun advarer også mot den uetiske bruken av algoritmer. Igjen; primært bør vi frykte oss selv, og ikke maskinene. Men problemet er vel at grensen mellom mennesker og maskiner er i ferd med å bli utvisket.

Abonnement kr 195 kvartal