Publisert: 07.02.2019
«Bevæpning av kunstig intelligens reiser en rekke bekymringer […] – og kan trigge et nytt våpenkappløp,» sa Guterres. Han oppfordret til økt innsats og henviste til pågående arbeid med FN-konvensjonen om inhumane våpen, der et forbud mot fullt autonome våpensystemer kan utarbeides.
Presedens for forbud
FN-konvensjonen om inhumane våpen (CCW) trådte i kraft i 1983 som et tillegg til Genèvekonvensjonene. Konvensjonen er en internasjonal nedrustningsavtale og består av fem protokoller. Protokoll I gjelder splintbomber som ikke kan oppdages ved røntgen. Protokoll II regulerer bruken av landminer (protokollen virker parallelt med Ottawakonvensjonen, som forbyr bruk av landminer.) Protokoll III gjelder brannvåpen, protokoll IV blindende laservåpen og protokoll V opprydding av eksplosive fragmenter etter krigshandlinger. 103 stater har ratifisert konvensjonen.
De ratifiserende statene anerkjente tidlig at folkeretten kunne forsterkes i møte med ny teknologi. Da spesialrapportør Christof Heyns i 2013 advarte FNs menneskerettighetsråd om utviklingen av autonome, ble derfor CCW det naturlige stedet å starte samtalen. Fra 2014 til 2016 ble det holdt uformelle samtaler i Genève. Det banet vei for den formelle prosessen som ble innledet i 2017, der tekniske løsninger kunne forhandles fram. Til nå har to tekniske løsninger blitt lagt på bordet: et forslag om forbud, fremmet av Østerrike, Brasil og Chile, og et forslag om å forhandle fram en politisk erklæring, fremmet av Tyskland og Frankrike. Det siste forslaget er svakere, men har fått tilslutning fra flere europeiske stater og kan betraktes som et kompromiss mellom statene som ikke har ønsket regulering, og de til nå 28 statene som har ønsket et forbud.
Konsensusstyrt arbeid
Hvert år holder CCW-landene sitt årlige statspartsmøte, der de legger framdriftsplanen for neste år. I november så vi USA, Israel, Sør-Korea, Australia og Russland blokkere forslag om både forbud og politisk erklæring. For første gang ble det satt av mindre møtetid til 2019. Et fattig resultat, som belyser svakheten i CCWs beslutningsprosess.
Norges Fredslag er medlem av den internasjonale Campaign to Stop Killer Robots, der anerkjente nedrustningsaktører som Human Rights Watch, Artikkel 36, Mines Action Canada, Pugwash, PAX og Amnesty International, for å nevne noen, kjemper for å forby fullt autonome våpensystemer.
Vurderer andre arenaer
«I år vil nok stater som ønsker et forbud, vurdere andre arenaer for denne FN-prosessen, slik vi så med landmine- og klasevåpenprosessen.» Det sa Mary Wareham, leder av Campaign to Stop Killer Robots, før jul. Stater som ikke har konkludert på sin politikk, bør derfor bruke møterekken i 2019 godt.
Norge har lenge stått på sidelinjen i denne FN-prosessen. I juni 2018 sendte derfor Knut Arild Hareide (KRF) et skriftlig spørsmål til utenriksminister Ine Marie Eriksen Søreide: «Hva gjør Regjeringen for å bidra til å utvikle nye politiske og juridiske reguleringer for å sikre meningsfull menneskelig kontroll over denne type våpen?» Utenriksministeren svarte at Norge nå «vil ta en aktiv rolle i diskusjonen om fullt ut autonome våpen, både i og utenfor CCW, for å sikre at grunnleggende prinsipper om menneskelig kontroll og etterlevelse av humanitærrettens bestemmelser legges til grunn». Men i august 2018, under årets andre formelle samling, meddelte den norske delegasjonen at de fremdeles ikke hadde mandat til å konkludere på politikk. Dette til tross for at delegasjonen så økende enighet blant CCW-landene om behovet for å beholde meningsfull menneskelig kontroll over våpensystemers kritiske funksjoner.
Frykter stormaktsrivalisering
Oberst Gjert Lage Dyndal, nestleder for SAC (Strategic Analysis Capability), er enig i at Norge har stått for lenge på sidelinjen. Dyndal jobber med analyse av teknologi som vil påvirke NATO og frykter stormaktrivalisering om autonome våpen: «Som småstat bør vi være opptatt av internasjonal regulering av noe som kan påvirke oss i så stor grad som autonome våpen,» sier Dyndal til Ny Tid.
André Pettersen, forskningssjef ved Forsvarets forskningsinstitutt, speilet Dyndals bekymring i P2s Verdibørsen 2. januar: «Det vil være vanskelig for Forsvaret å si at ‘nei, vi skal ikke kan ha noe av disse systemene uten at alle andre sier det også’ […], så her gjelder det at de som er ordentlig inne i dette, diskuterer hvor grensene går, setter dem og får flest mulig til å være med på dem. Og de grensene må da diskuteres frem i forhold til humanitærrett.»
Autonome våpen
Et fullt autonomt våpen er et ubemannet våpen, styrt av en maskin med kunstig intelligens, som identifiserer og angriper levende og statiske mål uten menneskelig innblanding. Autonome våpen har derfor fått tilnavnet drapsroboter. Betegnelsen understreker behovet for å beholde såkalt meningsfull menneskelig kontroll over våpensystemets kritiske funksjoner.• I ny Ipsos-undersøkelse bestilt av Campaign to Stop Killer Robots svarer 3 av 5 (61 prosent) at de er imot bruk av autonome våpensystemer.
• 6 land deltok i undersøkelsen, deriblant Tyskland, Frankrike, Storbritannia, Russland, Kina og Sverige. Sterkest var motstanden i Tyrkia, Sør-Korea og Ungarn.
• Blant opponentene mener 66 prosent at man med bruk av autonome våpensystemer krysser en moralsk grense. 54 prosent er imot bruk av autonome våpensystemer på grunn av uansvarliggjøringen denne innebærer.
Det haster
På lik linje med Guterres sier nå Den internasjonale Røde Kors-komiteen at det haster med å sette grenser for autonomi i våpensystemer. Det har også 22 000 robotforskere og utviklere av kunstig intelligens skrevet under på i et åpent brev som ble publisert 28. juli i fjor. I fjor så vi også det store Google-oppropet, som resulterte i at Google trakk seg ut av Project Maven – Pentagon-kontrakten som skulle utstyre droner med kunstig intelligens. I etterkant la Google fram et nytt etisk rammeverk, med prinsipper mot utvikling av teknologier som strider mot internasjonal humanitærrett.
I Oljefondets etikkråd følger etikkrådets leder Johan H. Andresen og medlem Cecilie Hellestveit utviklingen nøye. Andresen uttrykte allerede i 2014 sin bekymring for at det vil kunne dukke opp selskaper i fondets portefølje som er delaktige i utviklingen.
Burde bli Norges store sak
Kontroll over fullt autonome våpen burde bli Norges store sak i det internasjonale arbeidet med våpenkontroll i årene som kommer. Vår utenrikspolitikk kan ikke formes i et vakuum. Som NATO-medlem ligger vi i et spenningsfelt mellom USA og Russland, og derfor er internasjonale institusjoner og folkeretten vår første forsvarslinje. Vi trenger stabilitet. Norge har ved flere anledninger stått fram som en selvstendig og stolt pådriver for nedrustning, eksempelvis i arbeidet med å forby antipersonell-miner og klaseammunisjon. Arbeidet har gitt Norge oppmerksomhet som fredsnasjon og en posisjon vi drar nytte av. Slik er kampen for idealene en typisk småstatsinteresse. I en tid preget av økende mellomstatlig mistenksomhet har særlig Norge mye å tjene på å være aktiv i en prosess som denne.
Les også: Den misbrukte resolusjonen og norsk flauhet
Les også: Når kommer Norge på banen?
