Ute av kontroll

Forstår vi egentlig de langvarige konsekvensene av staters nye satsing på autonome våpen og bruk av droner?
BLACKWING AEROVIRONMENT, INC.
Truls Lie
Ansvarlig redaktør i Ny Tid.
Email: truls@nytid.no
Publisert: 01.07.2019

Dronen som USA sist måned sendte inn i iransk territorium som ble skutt ned, brukes politisk av amerikanerne slik de ellers driver opp verdens militær-industrielle vanvidd. I skrivende stund har USA gjort verden til et farligere sted å være. De har nå lykkes med å provosere Iran til å starte anrikning av uran for atomvåpen. Vel, kloden kan i dag utslettes på 7–8 minutter. (Se også våre to artikler om Doomsday)

Men det er ikke dette som er mitt poeng med tittelen «Ute av kontroll». I et offentlig mentalt klima der man stadig skal føle seg krenket og indignert – massemedia bidrar psykologisk så godt de kan med slike følerier – leter man stadig fram fiender. Og med nok fiender eller «terrorister» rundt neste hjørne legitimerer dette bruken av utrolige 16 000 milliarder kroner årlig for å holde i gang militærindustrien. I et slikt klima utvikles også nye våpensystemer som ubemannede droner.

Spioner

Eksempelvis er tiden med fiendtlige spioner som nattestid svømmer i land fra ubåter, snart over. Dronene overtar. Den amerikanske marinen har utviklet Heterogeneous Collaborative Unmanned Systems (HCUS), der én eller flere droner («encapsulated payload») kommer fra ubåtene. Eller utsendte stimer av undervannsdroner som ligger og venter på ordre – for akustisk å identifisere fiendtlige krigsskip og ubåter.

Som The Economist nevner 22. juni, skal dronene – kanskje den neste over Iran – kunne slippe ned en rekke solcelledrevne sensorer, forkledd som steiner, som fra forskjellige posisjoner sender tilbake informasjon fra kamera og mikrofon, eller avlytter radiotrafikk og signaler i området.

Man antar også at droner kan lages som forsyner seg selv med drivstoff og våpen – for så å repetere aksjoner. Svermer av droner skal også kunne  samarbeide og tilpasse seg situasjoner – i kampen mellom maskin og menneske.

Vi kjenner allerede til hvordan ubemannede bevæpnede droner (for eksempel BlackWing) fra luften kan tilintetgjøre kjøretøyer, lokale våpenarsenaler, eller utpekte enkeltpersoner. Til forskjell fra levende spioner som kan tas til fange på fiendtlig territorium, er droner billige «forbruksartikler» det er vanskelig å spore avsenderen av.

Forbud. Både forskere, næringsliv og politikere har i det siste underskrevet en kampanje mot utvikling av dødelige autonome våpen – såkalte drapsroboter. Toby Walsh (professor, University of New South Wales), som besøkte universitetet OsloMet i juni, fortalte oss at 4500 aktive forskere innen kunstig intelligens og roboter har undertegnet – samt nesten 30 000 andre. Og Oslo Mets prorektor Morten Irgens fortalte at vi her i Norge allerede har 680 signaturer av akademikere, fra universitetsdirektører til forskere innen feltet. Håpet er at slik man fikk forbudt kjemiske våpen, landminer og klasebomber, vil forbud mot dødelige autonome våpen kunne være det neste.

«Maskiner med makt og eget skjønn til å ta menneskeliv er politisk
uakseptabelt, moralsk forkastelig og bør forbys gjennom internasjonal lov.»

For som FNs generalsekretær António Guterres påpeker, vil kunstig intelligens kunne trigge et nytt våpenkappløp – ute av kontroll: «Maskiner med makt og eget skjønn til å ta menneskeliv er politisk uakseptabelt, moralsk forkastelig og bør forbys gjennom internasjonal lov.» I FN har 28 land, deriblant Østerrike, Brasil og Chile, gått foran med å fremme et forbud – som typisk nok ble blokkert av blant annet USA, Israel og Russland.

Samtidig vil noen mene at maskiner som kriger effektivt, kan være bedre enn mennesker preget av aggresjon og frykt. Og hva om man laget algoritmer som forholdt seg til Genève-konvensjonen om inhumane våpen og andre lover, for at slik krigføring kunne forskåne sivile liv? Mer kontroll? Ja, hvorfor ikke la «killer robots» krige med hverandre? Eller kanskje heller la fiender utspille sine kriger på sjakkbrettet?

Men som seminaret konkluderte, er det ikke slik verdens ledere driver krigføring. Walsh håper likevel at Oslo igjen kunne gå foran – slik vi i 2007 startet kampanjen mot klasevåpen.

Google

Militæranalytikeren Cecilie Hellestveit var på OsloMet tvilende til om et forbud er så anvendbart, slik det var med klasevåpen. Hun er i Oljefondets etikkråd, engasjert i forbindelse med fondets investeringer og hvilke av disse innen det militærindustrielle komplekset Norge bør trekke seg ut av.

Nei, man kan jo ikke enkelt forby kunstig intelligens, så her trengs flere vurderinger. Og på mitt spørsmål til Walsh om han virkelig trodde at stater med militære maktinteresser ville lytte til et slikt forbud nedenfra, nevner han Googles ansatte som protesterte, med de sivile som forbilde. De fikk stoppet Googles Pentagon-prosjekt. Og kikker man etter, kan man også se at Google innførte «etikkregler» for kontroll med kunstig intelligens: Utover å tjene samfunnsgagnlige formål og retten til privatliv skal Google verken arbeide med våpen, «teknologier som gjør skade, eller bryter internasjonal lov og menneskerettigheter», eller «overvåkningsteknologi som bryter med internasjonale normer».

Aktivisme

Men hva når militærets nye våpen vil kunne rettes tilbake mot oss i framtiden – fra ikke-statlige aktører? Autonome våpen programmert til å utføre handlinger som ikke er reversible, vil jo en dag kunne havne i hendene på terrorister eller militante grupperinger utenfor kontroll. Hva som kommer fra myndigheter og militære, vil også være et middel som «slår tilbake».

For 25 år siden angrep IRA flyplassen Heathrow med bomber på tre forskjellige dager. Ingen døde, selv om flyplassen ble stengt for noen timer. Extinction Rebellion (XR) truet sist måned samme flyplass med å sende inn billige 1000-kroners droner for å hindre flytrafikken – der det daglig flyr 1300 fly med 220 000 passasjerer. Aksjonen var en protest mot bygging av en tredje rullebane. Vel, dagen før aksjonsdatoen 18. juni avblåste de aksjonen – men truer med at den kan komme igjen senere. Farlig? XR antydet at de bare skulle fly et par meter over bakken i femkilometerssonen …

Kan egentlig en flyplass verne seg mot slike sivilt ulydige aksjoner av tiltenkt sabotasje, som også kan føre til tap av uskyldige menneskeliv? I dag finnes imidlertid over 200 antidronesystemer for å kunne oppdage og spore slike. Det brukes avansert radio-jamming, elektronisk drone-kapring, eller oppspente nett – og til og med angripende fugl som hauk og ørn.

Og andre sivile aksjoner? Droner kan utstyres for mer uskyldig å spraye graffiti, men også til ildspåsettelser og med monterte håndvåpen. I Venezuela forsøkte noen å drepe presidenten med en slik. Og ifølge The Economist (15.6.) landet en aktivist en drone med radioaktivt materiale på den japanske statsministerens eiendom – uten at den ble oppdaget på et par uker.

De selstyrte autonome våpnene vil ta tid å utvikle – så vi har fremdeles noe tid før dette sprer seg. Om vi bryr oss om forbud.

God sommer!

Kommentarer