Killer robots: derde revolutie na uitvinding van buskruit en kernwapen

1845

Killer Robots, ze zijn er nog niet maar ze komen er aan. Killer robots identificeren doelen en schakelen die uit zonder betekenisvolle tussenkomst van mensen. Dat is geen kwestie van decennia maar van jaren. Daarvoor waarschuwen 3.000 gezaghebbende wetenschappers op gebied van kunstmatige intelligentie, robotica en technologie in een open brief.

Killer robots vormen volgens deze wetenschappers de derde revolutie op gebied van wapentechnologie, na de uitvinding van het buskruit en het kernwapen. Er dreigt een nieuwe wapenrace waarbij killer robots zich zullen verspreiden als “de kalasjnikovs van morgen.”

Hoogtijd voor een verbod, nu het nog kan. Want, zo besefte ook de voormalige minister van Buitenlandse Zaken Timmermans, “het is altijd zo, in de hele militaire geschiedenis, dat de regelgeving achter de feiten aanloopt.” Verstandig dus dat de ministers Koenders en Hennis bijtijds advies vroegen aan de AIV en de CAVV.

Maar het deze week verschenen adviesrapport over autonome wapensystemen komt tot een opmerkelijke conclusie. Er is helemaal geen extra regelgeving nodig. En de Nederlandse krijgsmacht kan, nee moet zelfs, wil ze hoogwaardig blijven, killer robots aanschaffen. Waar gerenommeerde wetenschappers de alarmklok luiden, sust het adviesrapport de gemoederen. Zo’n vaart loopt het allemaal niet. Gelukkig komt het adviesrapport wel tot de conclusie dat inzet van autonome wapens altijd een betekenisvolle menselijke controle vereist.

De adviseurs schreven een doorwrocht rapport. Daarover kan geen twijfel bestaan. Maar zij volgden een logica die onvermijdelijk tot de conclusie leidt dat we ons over killer robots vooral niet druk hoeven te maken. Hoe werkt die logica? De adviseurs hanteren een definitie waarmee ze killer robots gemakkelijk naar het fantasierijk van de science fiction kunnen verbannen. Het lijkt wel of de adviseurs de problemen wegdefiniëren. Ze stellen daarna simpelweg vast dat een verbod onnodig en bovendien onmogelijk is. En het sluitstuk van de logica is de aanname dat autonome wapens altijd zullen worden ingezet op basis van weloverwogen besluiten die rekening houden met de context en het internationaal humanitair recht. Deze logica illustreert nou precies waarom de regelgeving in de hele militaire geschiedenis achter de feiten aanloopt.

Waar wringt het rapport? Het mist urgentiebesef. De adviseurs menen dat autonome wapens gewoonweg passen in dit tijdperk van verandering. De wetenschappers die zelf betrokken zijn bij de ontwikkeling van robots zien dat anders. De killer robots passen niet in het tijdperk van verandering maar zullen leiden tot een verandering van het tijdperk. Met killer robots openen we een nieuwe doos van Pandora. En eenmaal geopend zullen de autonome wapens zich razend snel verspreiden. Het risico dat niet-statelijke partijen deze wapens in handen krijgen is helaas niet denkbeeldig. Geen woord daarover in het adviesrapport.

Maar het rapport wringt misschien wel het meest door de toch wat gemankeerde ethische afweging. De adviseurs stellen dat een discussie “over de ethische aspecten van autonomie” hoogst noodzakelijk is maar dat de ontwikkeling van killer robots geen ethische vragen oproept omdat altijd nog sprake is van betekenisvolle menselijke controle.

Maar daarmee gaan de adviseurs wel heel snel voorbij aan de ethische implicaties van een vergaande delegatie van het besluit om te doden aan een machine. Terecht wijzen de diplomaten van de Heilige Stoel in het debat over autonome wapens naar de filosoof Levinas. Die spreekt over de fundamentele ervaring van de ontmoeting met het gelaat van de ander. Een ervaring die moreel bewustzijn en verantwoordelijkheid oproept. En die ervaring blijft ook in een oorlog essentieel.

De inzet van killer robots leidt onvermijdelijk tot een verdere de-personificatie en dehumanisering van oorlogsvoering. Ja, die weg zijn we al heel lang geleden ingeslagen, maar de ontwikkeling van killer robots tilt de oorlogsvoering naar een ander en onomkeerbaar level.

De inzet van dodelijk militair geweld moet voldoen aan ethische normen en principes. De toepassing daarvan in specifieke contexten veronderstelt een vermogen tot interpretatie en appreciatie dat niet in algoritmes is te programmeren. Het veronderstelt prudentie, een deugd die eigen is aan mensen en niet aan machines.

Het gebrek aan urgentiebesef en ethische doordenking verzwakt de zeggingskracht van het rapport. De adviseurs stellen dat het noodzakelijk is om na vijf jaar hun advies opnieuw tegen het licht te houden. Ze onderkennen daarmee dat snelle technologische ontwikkelingen nieuwe en waarschijnlijk verstrekkende juridische, ethische en beleidsmatige vragen zullen oproepen. Juist dat inzicht zou meer bepalend hebben moeten zijn voor de inhoud van het nu uitgebrachte advies.

Nu bestaat er een reëel risico dat het advies er aan bijdraagt dat de regelgeving achter de feiten blijft aanlopen. Daarom valt te hopen dat Minister Koenders zich laat leiden door het inzicht van zijn voorganger.

Er is meer nodig dan een nieuwe wapenwedloop

imrs.php

De voorbereidingen voor de begroting 2016 zijn in volle gang. En het moge duidelijk zijn: defensie wil meer geld. Een bonte verzameling van columnisten, specialisten en analisten, van oud-ministers, oud-militairen en oud-vredesbewegers pleiten in een heus manifest voor de verkommerde krijgsmacht. De ondertekenaars – 37 mannen en één (!) vrouw – komen tot een in hun ogen onontkoombare conclusie: 1,5 miljard erbij anders lopen we gevaar. En zij krijgen mooi getimed bijval van de Adviesraad voor Internationale Vraagstukken: 3,5 miljard erbij “voor acute tekortkomingen van de krijgsmacht”. Iedereen lijkt het eens met elkaar te zijn. Nu alleen het geld nog.

Het besef dat er geinvesteerd moet worden in de krijgsmacht is nieuw noch revolutionair. Zo stelde ook PAX al in 2010 dat Nederland moet investeren in het voortzettingsvermogen van de krijgsmacht. In wapens en onderdelen die voor de bescherming van burgers essentieel zijn zoals gendarmerie die politietaken uitvoert, special forces, tactische transportcapaciteit en intelligence.

Toch overtuigt het manifest niet. En dat komt niet enkel doordat een aantal van de ondertekenaars politiek verantwoordelijk is geweest voor de bezuinigingen die zij nu vanuit hun leunstoel bekritiseren. In de kern komt het manifest hierop neer: “Het vermogen [om] met politieke middelen internationale veiligheid tot stand te brengen kan niet zonder een geloofwaardige militaire component.” In deze zin liggen echter enkele kwestieuze aannames besloten.

De eerste is dat er internationale consensus zou bestaan over een politieke strategie die essentieel is voor een effectieve inzet van de krijgsmacht. Maar die consensus ontbreekt. Er bestaan diepgaande meningsverschillen binnen de NAVO, EU en VN over de politieke benadering van zo’n beetje alle crises die in het manifest worden opgevoerd als argumenten voor verhoging van het defensiebudget.

De tweede aanname is dat er politieke bereidheid zou bestaan om de krijgsmacht daadwerkelijk in te zetten. Maar voor veel landen binnen de NAVO en de EU is militaire confrontatie nog altijd de slechts denkbare optie voor landen die economisch sterk met elkaar verweven zijn. Binnen NAVO zijn landen tot op het bot verdeeld over een militaire escalatie in reactie op Poetin. En ook de politieke bereidheid om de krijgsmacht in te zetten voor crisisbeheersing en de bescherming van burgers is tanende.

De derde aanname is dat de krijgsmacht effectief kan bijdragen aan het bezweren van conflicten die vrijwel altijd een complexe politieke oorzaak hebben. Er valt veel te zeggen over de militaire interventies in Irak, Afghanistan en Libie, maar niet dat deze een doorslaand succes waren. Door het ontbreken van politieke strategie hebben deze militaire interventies juist bijgedragen aan de huidige instabiliteit. Is meer geld voor defensie een effectief antwoord op de ideologie van ISIS, op de ‘groene mannetjes’ in Oekraine?

Het manifest gaat opzichtig enkele cruciale onderwerpen uit de weg. Geen woord over de politieke visie op veiligheid en defensie en over het profiel van de krijgsmacht. Het manifest spreekt over de vele bedreigingen die ons omringen maar zwijgt over de waarden en belangen die in het geding zijn en de basis moeten vormen voor buitenlandbeleid. Het blijft onduidelijk welke invulling het manifest geeft aan het Nederlandse belang dat moet worden verdedigd. Gaat het enkel om onze veiligheid en die van onze bondgenoten? Moeten onze economische belangen en onze welvaart verdedigd worden? Staat de collectieve en duurzame internationale veiligheid centraal? Willen wij bijdragen aan de internationale rechtsorde en de bescherming van mensenrechten?

Veelzeggend is verder dat het manifest vaag blijft over het profiel dat de krijgsmacht moet hebben. Willen de opstellers vasthouden aan een veelzijdig inzetbare krijgsmacht of is, mede gelet op de beperkte financiele ruimte, taakspecialisatie onvermijdelijk? PAX pleitte de afgelopen jaren voor de krijgsmacht als robuuste ‘beschermingsmacht’. Het manifest hint op een snelle inzetbaarheid en het expedionaire karakter van de krijgsmacht. Maar er wordt geen uitdrukkelijke keuze gemaakt voor een realistisch profiel voor de krijgsmacht.

Het manifest maakt evenmin duidelijk waar de krijgsmacht nu eigenlijk ingezet zou kunnen worden. Het manifest spreekt over een “reeks van risico’s voor de stabiliteit die alert en doelgericht moeten worden aangepakt.” Genoemd worden Rusland, Afrika, het Verre Oosten en de periferie van Europa. Maar vooral Rusland wordt opgevoerd als een acute dreiging.

Maar de opstellers willen toch niet suggereren dat Rusland een militair overwicht heeft tegenover een in alle opzichten superieure NAVO? De AIV stelt onomwonden dat “er geen directe bedreiging bestaat van (…) Europa als geheel”. Het manifest laat na om, in aansluiting op de Amerikaanse VN-ambassadeur Samantha Power, een lans te breken voor een grotere deelname van Nederland aan VN-missies. Misschien menen de opstellers net als de AIV dat “de oplossing van conflicten in de MENA (Midden-Oosten en Noort-Afrika)-regio vooral de verantwoordelijkheid is van de landen zelf.”

Het manifest wil meer geld maar het blijft onduidelijk welke politieke visie hieraan ten grondslag ligt, welk krijgsmachtprofiel de ondertekenaars voor ogen hebben, waar die krijgsmacht zou kunnen worden ingezet, waarvoor het extra geld gebruikt wordt. Het debat over de krijgsmacht wordt al lang te zeer bepaald door breed uitgemeten dreigingen en onsamenhangende besluiten over middelen en materieel. Het is jammer dat het manifest daaraan niet geheel weet te ontsnappen.

Een krijgsmacht die gespecialiseerd is als robuuste beschermingsmacht kan èn bijdragen aan de internationale rechtsorde èn aan de verdediging van eigen en bondgenootschappelijk grondgebied. Een krijgsmacht met dit profiel kan veel meer in VN-verband in Afrika worden ingezet voor de bescherming van burgers. Maar dan moeten er ook keuzes gemaakt worden. Materieel dat niet past bij een beschermingsmacht moet worden afgestoten. En ja, Nederland moet waar nodig ook investeren in het voortzettingsvermogen en materieel dat essentieel is voor de bescherming van burgers.

Maar vooral nodig is het vergroten van de inspanningen voor conflictpreventie en conflictoplossing. Nederland moet veel meer investeren in het versterken van diplomatie en bevorderen van politieke oplossingen. In de opbouw van responsieve overheden en de veerkracht van civiele samenlevingen. Want in een wereld vol hybride bedreigingen kan een nieuwe wapenwedloop niet ons eigenlijke en enige antwoord zijn – of we dat nu leuk vinden of niet.

[Ook gepubliceerd op oneworld.nl]