Killer robots, ze zijn er nog niet maar ze komen er aan. Killer robots identificeren doelen en schakelen die uit zonder betekenisvolle tussenkomst van mensen. Dat is geen kwestie van decennia maar van jaren. Daarvoor waarschuwen 3.000 gezaghebbende wetenschappers op gebied van kunstmatige intelligentie, robotica en technologie in een open brief.
Killer robots vormen volgens deze wetenschappers de derde revolutie op gebied van wapentechnologie, na de uitvinding van het buskruit en het kernwapen. Er dreigt een nieuwe wapenrace waarbij killer robots zich zullen verspreiden als ‘de kalasjnikovs van morgen’.
Geen extra regelgeving nodig
Hoogtijd voor een verbod, nu het nog kan. Want, zo besefte ook de voormalige minister van Buitenlandse Zaken Timmermans, “het is altijd zo, in de hele militaire geschiedenis, dat de regelgeving achter de feiten aanloopt.” Verstandig dus dat de ministers Koenders en Hennis bijtijds advies vroegen aan de Adviesraad Internationale Vraagstukken (AIV) en de Commissie van Advies inzake Volkenrechtelijke Vraagstukken (CAVV).
Maar het deze week verschenen adviesrapport over autonome wapensystemen komt tot een opmerkelijke conclusie. Er is helemaal geen extra regelgeving nodig. En de Nederlandse krijgsmacht kan, nee moet zelfs, wil ze hoogwaardig blijven, killer robots aanschaffen. Waar gerenommeerde wetenschappers de alarmklok luiden, sust het adviesrapport de gemoederen. Zo’n vaart loopt het allemaal niet. Gelukkig komt het adviesrapport wel tot de conclusie dat inzet van autonome wapens altijd een betekenisvolle menselijke controle vereist.
De adviseurs schreven een doorwrocht rapport. Daarover kan geen twijfel bestaan. Maar zij volgden een logica die onvermijdelijk tot de conclusie leidt dat we ons over killer robots vooral niet druk hoeven te maken. Hoe werkt die logica? De adviseurs hanteren een definitie waarmee ze killer robots gemakkelijk naar het fantasierijk van de science fiction kunnen verbannen. Het lijkt wel of de adviseurs de problemen wegdefiniëren. Ze stellen daarna simpelweg vast dat een verbod onnodig en bovendien onmogelijk is. En het sluitstuk van de logica is de aanname dat autonome wapens altijd zullen worden ingezet op basis van weloverwogen besluiten die rekening houden met de context en het internationaal humanitair recht. Deze logica illustreert nou precies waarom de regelgeving in de hele militaire geschiedenis achter de feiten aanloopt.
Nieuwe doos van Pandora
Waar wringt het rapport? Het mist urgentiebesef. De adviseurs menen dat autonome wapens gewoonweg passen in dit tijdperk van verandering. De wetenschappers die zelf betrokken zijn bij de ontwikkeling van robots zien dat anders. De killer robots passen niet in het tijdperk van verandering maar zullen leiden tot een verandering van het tijdperk. Met killer robots openen we een nieuwe doos van Pandora. En eenmaal geopend zullen de autonome wapens zich razendsnel verspreiden. Het risico dat niet-statelijke partijen deze wapens in handen krijgen, is helaas niet denkbeeldig. Geen woord daarover in het adviesrapport.
Maar het rapport wringt misschien wel het meest door de toch wat gemankeerde ethische afweging. De adviseurs stellen dat een discussie “over de ethische aspecten van autonomie” hoogst noodzakelijk is maar dat de ontwikkeling van killer robots geen ethische vragen oproept omdat altijd nog sprake is van betekenisvolle menselijke controle.
Maar daarmee gaan de adviseurs wel heel snel voorbij aan de ethische implicaties van een vergaande delegatie van het besluit om te doden aan een machine. Terecht wijzen de diplomaten van de Heilige Stoel in het debat over autonome wapens naar de filosoof Levinas. Die spreekt over de fundamentele ervaring van de ontmoeting met het gelaat van de ander. Een ervaring die moreel bewustzijn en verantwoordelijkheid oproept. En die ervaring blijft ook in een oorlog essentieel.
Verdere dehumanisering
De inzet van killer robots leidt onvermijdelijk tot een verdere de-personificatie en dehumanisering van oorlogsvoering. Ja, die weg zijn we al heel lang geleden ingeslagen, maar de ontwikkeling van killer robots tilt de oorlogsvoering naar een ander en onomkeerbaar niveau.
De inzet van dodelijk militair geweld moet voldoen aan ethische normen en principes. De toepassing daarvan in specifieke contexten veronderstelt een vermogen tot interpretatie en appreciatie dat niet in algoritmes is te programmeren. Het veronderstelt prudentie, een deugd die eigen is aan mensen en niet aan machines.
Het gebrek aan urgentiebesef en ethische doordenking verzwakt de zeggingskracht van het rapport. De adviseurs stellen dat het noodzakelijk is om na vijf jaar hun advies opnieuw tegen het licht te houden. Ze onderkennen daarmee dat snelle technologische ontwikkelingen nieuwe en waarschijnlijk verstrekkende juridische, ethische en beleidsmatige vragen zullen oproepen. Juist dat inzicht zou meer bepalend hebben moeten zijn voor de inhoud van het nu uitgebrachte advies.
Nu bestaat er een reëel risico dat het advies er aan bijdraagt dat de regelgeving achter de feiten blijft aanlopen. Daarom valt te hopen dat minister Koenders zich laat leiden door het inzicht van zijn voorganger.
