Woensdag 02/12/2020

Killerrobots

Wat met wapens die zelf beslissen over leven en dood?

Een helikopterdrone patrouilleert boven Libië (2011). Binnenkort wil het Amerikaanse leger zo ver zijn dat robotwapens standaard als verkenners voor militairen uittrekken.Beeld AFP

Een groot aantal landen komt deze week in Genève bijeen om te praten over een mogelijk verbod op robotwapens. Maar grootmachten zijn niet geneigd om hun streven naar militair voordeel door regels te laten beperken.

Volgens sommigen zijn onbemande, zelfstandig opererende wapens een groot gevaar voor de mensheid en moeten ze onmiddellijk worden verboden. Anderen roemen juist hun precisie, waardoor ze veel minder burgerslachtoffers maken. Deze week spreken delegaties uit een groot aantal landen bij de Verenigde Naties in Genève over de robotisering van oorlogvoering. De standpunten liggen mijlenver uiteen.

Meer dan honderd landen willen een tijdelijke stop op de verdere ontwikkeling van autonome wapens. Die tijd moet worden gebruikt om een verdrag op te stellen, zo schrijft Venezuela namens deze coalitie in aanloop naar de vergadering. Dat verdrag moet wapens verbieden die niet 'te allen tijde onder de directe controle en supervisie van mensen staan'. De landen die zulke afspraken bepleiten liggen vooral in Zuid-Amerika, Afrika en de armere delen van Azië. Zij kunnen zeker in eerste instantie vaak moeilijk meedoen in een wapenwedloop van autonome systemen.

Maar veel wetenschappers en directeurs van technologiebedrijven in rijkere landen trekken ook aan de bel. Zij vrezen een wapenwedloop die te vergelijken is met de bouw van steeds krachtiger kernwapens in de Koude Oorlog. Omdat er voor autonome wapens geen complexe grondstoffen zoals verrijkt uranium nodig zijn, zullen ze uiteindelijk ook in de handen vallen van een groot aantal dictators, krijgsheren en terroristen, zo is de vrees.

Vorige week zetten tientallen wetenschappers op het gebied van kunstmatige intelligentie de discussie nog eens aan. Ze riepen op tot een academische boycot van de Kaist-universiteit in Zuid-Korea, omdat die met wapenfabrikant Hanwha werkt aan de ontwikkeling van autonome wapens. Hanwha produceert nu al een kanon dat op de grens met Noord-Korea staat. Dat detecteert zelf indringers, en opent vervolgens op eigen initiatief het vuur. Kaist en Hanwha willen gewapende helikopters en onderzeeboten ontwikkelen die ook zelf op zoek gaan naar tegenstanders.

Te laat

Het lijkt erop dat de protesterende landen en wetenschappers al te laat zijn. De Verenigde Staten, Rusland, China, Groot-Brittannië en Israël lopen voorop in de ontwikkeling van autonome wapens en zien niets in een verbod.

Volgens Rusland proberen sceptici de klok terug te draaien. Wapens die zelf een doelwit uitzoeken en het vuur openen bestaan namelijk al. Maar deze zijn eerder voorbeelden van automatisering dan van autonoom opererende machines, aldus Moskou. Want mensen controleren uiteindelijk het apparaat. Zij besluiten tot inzet van het wapen, en schrijven software met criteria op basis waarvan het systeem eventueel tot de aanval overgaat.

Dat klopt ten dele, volgens de Adviesraad Internationale Vraagstukken (AIV), een onafhankelijk Nederlands adviesorgaan. Een autonoom wapen kiest doelen uit die voldoen aan voorgeprogrammeerde kenmerken, schreef de raad in 2015 in een rapport. Maar mensen kunnen daarna niet meer ingrijpen om de aanval terug te draaien.

Als voorbeeld noemt de AIV de Israëlische Harpij. Dat is een soort onbemand vliegtuigje met een explosieve lading dat zelfstandig op zoek gaat naar radargolven. Als het op die manier een vijandelijk radarstation lokaliseert, stort het zich daarop te pletter.

De tekst gaat verder onder de afbeelding

De Harpij, een door Israël ontwikkeld onbemand vliegtuigje voorzien van een explosieve lading. De Harpij spoort zelfstandig radargolven op en stort zich daarna op de vijandelijke radarinstallaties.Beeld EPA

Menselijk oog

Drie jaar geleden schatte de AIV in dat het gebruik van dergelijke autonome wapens beperkt zou blijven. Veel oorlogen vinden plaats in bewoond gebied en een militair is beter dan een robot in staat om guerrillastrijders en burgers uit elkaar te houden. Bij militaire missies in zwakke staten gaat het er volgens de AIV vaak om de steun van de bevolking te winnen. Daarvoor heb je mensen nodig, geen robots.

Maar de tijd waarin legers zich vooral bezighouden met opbouwmissies is voorbij. De Amerikaanse regering schreef eind vorig jaar in haar nationale veiligheidsstrategie dat de competitie tussen grootmachten terug is, met Rusland en China als de grote tegenstanders.

Het zijn dan ook deze landen die zich tot kunstmatige intelligentie wenden om een militair voordeel op elkaar te behalen. De Verenigde Staten zijn het meest open over de systemen waar zij aan werken. De Amerikanen vrezen bijvoorbeeld dat zij in de toekomst moeilijk kunnen optreden in de buurt van China en Rusland, omdat die landen beschikken over geavanceerde luchtafweerraketten en apparatuur om radioverbindingen te verstoren.

De Amerikanen werken daarom aan een concept van bemande vliegtuigen die op flinke afstand van de tegenstander blijven. De piloot heeft de leiding over een zwerm van onbemande vliegtuigjes. Die geeft hij een opdracht, zoals het binnendringen van vijandelijk gebied om luchtafweerraketten uit te schakelen. Als zij daar eenmaal zijn, communiceren ze onderling om hun opdracht uit te voeren. Het risico bestaat immers dat communicatie tussen de menselijke bevelhebber en autonome wapens niet meer mogelijk is in de zone waar de tegenstander radiocommunicatie verstoort.

Zelfstandigheid

Hierin zit dan ook het pijnpunt in het debat over robotwapens. Tegenstanders eisen dat mensen de controle houden over het wapen. Maar om effectief te zijn in de oorlog van de toekomst, moeten vele wapens tegelijkertijd en zo zelfstandig mogelijk kunnen werken. De mens houdt hooguit op afstand enig toezicht.

In de jaren dertig wil het Amerikaanse leger zo ver zijn dat gewapende robots standaard als verkenners voor militairen uittrekken. Die mensen moeten dan vooral nadenken over hoe de hele operatie het beste uit te voeren, en hebben geen tijd om op afstand de robot te besturen of te kiezen wanneer er wordt geschoten. Meer geavanceerde robots moeten ook zelfstandig diep achter de vijandelijke linies kunnen doordringen om belangrijke doelen uit te schakelen. Dit werk wordt nu nog vaak gedaan door menselijke commando's.

Autonome schepen zullen al eerder hun opwachting maken. De Amerikaanse marine test momenteel de Sea Hunter (Zeejager). Dit schip moet zelfstandig twee maanden op zee naar vijandelijke onderzeeboten kunnen zoeken. Het is de bedoeling dat het schip zich aan de maritieme verkeersregels houdt, zodat er geen ongelukken met vrachtverkeer gebeuren. Volgens de ontwerpers zal het schip in staat zijn tot 'autonome interactie met een intelligente tegenstander'. De Sea Hunter zal opgespoorde vijandige onderzeeboten dus zelf kunnen aanvallen.

Tekst gaat verder onder de afbeelding

Het schip Sea Hunter kan eventueel onbemand maandenlang zelf varen om vijandelijke onderzeeboten op te sporen en aan te vallen.Beeld DARPA

Hoewel de ontwikkeling van autonome wapens vooral draait om het behalen van een militair voordeel, benadrukken de voorstanders dat ze ook andere positieve effecten hebben. De VS en Rusland schrijven voor het debat in Genève allebei dat intelligentere wapens veel preciezer hun doelwit kiezen, waardoor het risico op burgerslachtoffers vermindert. Er zijn nu bijvoorbeeld artilleriegranaten die na te zijn afgeschoten aan een parachute boven het slagveld blijven hangen tot ze een bepaald type gevechtsvoertuig spotten en zich daarop kunnen storten. Zonder zo'n slimme granaat is er een heel salvo nodig om een voertuig uit te schakelen, met alle risico op nevenschade.

Ook verkenningsrobots die voor de troepen uit bewegen, kunnen volgens de Amerikanen oorlog humaner maken. Als een eenheid nu bijvoorbeeld een dorp intrekt en plots onder vuur komt te liggen, moeten de militairen flink om zich heen schieten om zich weer uit de hinderlaag te vechten. Een robotverkenner kun je zo programmeren dat hij in een verlaten bos bij het eerste contact met de vijand meteen terugschiet, maar in een druk dorp alleen eigen militairen waarschuwt voor gevaar.

Verbod

De kans dat de VS, China of Rusland besluiten te stoppen met de ontwikkeling van robotwapens lijkt gering. Als grootmachten al geneigd zijn een verbod te ondertekenen, doen zij dat eerder bij wapens die een beperkt militair nut hebben. Chemische wapens zijn daarvan een goed voorbeeld. Dictators als Saddam Hoessein of Assad kunnen hun bevolking er misschien mee terroriseren, maar ze zijn minder bruikbaar tegen een modern leger. Militairen kunnen een gasmasker en beschermend pak aantrekken, en om gifgas goed te verspreiden moet je vanaf lage hoogte met een vliegtuigje sproeien. Zo'n toestel is erg kwetsbaar voor luchtafweergeschut.

Robotwapens gelden juist als de nieuwe revolutie in oorlogvoering. Als een grootmacht vrijwillig afstand doet van deze wapens, loopt die het risico dat een rivaal ze wel ontwikkelt. Want ook als dat land hetzelfde verbod zou ondertekenen, kan het in het geheim best nog eens doorgaan met een wapenprogramma.

Dat risico is met robotwapens groter dan met andere controversiële systemen. Landmijnen hebben bijvoorbeeld niet direct een grootschalige civiele toepassing. Maar bij autonome wapens kan een land zijn ontwikkeling en productie makkelijk vermommen als commercieel product, of op enig moment ervoor kiezen uit bestaande wapens en civiele toepassingen een nieuw wapen in elkaar te knutselen.

Want waar legers experimenteren met zelfrijdende gevechtsvoertuigen, ontwikkelt Google zelfrijdende auto's. Als de VS autonome auto's voor voetgangers kan laten stoppen, kan het ook een autonoom gevechtsvoertuig op een gewapende mens laten schieten. Maar ook kleinere landen zijn al flink gevorderd met technieken die als basis kunnen dienen voor autonome wapens. Het Noorse bedrijf Kongsberg streeft ernaar in 2020 zelfvarende schepen vracht tussen kuststadjes te vervoeren. Het bedrijf kent ook een militaire tak. Dat produceert ook een raket die zelf het verschil ziet tussen oorlogsschepen en civiele schepen. Wie de techniek van het autonome vrachtschip en de raket samenvoegt, heeft al snel een robotwapen om de eigen kust te verdedigen.

Meer over

Nu belangrijker dan ooit: steun kwaliteitsjournalistiek.

Neem een abonnement op De Morgen


Op alle artikelen, foto's en video's op demorgen.be rust auteursrecht. Deeplinken kan, maar dan zonder dat onze content in een nieuw frame op uw website verschijnt. Graag enkel de titel van onze website en de titel van het artikel vermelden in de link. Indien u teksten, foto's of video's op een andere manier wenst over te nemen, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234