Dinsdag 15/10/2019

Wapentechnologie

Als een minidrone zelf beslist over leven en dood

De Campaign to Stop Killer Robots startte in 2013 in Londen met deze robot. Beeld RV

Ruim 2.000 robotica-experts, 20 Nobelprijswinnaars en meer dan 100 technologiebedrijven vragen op een conventie dat er paal en perk gesteld wordt aan de ontwikkeling van 'killerrobots'. Zeker nu een piepkleine drone die onafhankelijk kan doden technisch mogelijk is.

De volgende dagen komen in Genève overheden en robotica-experts samen tijdens de VN-Conventie voor Conventionele Wapens om te debatteren over zogenaamde 'killerrobots'. Kort door de bocht zijn dat wapensystemen waar de mens geen betekenisvolle controle meer heeft over de beslissingen die de wapens nemen.

Het is volgens experts, onder wie superondernemer Elon Musk en wetenschapper Stephen Hawking, niet ondenkbaar dat we binnen vijf à tien jaar te maken krijgen met wapens die volledig autonoom opereren. Lees: die dus zelf aan het front beslissen over leven en dood.

Het gaat niet per se om Terminator-achtige figuren die eruitzien en bewegen als mensen. Maar denk aan drones die volledig zelfstandig mensen kunnen traceren, volgen en zelfs uitschakelen met één dodelijk schot in het hoofd.

Razendsnel

Stuart Russel, een expert artificiële intelligentie aan de universiteit van Berkeley, toonde maandag een fictieve film waarin een zwerm drones in nog geen dertig seconden een aula vol studenten vermoordt. Hij verzekerde in The Guardian dat in de film enkel een beroep werd gedaan op bestaande technologieën. "In feite zijn zulke drones gemakkelijker te produceren dan een zelfrijdende wagen, die vergen veel meer sensoren en software."

Een internationale verzameling van ngo's ijvert al sinds 2013 onder de naam Campaign to Stop Killer Robots voor een preventief verbod op de ontwikkeling en productie van killerrobots. Die organisatie bestaat vandaag uit 64 organisaties uit 68 landen, waaronder Pax Christi Vlaanderen. "Het is belangrijk dat regeringen zich uitspreken over killerrobots", zegt Willem Staes die voor Pax Christi Vlaanderen in Genève is. "De technologische mogelijkheden evolueren razendsnel terwijl de diplomatie lijkt stil te vallen."

Zo stonden er dit jaar twee vergaderingen gepland in de schoot van de Verenigde Naties, maar doordat onder andere Brazilië zijn bijdrage aan de VN een tijd lang niet betaald heeft, gingen de gesprekken in augustus niet door.

België ondersteunt de vraag van de Campaign to Stop Killer Robots op dit moment niet. "Maar er is wel al een paper waarin ons land vooral benadrukt dat er een duidelijke definitie moet komen over wat autonome wapens precies zijn", benadrukt Staes. "Definities zijn belangrijk, maar overheden moeten zich de fundamentele vraag stellen of ze de beslissing over leven en dood willen uitbesteden aan robots."

Een positief antwoord op die vraag impliceert heel wat verantwoordelijkheid voor door software gestuurde drones of andere soldaten. Aan het front moet je rekening houden met een dynamische context zoals bijvoorbeeld weersomstandigheden. Bovendien moet elke actie proportioneel zijn. "Wanneer er in die omstandigheden iets fout loopt, rijst de vraag wie verantwoordelijk is. De producent, de overheid, de bevelgever of nog iemand anders?"

Voortrekkersrol

Oorlogsvoering vergt bovendien een bepaalde ethiek. "Als je zelf geen slachtoffers meer te vrezen hebt, is de drempel om een conflict te starten veel lager", zegt Frank Slijper, die zich voor de Nederlandse vredesorganisatie PAX verdiept heeft in killerrobots. "Oorlogssystemen worden steeds verder geautomatiseerd, we moeten daar dringend een lijn trekken. Tot waar en niet verder."

In ons land staan er op 6 december hoorzittingen gepland in het federaal parlement, daar worden experts uit robotica en artificiële intelligentie op uitgenodigd. "We willen als Belgen een voortrekkersrol spelen, net zoals we dat in het verleden gedaan hebben door antipersoonsmijnen te verbieden", zegt Wouter De Vriendt (Groen), die eerder dit jaar een resolutie over autonome robots indiende. Hij hoopt een meerderheid te vinden om zowel autonome wapens al het onderzoek naar zulke wapens te verbieden.

Meer over

Wilt u belangrijke informatie delen met De Morgen?

Tip hier onze journalisten


Op alle verhalen van De Morgen rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234