In Genève hebben 128 landen een belangrijke stap gezet om te voorkomen dat het in de toekomst uit de hand loopt met killerrobots. Het gaat om afspraken over wapensystemen die met behulp van kunstmatige intelligentie zelfstandig doelwitten identificeren, selecteren en aanvallen.
Het is een race tegen de klok, doordat machines nu al vaker over leven en dood beslissen. Denk bijvoorbeeld aan de oorlogen in Oekraïne, Iran en Sudan. Toch is een speciale werkgroep er nu al tien jaar mee bezig.
Diep in de nacht lukte het om het eens te worden: er staat nu bijvoorbeeld op papier wat zelfdenkende, dodelijke wapensystemen überhaupt zijn, welke systemen er door de beugel kunnen en bij wie de verantwoordelijkheid ligt bij het gebruik ervan.
De afspraken zijn nog niet bindend, maar kunnen leiden tot internationale juridisch bindende afspraken en uiteindelijk misschien zelfs tot een nieuw verdrag. Een verdrag zoals dat er bijvoorbeeld ook is voor mijnen en clustermunitie.
Eén woordje
Of het allemaal zou gaan lukken, bleef spannend tot diep in de nacht. "Het is bijna 3 uur 's nachts geworden, het moment waarop de lichten zouden uitgaan in de vergaderzaal", vertelt de Nederlandse diplomaat en ontwapeningsambassadeur Robert in den Bosch telefonisch vanuit Genève. De afgelopen jaren had hij de leiding over het proces.
In de laatste minuten hing alles nog af van één woordje. "Woorden doen er in zo'n proces enorm toe", schetst In den Bosch. Op het laatst lag nog één van de onderhandelaars dwars. "We hebben hem vijf minuten gegeven om naar het ministerie van zijn thuisland te bellen. Toen hij terugkwam konden we letterlijk en figuurlijk afhameren."
Militaire wereldmachten
Voor In Den Bosch was het een enorme opluchting dat het lukte want het was geen makkelijke klus. Aan tafel zaten ook de grote militaire wereldmachten, zoals Rusland, China, de Verenigde Staten en India.
"Rusland en de Verenigde Staten zijn wel de hardste noten om te kraken." Maar ook landen met een minder grote oorlogsindustrie konden lastig zijn, omdat ze de tekst niet stevig genoeg vonden. In den Bosch: "Uiteindelijk is het een compromis waar geen enkel land 100 procent gelukkig mee is, maar de kracht is wel dat er 128 landen achter staan."
Dat compromis is precies waar het volgens Nicole van Rooijen, directeur van Stop Killer Robots, schuurt. "Het is echt jammer dat al het werk dat staten de afgelopen drie jaar aan de tekst hebben verricht in de laatste uren zo sterk is afgezwakt", reageerde ze bij persbureau Reuters.
Nederlandse krijgsmacht
Ook Nederland ging akkoord met de afspraken. Onze krijgsmacht zet in toenemende mate wapensystemen in die aangestuurd worden door kunstmatige intelligentie.
Minister van Buitenlandse Zaken Berendsen reageert op X: "Nu militaire technologie zich in hoog tempo ontwikkelt, is dit een belangrijke stap in de regulering van dodelijke autonome wapensystemen". Ook minister van Defensie Yesilgöz reageert op het platform. "Oorlogsvoering verandert door nieuwe technologie. Juist daarom zijn goede internationale afspraken hard nodig", schrijft ze.
Nieuw verdrag?
Maar verwacht nu niet dat er snel aanvullende wetten of regels komen of een nieuw verdrag. De landen gaan in november kijken of dat nodig is en hoe dat er dan uit moet komen te zien. Een proces dat opnieuw jaren kan gaan duren.