The Terrifying Prospects of Autonomous Weapons

• Boeing onthult een autonome straaljager
• Het Amerikaanse leger is van plan om kunstmatig intelligente tanks te ontwikkelen
• Wemelt het in onze oceanen binnenkort van de autonome onderzeeërs?
• Moeten autonome wapens verboden worden?

In de afgelopen jaren heeft kunstmatige intelligentie-technologie geleidelijk ingang gevonden in bijna elk aspect van onze samenleving. Het was dan ook een kwestie van tijd voordat ook militaire leiders KI in hun arsenaal zouden opnemen.

Nu de technologie zich verder ontwikkeld heeft, is het concept van autonome wapens getransformeerd van sciencefiction naar realiteit. Als gevolg van de voortdenderende technologie is het allang niet meer de vraag of, maar wanneer autonome wapens hun intrede doen op het slagveld. Tenzij overheden gezamenlijk het besluit nemen deze ontwikkeling een halt toe te roepen, want zodra de doos van Pandora open gaat, is er geen weg terug.

In de afgelopen jaren hebben legers over de hele wereld hun investeringen in autonome technologie aanzienlijk verhoogd, en deze trend zal zich tot ver in de toekomst voortzetten. Volgens een recent rapport van MarketsandMarkets zal de wereldwijde markt voor kunstmatige intelligentie in de defensie-industrie groeien van $6,26 miljard in 2017 naar $18,82 miljard in 2025. De Verenigde Staten zijn goed voor het grootste deel van de markt en andere belangrijke spelers zijn China, Rusland, het Verenigd Koninkrijk, Zuid-Korea en Israël. Welke, door kunstmatige intelligentie aangedreven wapens kunnen we binnenkort verwachten en wat kunnen ze precies?

Boeing onthult een autonome straaljager

Boeing Australia heeft onlangs plannen aangekondigd voor het ontwikkelen van een ​​autonome straaljager, het Boeing Airpower Teaming System (BATS). Dit semi-autonome systeem kan zowel vanaf de grond als door een begeleidend vliegend platform worden bestuurd voor het uitvoeren van verkenningstaken of gewapende missies. Het vliegtuig is 11,6 meter lang en heeft een bereik van 3.704 kilometer. Het vliegtuig zal gebruikmaken van standaard start- en landingsbanen en kan ook aangepast worden voor carrieroperaties op zee. Het bedrijf heeft echter niet bekendgemaakt wat de topsnelheid zal zijn of dat het stealth-eigenschappen heeft. De autonome straaljager wordt in Australië ontwikkeld en moet in 2020 de lucht in gaan. Het bedrijf is van plan het vliegtuig aan klanten over de hele wereld aan te bieden.

Huidige luchtgevechtpraktijken zijn sterk afhankelijk van menselijke prestatiefactoren – een menselijke piloot kan bijvoorbeeld maar een beperkt aantal Gs weerstaan, een gelimiteerd aantal uren vliegen en geen eindeloze hoeveelheden informatie verwerken. Met onbemande vliegtuigen spelen die beperkingen geen rol meer, wat allerlei soorten missies mogelijk maakt die met menselijke piloten aan boord ondenkbaar zijn.

Hoewel BATS oorspronkelijk werd ontworpen als ‘wingman’ om bemande vliegtuigen tijdens gevechtsmissies te begeleiden, kan het systeem ook voor allerlei andere missies ingezet worden,  waaronder early warning, intelligence, surveillance en verkenning. “Het is operationeel gezien een zeer flexibel, modulair en multi-missie-systeem met een zeer disruptief prijspunt. Fighter-achtige mogelijkheden tegen een fractie van de kosten”, aldus Kristin Robertson, vicepresident en algemeen directeur van Boeing Autonomous Systems.

Boeing heeft echter nog steeds niet onthuld hoeveel dat precies zou zijn, of hoeveel het aan de ontwikkeling van BATS heeft uitgegeven. Volgens het bedrijf zal de prijs afhankelijk zijn van de configuratie die door de klant is gekozen. “We hebben dit ontworpen als een zeer flexibele oplossing die we met payloads, sensoren en verschillende missiesets kunnen uitrusten om een bestaande vloot aan te vullen”, voegt Robertson toe. “Zie het niet als een specifiek product dat slechts op één bepaalde missie is afgestemd”.

Het Amerikaanse leger is van plan om kunstmatig intelligente tanks te ontwikkelen

Het is overigens niet alleen de luchtvaart die een KI-make-over krijgt. De Army Contracting Command office van het Amerikaanse leger heeft onlangs experts uit de industrie en de academische wereld gevraagd om te helpen met de ontwikkeling van autonome richtcapaciteiten voor infanteriegevechtsvoertuigen. Met het Advanced Targeting en Lethality Automated System (ATLAS), zoals dit nog theoretische concept wordt genoemd, zouden militaire voertuigen als tanks  vijandige doelen op het slagveld met gebruik van kunstmatige intelligentie en machine learning kunnen opsporen, identificeren en uitschakelen. Tanks die met dit systeem zijn uitgerust kunnen deze taken minstens drie keer sneller uitvoeren dan de huidige voertuigen die gebruikmaken van handmatige processen. De autonome tanks kunnen echter één ding niet – en dat is de trekker overhalen. De beslissing om te schieten moet nog steeds door een menselijke operator worden gemaakt.

Volgens Paul Scharre, de directeur van het Technology and National Security Program in het Center for a New American Security in Washington DC, geeft ATLAS de menselijke operators meer tijd zodat dit soort beslissingen nauwkeuriger genomen kunnen worden en de kans op burgerslachtoffers afneemt. “Elke fractie van een seconde is dan waardevol”, zegt Scharre. “Er is niet veel tijd voor beslissingen. Als je in een tank zit en je ziet de tank van de vijand, dan zien ze jou waarschijnlijk ook. En als je hen kunt raken, kunnen ze jou ook raken”.

Wemelt het in onze oceanen binnenkort van de autonome onderzeeërs?

De Amerikaanse marine is ook van plan om door KI aangedreven onderzeeërs zijn gelederen toe te voegen. De marine heeft Boeing onlangs een contract van $43 miljoen toegekend voor het bouwen van vier Orca’s – extra grote onbemande onderwatervoertuigen (XLUUV’s). Onbemande onderwatervoertuigen zijn niet echt een nieuw idee, maar eerdere versies van deze technologie waren relatief klein en hadden een zeer beperkt bereik. De Orca wordt met zijn lengte van 15,5 meter en zijn gewicht van 50 ton echter een enorm monster met een modulair payload-systeem aan boord waarmee het een verscheidenheid aan missies kan ondersteunen. Het interne laadperron is 10,4 meter lang, met een volume van 56,6 kubieke meter en een capaciteit van acht ton. De Orca kan tevens externe ladingen meenemen die aan de scheepsromp worden bevestigd. Het onderwatervoertuig wordt aangedreven door een dieselelektrische motor, die een bereik van ongeveer 12,038 kilometer mogelijk maakt.

De Orca kan duiken naar een diepte van ongeveer 3.350 meter en een topsnelheid van acht knopen (14.8 km/u) bereiken. De Orca is gebaseerd op de Echo Voyager technologie demonstratie sub van Boeing en gebouwd in samenwerking met Huntington Ingalls Industries. Met deze onderzeeër kunnen vele verschillende soorten missies uitgevoerd worden, waaronder onderzeebootbestrijding, elektronische oorlogsvoering, oppervlakteoorlogsvoering en mijnenbestrijding. De Orca kan sonar-payloads vervoeren, waarmee het vijandelijke onderzeeërs kan detecteren en hun locatie naar vriendelijke helikopters en oppervlakteschepen kan sturen. Bovendien kan de onderzeeër ook torpedo’s vervoeren en deze gebruiken om vijandige onderzeeërs of oppervlakteschepen aan te vallen. Verder kan de Orca naast mijnen detecteren ook mijnen leggen. Het onderwatervoertuig is bovendien uitgerust met een traagheidsnavigatiesysteem en dieptesensoren, maakt gebruik van satellietcommunicatie en kan naar boven komen om zijn exacte positie via GPS te bepalen. En omdat de onderzeeër onbemand is kan hij maandenlang onder water blijven. De Orca is een veel goedkoper alternatief voor conventionele onderzeeërs. De nucleaire onderzeeër van de Virginia-klasse die momenteel in gebruik is, kost bijvoorbeeld al $2,7 miljard per eenheid. Naast goedkoper zijn de Orca’s in principe ook ‘wegwerpbaar’, waardoor de marine de onderzeeërs kan gebruiken voor missies die te riskant zijn voor bemande schepen.

Moeten autonome wapens verboden worden?

Als je het idee van autonome wapens maar niks vindt, ben je niet de enige. De Campaign to Stop Killer Robots, een coalitie van NGO’s die volledig autonome wapens willen verbieden en de menselijke controle over het gebruik van geweld willen behouden, heeft herhaaldelijk gewaarschuwd dat we afstevenen op een wereldwijde robotwapenrace die de hele wereld zou kunnen destabiliseren. Volgens de Campagne deelt 61 procent van de bevolking in 26 landen het standpunt dat volledig autonome wapens verboden moeten worden.

Werelds toonaangevende deskundigen op het gebied van robotica en kunstmatige intelligentie sluiten zich daar overigens bij aan. Een groep van 116 specialisten uit 26 landen, geleid door Tesla’s Elon Musk en Mustafa Suleyman van Alphabet, hebben een open brief ondertekend waarin de VN wordt opgeroepen de ontwikkeling en het gebruik van killer robots te verbieden. Met zulke wapens “kunnen gewapende conflicten worden uitgevochten op een schaal die we nu nog niet kennen. Bovendien bestaat het gevaar dat ze door de verkeerde mensen worden ingezet of dat ze worden gehackt en zich op een ongewenste manier gedragen. We hebben niet lang. Als de doos van Pandora eenmaal is geopend, is het moeilijk om hem weer te sluiten”, luidt de brief. De groep roept de VN op om autonome wapens toe te voegen aan de lijst met wapens die zijn verboden krachtens de conventie van de VN inzake bepaalde conventionele wapens (CCW), die in 1983 werd aangenomen en omvat chemische en opzettelijk verblindende laserwapens.

Dit is echter niet zo eenvoudig als het klinkt. Tot nu toe hebben 28 landen het verbod op autonome wapens ondersteund, maar de VN hanteert een besluitvormingsproces waarin elk lid elke voorgestelde actie kan blokkeren. Sommige landen – toevallig dezelfde landen die het meest geïnvesteerd hebben in deze  technologie, waaronder de Verenigde Staten, China, Rusland, Israël en Zuid-Korea – zijn tegen het verbod. Dat betekent dat de VN niets kan doen tot er overeenstemming bereikt is en dat is helaas onwaarschijnlijk.

Er is nu volgens de Amerikaanse militaire wet nog een zekere mate van menselijke betrokkenheid nodig voordat de trekker overgehaald wordt. Maar je kunt je ook voorstellen dat dit ergens in de toekomst kan veranderen. “Het lijkt er sterk op dat we een wapenwedloop tegemoet gaan waarop het huidige verbod op volledige dodelijke autonomie zal worden geschrapt – zodra het politiek gezien praktisch is om dat te doen”, zegt Stuart Russell, professor in de computerwetenschappen aan UC Berkeley en een hoog aangeschreven KI-expert.

Kunstmatige intelligentie-technologie kan oorlogsvoering volledig transformeren. Van autonome straaljagers tot kunstmatige intelligente tanks en onderzeeërs, autonome wapens zouden binnenkort een belangrijk onderdeel kunnen worden van legerarsenalen over de hele wereld. Ze kunnen worden gebruikt om andere eenheden op het slagveld te ondersteunen of missies uit te voeren die te gevaarlijk zijn voor bemande voertuigen. Autonome wapens maken het slagveld voor menselijke militairen inderdaad ‘veiliger’. Aan de andere kant maken ze het ook veel eenvoudiger om tot oorlogvoering over te gaan, met een potentieel catastrofaal verlies van mensenlevens als gevolg.