Tegenstrijdige ATLAS
Begin vorig jaar wekte het Amerikaanse leger de wereld met het nieuws over de ontwikkeling van het ATLAS-systeem (Advanced Targeting and Lethality Aided System), ontworpen om gevechtsoperaties naar een nieuw niveau van automatisering te brengen. Het initiatief veroorzaakte gemengde reacties bij gewone mensen en verlichte militaire experts. Een groot deel van de schuld lag bij de ontwikkelaars (het militaire C5ISR-centrum en het Bewapeningscentrum van het Ministerie van Defensie), die omwille van de welluidende afkorting ATLAS de termen "dodelijkheid" en "verbeterde doelaanduiding" in de naam hebben opgenomen. Geschrokken door verhalen over opstandige robots, bekritiseerden de Amerikanen het legerinitiatief, dat volgens hen in tegenspraak is met de oorlogsethiek. Velen verwezen met name naar Pentagon-richtlijn 3000.09, die de overdracht van het recht om het vuur te openen naar een geautomatiseerd systeem verbiedt. De integratie van kunstmatige intelligentie en machine learning in grondvoertuigen zou volgens demonstranten kunnen leiden tot overhaaste slachtoffers onder burgers en bevriende troepen. Onder de critici bevonden zich behoorlijk respectabele wetenschappers - bijvoorbeeld Stuart Russell, hoogleraar informatica aan de University of California in Berkeley.
De ontwikkelaars hebben redelijkerwijs uitgelegd dat ATLAS niets te maken heeft met de hypothetische "killer-robots" waar de mensheid van droomt sinds de eerste "Terminator". Het systeem is gebaseerd op algoritmen voor het vinden van een doel met behulp van verschillende sensorsystemen, het selecteren van de belangrijkste en het informeren van de operator hierover. Nu wordt in de VS de M113 gepantserde personeelsdrager met het geïntegreerde ATLAS-systeem getest. Voor de exploitant van het wapen geven kunstmatige-intelligentie-algoritmen niet alleen de gevaarlijkste doelen op het scherm weer, maar bevelen ze ook het type munitie en zelfs het aantal schoten aan voor een gegarandeerde nederlaag. Volgens de ontwikkelaars blijft de uiteindelijke beslissing over het raken van het doelwit bij de schutter en is hij verantwoordelijk voor het resultaat. De belangrijkste taak van ATLAS in een gepantserde versie is om de reactiesnelheid op een potentiële dreiging te verhogen - gemiddeld opent een tank (BMP of gepantserde personeelsdrager) het vuur op een doelwit met een automatische assistent drie keer sneller. Uiteraard kan een gepantserd voertuig efficiënter werken met groepsdoelen. In dit geval selecteert de kunstmatige intelligentie prompt doelen in de volgorde van tankgevaar, leidt het wapen zelf en beveelt het type munitie aan. Sinds begin augustus zijn op de Aberdeen Proving Ground verschillende typen gepantserde voertuigen met geïntegreerde ATLAS-systemen getest. Op basis van de resultaten van het werk zal een beslissing worden genomen over militaire tests en zelfs over de goedkeuring van dergelijke wapens.
Tanks zijn nu een van de meest conservatieve doelen op het slagveld. Velen van hen zijn al tientallen jaren niet fundamenteel verbeterd en blijven in de jaren 70-80 van de vorige eeuw in termen van technische ontwikkeling. Vaak wordt deze traagheid geassocieerd met het wijdverbreide gebruik van tanks in afzonderlijke landen. Om een gepantserd leger van vele duizenden serieus te moderniseren, zijn enorme middelen nodig. Maar de middelen om tanks tegen te gaan ontwikkelen zich met grote sprongen. Een uitstekend voorbeeld is het huidige conflict in Nagorno-Karabach, waar Turkse en Israëlische drones uiterst effectief zijn tegen Armeense tanks. Als we slachtoffers negeren, maakt het berekenen van de prijs / prestatieverhouding van dergelijke antitankwapens hen gewoon de koningen van het slagveld. Natuurlijk biedt ATLAS geen bescherming tegen luchtdreigingen, maar het kan een goed hulpmiddel zijn voor vroegtijdige waarschuwing van tankgevaarlijke doelen zoals ATGM-bemanningen of enkele granaatwerpers.
Het Pentagon beschouwt het ATLAS-systeem niet als een enkele militaire structuur, maar als onderdeel van een groot projectconvergentie. Dit initiatief moet het bewustzijn van de troepen naar een hoger niveau tillen. Door machine learning, kunstmatige intelligentie en de ongekende verzadiging van het slagveld met drones hopen de Amerikanen de gevechtscapaciteit van hun eenheden serieus te vergroten. De kerngedachte is niet nieuw: alle objecten op het slagveld verbinden met een gemeenschappelijke informatiestructuur en de omringende werkelijkheid digitaliseren. Tot nu toe is ATLAS niet volledig opgenomen in Project Convergence vanwege het gebrek aan vaardigheden voor gegevensuitwisseling met "buren", maar in de toekomst zullen de kunstmatige hersenen van de tank een gemeenschappelijk bezit worden. Overigens worden in de commercial voor het project China en Rusland aangeduid als ondubbelzinnige militaire doelen.
Geen vertrouwen in elektronica
Amerikaanse troepen hebben al een negatieve ervaring met bewapende robotsystemen. In 2007 werden drie kleine rupsplatforms SWORDS (afkorting van Special Weapons Observation Reconnaissance Detection System), bewapend met M249 machinegeweren, naar Irak gestuurd. En hoewel het geen volledig autonome voertuigen waren, slaagden ze erin de soldaten bang te maken met hun periodieke chaotische bewegingen van de lopen van machinegeweren terwijl ze door de straten van Bagdad patrouilleerden. Dit leek het Pentagon een teken van onvoorspelbaarheid, en de machinegeweren met rupsbanden werden langzaam naar huis gestuurd. In 2012 is een richtlijn uitgevaardigd waarin staat dat geautomatiseerde en op afstand bediende wapensystemen niet uit zichzelf mogen vuren. ATLAS is formeel geheel in het kader van deze bepaling ontwikkeld, maar er zijn niet minder vragen over innovatie. Sommige experts (met name Michael S. Horowitz, assistent-professor politieke wetenschappen aan de Universiteit van Pennsylvania) beschuldigen de nieuwigheid van het te eenvoudig maken van het proces van het raken van een doelwit. In feite maakt dit niveau van automatisering van zoeken en doelaanduiding van gevechten een gewoon spel zoals World of Tanks voor de schutter. In het ATLAS-geleidingssysteem wordt het prioriteitsdoel rood gemarkeerd, klinkt er een alarm en stimuleert de techniek, als het kan, een persoon om het vuur te openen. In extreme gevechtsomstandigheden is er weinig tijd om een beslissing te nemen over schieten, en dan moedigt de "slimme robot" je aan. Als gevolg hiervan heeft de jager eenvoudigweg geen tijd om de situatie kritisch te beoordelen en opent hij, zonder het te begrijpen, het vuur. Het is noodzakelijk om te evalueren hoe ATLAS doelen correct heeft geselecteerd na het fotograferen. In hoeverre is deze aanpak ethisch en voldoet deze aan de beruchte Amerikaanse richtlijn? Microsoft is er trouwens al in geslaagd om publiekelijk veroordeeld te worden voor een dergelijk op een helm gemonteerd doelaanduidingssysteem voor het leger, tot en met een gebruikersboycot. In de Verenigde Staten wordt al jaren gediscussieerd over robotisering van detectie- en geleidingssystemen. Als voorbeeld noemen critici voorbeelden van fouten van het stuurautomaatsysteem op de openbare weg, die al tot slachtoffers hebben geleid. Als zelfs na miljoenen kilometers rijden de stuurautomaten niet 100% betrouwbaar zijn geworden, wat kunnen we dan zeggen over een volledig nieuwe ATLAS, die tankers kan duwen om op een onschuldig persoon te schieten met een 120 mm-projectiel. Moderne oorlogen zijn nu zo bloedig, juist omdat het leger de mogelijkheid heeft gekregen om op afstand te doden, zich verschuilend achter een betrouwbare barrière. Het voorbeeld van de genoemde Nagorno-Karabach bevestigt deze waarheid eens te meer. Als de jager ook de mogelijkheid wordt ontnomen om de parameters van het doelwit kritisch te beoordelen (dit is precies waar ATLAS toe leidt), dan kunnen er veel meer slachtoffers vallen en kan de schuld voor de moord al gedeeltelijk op de machine worden verschoven.
En tot slot was het belangrijkste argument tegen systemen van het ATLAS-type onder pacifistische commentatoren het vrijwel ontbreken van een verbod op het openen van automatisch vuur. Nu verbieden alleen de ethische eisen van het Pentagon (die ook veel bedenkingen hebben) het volledig automatiseren van het moordproces. Met de introductie van ATLAS zullen hier helemaal geen technische belemmeringen meer voor zijn. Zal het Amerikaanse leger in staat zijn om zo'n veelbelovende kans op te geven om de reactietijd op een dreiging verder te versnellen en te voorkomen dat zijn jagers worden aangevallen?
