Militaire experts noemen autonome wapens of autonome wapensystemen (AWS) soorten wapens die alles zelf doen: ze vinden een doelwit en voltooien een taak zonder menselijke tussenkomst. Een van de meest bekende, tot nu toe alleen in sciencefictionfilms en AWS-boeken, zijn de zogenaamde "killerrobots".
Elon Musk en meer dan honderd andere robotica-experts schrijven over de dodelijke dreiging van killer robots in een open waarschuwingsbrief aan de VN. Musk, Mustafa Suleiman, de maker van het AI-bedrijf DeepMind Technologies, dat nu eigendom is van Google, en 114 experts uit 26 landen waarschuwen de VN dat de wapenwedloop in AWS een doos van Pandora zou kunnen openen, wat kan leiden tot onvoorspelbare en zeer grote schade aan de mensheid. Ze eisen een verbod op de ontwikkeling en implementatie van autonome wapensystemen.
Alle ondertekenaars zijn goed thuis in de materie omdat ze werken op het gebied van kunstmatige intelligentie (AI). Ze zijn ervan overtuigd dat de introductie van moordrobots in de bewapening van de legers van ontwikkelde landen dezelfde betekenis zal hebben voor militaire aangelegenheden als de uitvinding van buskruit en kernwapens, die zij de eerste en tweede revolutie in militaire aangelegenheden noemen. Ze geloven dat AWS de derde revolutie zal zijn.
“Eenmaal op een hoog niveau gebracht, zullen autonome wapensystemen militaire conflicten tot een omvang brengen die de mensheid nog nooit eerder heeft gezien”, staat in de collectieve brief. - Bovendien zal het met grote snelheid gebeuren. AWS kan een terreurwapen worden, een wapen dat despoten en terroristen zullen gebruiken tegen burgers…"
De auteurs van de brief waarschuwen voor een nog steeds hypothetisch wapen dat mensen kan vernietigen zonder menselijke tussenkomst. De dag is nabij dat het een harde realiteit zal worden uit de categorie fictie en ons zal dwingen om antwoorden te zoeken op vele moeilijke vragen, variërend van het veilige beheer van dergelijke systemen tot morele en ethische problemen veroorzaakt door de "ijzeren" wreedheid en onvoorspelbaarheid van dodelijke machines.
Musk, met supporters die zijn standpunt delen over de gevaren van AWS voor de mensheid, benadrukken dat er geen tijd is voor reflectie en discussie en dat er onmiddellijk actie moet worden ondernomen. "We hebben heel weinig tijd", schrijven ze bij de VN. "Als de doos van Pandora eenmaal open is, zal het heel moeilijk zijn om hem te sluiten."
Het moment voor het schrijven van een open brief is niet toevallig gekozen. Experts wilden samenvallen met de start van de International Conference on Artificial Intelligence (IJCAI) in Melbourne. Het zou op maandag 21 augustus open gaan, maar de VN besloot het uit te stellen tot november.
Aan het einde van een open brief roepen Elon Musk en zijn collega's de VN op hun inspanningen te verdubbelen om tegen november een strategie te ontwikkelen om de planeet te beschermen tegen dodelijke robots.
Eerder waarschuwde Musk zelf voor de gevaren van het werken aan kunstmatige intelligentie als zodanig, omdat systemen die erop gebaseerd zijn uit de hand kunnen lopen door de mens. Tegelijkertijd rijden auto's met Tesla-elektromotoren al onbemand over de wegen van de Verenigde Staten, wat niet zonder incidenten is.
