Zelfverbeterende kunstmatige intelligentie (AI) kan in de toekomst mensen tot slaaf maken of doden als hij dat wil. Dit werd verteld door de wetenschapper Amnon Eden, die van mening is dat de risico's van de ontwikkeling van een vrijdenkend en zeer intelligent bewustzijn zeer hoog zijn, en "als je de problemen van AI-controle al in het huidige stadium van ontwikkeling, dan komt morgen misschien gewoon niet meer." Volgens de Engelse editie Express bevindt de mensheid zich volgens Amnon Eden vandaag op het "point of no return" voor de implementatie van de plot van het beroemde filmepos "The Terminator".
Het is vermeldenswaard dat Dr. Amnon Eden een projectleider is wiens belangrijkste doel het analyseren van de mogelijke verwoestende effecten van AI is. Zonder een goed begrip van de gevolgen van het creëren van kunstmatige intelligentie, kan de ontwikkeling ervan met een ramp dreigen, meent de wetenschapper. Momenteel is onze samenleving slecht op de hoogte van het debat dat in de wetenschappelijke gemeenschap gaande is over de analyse van de potentiële impact van AI. “In de komende 2016 zal de analyse van mogelijke risico’s aanzienlijk meer verbreid moeten worden in het denken van bedrijven en overheden, politici en degenen die verantwoordelijk zijn voor het nemen van beslissingen”, zegt Eden.
De wetenschapper is er zeker van dat sciencefiction, waarin de vernietiging van de mensheid door robots wordt beschreven, binnenkort ons veelvoorkomende probleem kan worden, omdat het proces van het creëren van AI uit de hand is gelopen. Zo besloot Elon Musk, met de steun van ondernemer Sam Altman, een nieuwe non-profit van $ 1 miljard op te richten die open source AI ontwikkelt die de menselijke geest zou moeten overtreffen. Tegelijkertijd beschouwt de Amerikaanse miljardair Elon Musk kunstmatige intelligentie zelf als een van de 'grootste bedreigingen voor ons bestaan'. Steve Wozniak, mede-oprichter van Apple, zei afgelopen maart dat de toekomst er angstaanjagend en zeer gevaarlijk uitziet voor mensen … uiteindelijk zal de dag komen dat computers sneller zullen denken dan wij en ze trage mensen zullen verwijderen om zodat bedrijven efficiënter kunnen werken.”
Het is vermeldenswaard dat veel wetenschappers de dreiging van AI zien. Tientallen bekende wetenschappers, investeerders en ondernemers, wiens activiteiten op de een of andere manier verband houden met de ontwikkeling van kunstmatige intelligentie, hebben een open brief ondertekend waarin wordt opgeroepen tot meer aandacht voor de kwestie van veiligheid en maatschappelijk nut van werk in de gebied van AI. Astrofysicus Stephen Hawking en oprichter van Tesla en SpaceX Elon Musk behoren tot de ondertekenaars van dit document. De brief, samen met een begeleidend document, opgesteld door het Future of Life Institute (FLI), werd geschreven te midden van groeiende bezorgdheid over de impact van kunstmatige intelligentie op de arbeidsmarkt en zelfs het voortbestaan van de hele mensheid op de lange termijn in een omgeving waar de mogelijkheden van robots en machines bijna oncontroleerbaar zullen groeien.
Wetenschappers begrijpen het feit dat het potentieel van AI tegenwoordig erg groot is, dus het is noodzakelijk om de mogelijkheden van het optimale gebruik ervan voor ons volledig te onderzoeken om de bijbehorende valkuilen te vermijden, merkt de FLI-brief op. Het is absoluut noodzakelijk dat door mensen gemaakte AI-systemen precies doen wat we willen dat ze doen. Het is vermeldenswaard dat het Future of Life Institute pas vorig jaar werd opgericht door een aantal enthousiastelingen, waaronder de maker van Skype, Jaan Tallinn, om "de risico's voor de mensheid te minimaliseren" en onderzoek te stimuleren met een "optimistische visie van de toekomst". Allereerst hebben we het hier over de risico's die ontstaan door de ontwikkeling van AI en robotica. De FLI-adviesraad bestaat uit Musk en Hawking, samen met de veelgeprezen acteur Morgan Freeman en andere beroemde mensen. Volgens Elon Musk is de ongecontroleerde ontwikkeling van kunstmatige intelligentie potentieel gevaarlijker dan kernwapens.
De beroemde Britse astrofysicus Stephen Hawking probeerde eind 2015 zijn afwijzing van AI-technologieën uit te leggen. Naar zijn mening zullen superintelligente machines na verloop van tijd naar mensen kijken als verbruiksartikelen of mieren die eenvoudigweg de oplossing van hun taken verstoren. In een gesprek met gebruikers van het Reddit-portaal merkte Stephen Hawking op dat hij niet gelooft dat zulke superintelligente machines "slechte wezens" zullen zijn die de hele mensheid willen vernietigen vanwege hun intellectuele superioriteit. Hoogstwaarschijnlijk zal het mogelijk zijn om te praten over het feit dat ze de mensheid gewoon niet zullen opmerken.
“De media hebben mijn woorden de laatste tijd constant verdraaid. Het grootste risico bij de ontwikkeling van AI is niet de boosaardigheid van de machines, maar hun competentie. Superintelligente kunstmatige intelligentie zal uitstekend werk leveren, maar als het en onze doelen niet samenvallen, zal de mensheid zeer ernstige problemen krijgen , legt de beroemde wetenschapper uit. Als voorbeeld noemde Hawking een hypothetische situatie waarin een superkrachtige AI verantwoordelijk is voor de exploitatie of bouw van een nieuwe hydro-elektrische dam. Voor zo'n machine zal de prioriteit zijn hoeveel energie het toevertrouwde systeem zal genereren, en het lot van mensen zal er niet toe doen. “Er zijn maar weinigen van ons die mierenhopen vertrappen en op mieren trappen uit woede, maar laten we ons een situatie voorstellen: je bestuurt een krachtige waterkrachtcentrale die elektriciteit opwekt. Als u het waterpeil moet verhogen en als gevolg van uw acties zal een mierenhoop overstromen, dan zullen de problemen van verdrinkende insecten u waarschijnlijk niet storen. Laten we mensen niet in de plaats van mieren plaatsen', zei de wetenschapper.
Het tweede potentiële probleem voor de verdere ontwikkeling van kunstmatige intelligentie kan volgens Hawking de "tirannie van de eigenaren van machines" zijn - de snelle groei van de kloof in het inkomensniveau tussen rijke mensen die in staat zullen zijn om de productie te monopoliseren van intelligente machines en de rest van de wereldbevolking. Stephen Hawking stelt voor om deze mogelijke problemen op de volgende manier op te lossen - om het proces van AI-ontwikkeling te vertragen en over te schakelen naar de ontwikkeling van niet "universele", maar zeer gespecialiseerde kunstmatige intelligentie, die slechts een zeer beperkt aantal problemen kan oplossen.
Naast Hawking en Musk werd de brief ondertekend door de Nobelprijswinnaar en MIT-hoogleraar natuurkunde Frank Wilczek, de uitvoerend directeur van het Machine Intelligence Research Institute (MIRI) Luc Mühlhauser, evenals vele specialisten van grote IT-bedrijven: Google, Microsoft en IBM, evenals ondernemers die de AI-bedrijven Vicarious en DeepMind hebben opgericht. De auteurs van de brief merken op dat ze niet bedoeld zijn om het publiek bang te maken, maar van plan zijn om zowel de positieve als negatieve aspecten te benadrukken die samenhangen met het creëren van kunstmatige intelligentie. "Op dit moment is iedereen het erover eens dat het onderzoek op het gebied van AI gestaag vordert en dat de invloed van AI op de moderne menselijke samenleving alleen maar zal toenemen", zegt de brief, "de kansen die zich voor de mens openen enorm zijn, alles wat de moderne beschaving te bieden heeft, is gemaakt door intelligentie. We kunnen niet voorspellen wat we zullen bereiken als menselijke intelligentie kan worden vermenigvuldigd door AI, maar het probleem om van armoede en ziekte af te komen is niet langer oneindig moeilijk.”
Talloze ontwikkelingen op het gebied van kunstmatige intelligentie zijn al opgenomen in het moderne leven, waaronder beeld- en spraakherkenningssystemen, onbemande voertuigen en nog veel meer. Waarnemers in Silicon Valley schatten dat er momenteel meer dan 150 startups op dit gebied worden geïmplementeerd. Tegelijkertijd trekken de ontwikkelingen op dit gebied steeds meer investeringen aan en ontwikkelen steeds meer bedrijven zoals Google hun projecten op basis van AI. Daarom zijn de auteurs van de brief van mening dat de tijd is gekomen om meer aandacht te besteden aan alle mogelijke gevolgen van de waargenomen hausse voor de economische, sociale en juridische aspecten van het menselijk leven.
Het standpunt dat kunstmatige intelligentie een gevaar kan vormen voor de mens wordt gedeeld door Nick Bostrom, een professor aan de Universiteit van Oxford, die bekend staat om zijn werk volgens het antropische principe. Deze specialist is van mening dat AI op het punt is gekomen dat de incompatibiliteit met de mens zal worden gevolgd. Nick Bostrom benadrukt dat, in tegenstelling tot genetische manipulatie en klimaatverandering, waarvoor regeringen voldoende geld uittrekken om te controleren, "er niets wordt gedaan om de evolutie van AI te beheersen." Volgens de hoogleraar wordt er op het gebied van kunstmatige intelligentie momenteel een "beleid van een te vullen rechtsvacuüm" gevoerd. Zelfs technologieën zoals zelfrijdende auto's, die ongevaarlijk en nuttig lijken, roepen een aantal vragen op. Moet zo'n auto bijvoorbeeld een noodremming uitvoeren om zijn passagiers te redden en wie is er verantwoordelijk bij een ongeval met een onbemand voertuig?
Nick Bostrom besprak de mogelijke risico's en merkte op dat "de computer niet in staat is om de voordelen en schade voor mensen te bepalen" en "niet eens het minste idee heeft van de menselijke moraliteit". Bovendien kunnen zelfverbeteringscycli in computers met zo'n snelheid plaatsvinden dat een mens het simpelweg niet bij kan houden, en ook hier is bijna niets aan te doen, zegt de wetenschapper. "In het ontwikkelingsstadium waarin computers voor zichzelf kunnen denken, kan niemand met zekerheid voorspellen of dit tot chaos zal leiden of onze wereld aanzienlijk zal verbeteren", zei Nick Bostrom, die als voorbeeld een eenvoudige mogelijke oplossing voor een computer noemde - afsluiten in landen met koude klimaatverwarming om de gezondheid van mensen te verbeteren en hun uithoudingsvermogen te vergroten, wat "aan het hoofd kan komen van kunstmatige intelligentie".
Daarnaast stelt Bostrom ook het probleem van het chippen van het menselijk brein om onze bio-intelligentie te vergroten. “In veel opzichten kan zo'n procedure nuttig zijn als alle processen worden gecontroleerd, maar wat gebeurt er als de geïmplanteerde chip zichzelf kan herprogrammeren? Tot welke gevolgen kan dit leiden - tot de opkomst van een superman of tot de opkomst van een computer die er alleen maar als een mens uit zal zien?" - vraagt de professor. De manier waarop computers menselijke problemen oplossen is heel anders dan de onze. Bij schaken houdt het menselijk brein bijvoorbeeld alleen rekening met een beperkt aantal zetten en kiest daaruit de beste optie. Op zijn beurt overweegt de computer alle mogelijke zetten en kiest de beste. Tegelijkertijd verwacht de computer niet dat hij zijn tegenstander van streek zal maken of verrassen in het spel. In tegenstelling tot een mens die schaak speelt, kan een computer alleen per ongeluk een sluwe en subtiele zet doen. Kunstmatige intelligentie kan op de beste manier rekenen - om de fout van elk systeem te elimineren door de "menselijke factor" daar te verwijderen, maar, in tegenstelling tot een mens, is een robot niet klaar om prestaties te leveren die het leven van mensen zouden redden.
Onder meer de stijging van het aantal slimme machines vormt het stadium van een nieuwe industriële revolutie. Dit betekent op zijn beurt dat de mensheid in de nabije toekomst te maken zal krijgen met onvermijdelijke sociale veranderingen. Na verloop van tijd zal het werk het lot worden van hooggekwalificeerde specialisten, aangezien bijna alle eenvoudige taken door robots en andere mechanismen kunnen worden uitgevoerd. Wetenschappers geloven dat kunstmatige intelligentie "een oog en een oog nodig heeft", zodat onze planeet niet verandert in een cartoonplaneet "Zhelezyaka", die werd bewoond door robots.
Op het gebied van steeds meer automatisering van productieprocessen is de toekomst al aangebroken. Het World Economic Forum (WEF) presenteerde zijn rapport, volgens welke automatisering ertoe zal leiden dat in 2020 meer dan 5 miljoen mensen die werkzaam zijn in verschillende vakgebieden hun baan zullen verliezen. Dit is de impact van robots en robotsystemen op ons leven. Om het rapport samen te stellen, gebruikten WEF-medewerkers gegevens van 13,5 miljoen medewerkers van over de hele wereld. Volgens hen zal in 2020 de totale behoefte aan ruim 7 miljoen banen verdwijnen, terwijl de verwachte groei van de werkgelegenheid in andere bedrijfstakken iets meer dan 2 miljoen banen zal bedragen.
