De reden waarom dit (en andere) artikel aan het licht kwam is simpel: misschien is kunstmatige intelligentie niet alleen een belangrijk onderwerp voor discussie, maar het belangrijkste in de context van de toekomst. Iedereen die ook maar een klein beetje doordringt tot de essentie van het potentieel van kunstmatige intelligentie, erkent dat dit onderwerp niet kan worden genegeerd. Sommigen - en onder hen Elon Musk, Stephen Hawking, Bill Gates, niet de meest domme mensen op onze planeet - geloven dat kunstmatige intelligentie een existentiële bedreiging vormt voor de mensheid, in omvang vergelijkbaar met het volledig uitsterven van ons als soort. Nou, leun achterover en zet de puntjes op de i voor jezelf.
“We staan aan de vooravond van veranderingen die vergelijkbaar zijn met de oorsprong van het menselijk leven op aarde” (Vernor Vinge).
Wat betekent het om aan de vooravond van zo'n verandering te staan?
Het lijkt niets bijzonders te zijn. Maar je moet niet vergeten dat als je op zo'n plek in de grafiek staat, je niet weet wat er aan je rechterkant is. Je zou zoiets als dit moeten voelen:
Gevoelens zijn heel normaal, de vlucht verloopt goed.
De toekomst komt eraan
Stel je voor dat een tijdmachine je naar 1750 vervoerde - een tijd waarin de wereld voortdurend werd onderbroken in de levering van elektriciteit, communicatie tussen steden betekende kanonschoten en al het transport op hooi verliep. Laten we zeggen dat je er komt, iemand meeneemt en meeneemt naar 2015, laat zien hoe het hier is. We kunnen niet begrijpen hoe het voor hem zou zijn om al die glanzende capsules langs de wegen te zien vliegen; praat met mensen aan de andere kant van de oceaan; kijk naar sportwedstrijden op duizend kilometer afstand; hoor een muziekuitvoering die 50 jaar geleden is opgenomen; speel met een magische rechthoek die een foto kan maken of een live moment kan vastleggen; een kaart bouwen met een paranormale blauwe stip die de locatie aangeeft; kijk naar iemands gezicht en communiceer met hem op vele kilometers afstand, enzovoort. Dit alles is onverklaarbare magie voor bijna driehonderd jaar oude mensen. Om nog maar te zwijgen over internet, het internationale ruimtestation, de Large Hadron Collider, kernwapens en de algemene relativiteitstheorie.
Zo'n ervaring zal voor hem niet verrassend of schokkend zijn - deze woorden brengen niet de hele essentie van mentale ineenstorting over. Onze reiziger kan helemaal doodgaan.
Maar er is een interessant punt. Als hij teruggaat naar 1750 en jaloers wordt dat we zijn reactie op 2015 wilden zien, kan hij een tijdmachine meenemen en hetzelfde proberen te doen met bijvoorbeeld 1500. Hij zal erheen vliegen, een persoon zoeken, hem ophalen in 1750 en alles laten zien. Een man uit 1500 zal enorm geschrokken zijn - maar het is niet waarschijnlijk dat hij sterft. Hoewel hij natuurlijk verrast zal zijn, is het verschil tussen 1500 en 1750 veel kleiner dan tussen 1750 en 2015. Een persoon uit 1500 zal op sommige momenten verrast worden door de natuurkunde, zal verbaasd zijn over wat Europa onder de harde hak is geworden van het imperialisme, zal in zijn hoofd een nieuwe wereldkaart tekenen… Maar het dagelijkse leven in 1750 - transport, communicatie, enz. - zal hem waarschijnlijk niet tot de dood verrassen.
Nee, wil een man uit 1750 hetzelfde plezier beleven als wij, dan moet hij veel verder gaan - misschien een jaar als dit in 12.000 v. Chr. BC, zelfs voordat de eerste landbouwrevolutie de eerste steden en het concept van beschaving baarde. Als iemand uit de wereld van jager-verzamelaars, uit de tijd dat mensen nog een andere diersoort waren, de enorme menselijke rijken van 1750 zag met hun hoge kerken, schepen die de oceanen overstaken, hun concept om "in" een gebouw te zijn, alles deze kennis - hij zou hoogstwaarschijnlijk zijn gestorven.
En dan, na de dood, zou hij jaloers zijn geweest en hetzelfde willen doen. Zou 12.000 jaar geleden terugkeren, bij 24.000 v. Chr. e., zou een persoon hebben meegenomen en hem te zijner tijd hebben gebracht. En een nieuwe reiziger zou tegen hem zeggen: "Nou, dat is prima, dank je." Want in dit geval een persoon uit 12.000 v. Chr. NS. het zou nodig zijn om 100.000 jaar terug te gaan en de lokale aboriginals voor het eerst het vuur en de taal te laten zien.
Als we iemand naar de toekomst moeten vervoeren om verrast te worden, moet vooruitgang een bepaalde afstand afleggen. De Point of Death Progress (TPP) moet worden bereikt. Dat wil zeggen, als in de tijd van jager-verzamelaars TSP 100.000 jaar duurde, vond de volgende stop al plaats in 12.000 voor Christus. NS. Daarna ging de vooruitgang al sneller en veranderde de wereld in 1750 (ongeveer) radicaal. Toen duurde het een paar honderd jaar, en hier zijn we dan.
Dit beeld - waar de menselijke vooruitgang met het verstrijken van de tijd sneller gaat - noemt futurist Ray Kurzweil de wet van de versnelde terugkeer in de menselijke geschiedenis. Dit komt omdat meer ontwikkelde samenlevingen het vermogen hebben om sneller vooruitgang te boeken dan minder ontwikkelde samenlevingen. De mensen van de 19e eeuw wisten meer dan de mensen van de 15e eeuw, dus het is niet verwonderlijk dat de vooruitgang in de 19e eeuw sneller ging dan in de 15e eeuw, enzovoort.
Op kleinere schaal werkt dit ook. Back to the Future werd uitgebracht in 1985 en het verleden was in 1955. Toen Michael J. Fox in 1955 terugkeerde in de film, werd hij verrast door de nieuwheid van televisies, de prijs van frisdrank, gebrek aan liefde voor gitaargeluid en variaties in het jargon. Het was natuurlijk een andere wereld, maar als de film vandaag is opgenomen, en het verleden was in 1985, zou het verschil veel mondialer zijn. Marty McFly, terug in de tijd uit de tijd van personal computers, internet, mobiele telefoons, zou veel meer irrelevant zijn dan Marty, die vanaf 1985 naar 1955 ging.
Dit alles is te wijten aan de wet van het versnellen van rendementen. Het gemiddelde ontwikkelingstempo tussen 1985 en 2015 was hoger dan het tempo van 1955 tot 1985 - omdat in het eerste geval de wereld meer ontwikkeld was, verzadigd met de prestaties van de afgelopen 30 jaar.
Dus hoe meer prestaties, hoe sneller de veranderingen plaatsvinden. Maar zou dat ons niet bepaalde hints voor de toekomst moeten geven?
Kurzweil suggereert dat de vooruitgang van de hele 20e eeuw in slechts 20 jaar had kunnen worden gemaakt op het ontwikkelingsniveau van 2000 - dat wil zeggen, in 2000 was de vooruitgang vijf keer sneller dan de gemiddelde vooruitgang van de 20e eeuw. Hij is ook van mening dat de vooruitgang van de hele 20e eeuw gelijk was aan de vooruitgang van de periode van 2000 tot 2014, en de vooruitgang van nog een 20e eeuw zal gelijk zijn aan de periode tot 2021 - dat wil zeggen, in slechts zeven jaar. Na enkele decennia zal alle vooruitgang van de 20e eeuw meerdere keren per jaar plaatsvinden, en dan in slechts een maand. Uiteindelijk zal de wet van het versnellen van het rendement ons zover brengen dat de vooruitgang over de hele 21e eeuw 1000 keer groter zal zijn dan de vooruitgang van de 20e eeuw.
Als Kurzweil en zijn aanhangers gelijk hebben, zal 2030 ons op dezelfde manier verrassen als de man uit 1750 onze 2015 zou hebben verrast - dat wil zeggen, de volgende TSP zal slechts een paar decennia duren - en de wereld van 2050 zal zo anders zijn van de moderne die we nauwelijks ontdekken. En dit is geen fictie. Dit is de mening van veel wetenschappers die slimmer en beter opgeleid zijn dan jij en ik. En als je naar de geschiedenis kijkt, begrijp je dat deze voorspelling uit pure logica volgt.
Waarom dan, als we worden geconfronteerd met uitspraken als "de wereld zal over 35 jaar onherkenbaar veranderen", halen we sceptisch onze schouders op? Er zijn drie redenen voor onze scepsis over toekomstige voorspellingen:
1. Als het om geschiedenis gaat, denken we in rechte lijnen. In een poging om de voortgang van de komende 30 jaar te visualiseren, kijken we naar de voortgang van de afgelopen 30 als een indicator van hoeveel er waarschijnlijk zal gebeuren. Als we nadenken over hoe onze wereld in de 21e eeuw zal veranderen, nemen we de vooruitgang van de 20e eeuw en tellen die op bij het jaar 2000. Dezelfde fout die onze man uit 1750 maakt als hij iemand uit 1500 krijgt en hem probeert te verrassen. We denken intuïtief op een lineaire manier, terwijl we exponentieel zouden moeten zijn. In wezen zou een futurist moeten proberen de voortgang van de komende 30 jaar te voorspellen, niet kijkend naar de afgelopen 30 jaar, maar afgaand op het huidige niveau van vooruitgang. Dan zal de voorspelling nauwkeuriger zijn, maar nog steeds bij de poort. Om correct over de toekomst na te denken, moet je de dingen in een veel sneller tempo zien bewegen dan nu.
[/midden]
2. Het traject van de recente geschiedenis is vaak vertekend. Ten eerste lijkt zelfs een steile exponentiële curve lineair als je er kleine delen van ziet. Ten tweede verloopt exponentiële groei niet altijd soepel en uniform. Kurzweil gelooft dat vooruitgang in kronkelige bochten verloopt.
Zo'n curve doorloopt drie fasen: 1) langzame groei (vroege fase van exponentiële groei); 2) snelle groei (explosieve, late fase van exponentiële groei); 3) stabilisatie in de vorm van een specifiek paradigma.
Als je naar het laatste verhaal kijkt, kan het deel van de S-curve waarin je je momenteel bevindt, de snelheid van voortgang voor je waarneming verbergen. Een deel van de tijd tussen 1995 en 2007 werd besteed aan de explosieve ontwikkeling van internet, de introductie van Microsoft, Google en Facebook aan het publiek, de geboorte van sociale netwerken en de ontwikkeling van mobiele telefoons en vervolgens smartphones. Dit was de tweede fase van onze curve. Maar de periode van 2008 tot 2015 was minder ontwrichtend, althans op technologisch gebied. Degenen die vandaag aan de toekomst denken, kunnen de laatste paar jaar nodig hebben om het algemene tempo van de vooruitgang te meten, maar ze zien het grotere geheel niet. In feite kan er nu een nieuwe en krachtige fase 2 brouwen.
3. Onze eigen ervaring maakt ons knorrige oude mensen als het om de toekomst gaat. We baseren onze ideeën over de wereld op onze eigen ervaring, en deze ervaring heeft het tempo van de groei in het recente verleden voor ons vanzelfsprekend bepaald. Evenzo is onze verbeeldingskracht beperkt, omdat ze onze ervaring gebruiken om te voorspellen - maar vaker wel dan niet hebben we gewoon niet de tools waarmee we de toekomst nauwkeurig kunnen voorspellen. Als we voorspellingen voor de toekomst horen die haaks staan op onze dagelijkse perceptie van hoe dingen werken, beschouwen we ze instinctief als naïef. Als ik je zou vertellen dat je 150 of 250 jaar oud zult worden, of misschien helemaal niet zal sterven, zul je instinctief denken: "Dit is stom, ik weet uit de geschiedenis dat in die tijd iedereen stierf". Zo is het: niemand heeft zulke jaren meegemaakt. Maar geen enkel vliegtuig vloog vóór de uitvinding van vliegtuigen.
Dus hoewel scepsis u redelijk lijkt, is het vaker wel dan niet verkeerd. We moeten accepteren dat als we ons wapenen met pure logica en wachten op de gebruikelijke historische zigzaglijnen, we moeten toegeven dat er de komende decennia heel, heel, heel veel moet veranderen; veel meer dan intuïtief. Logica dicteert ook dat als de meest geavanceerde soort op aarde gigantische sprongen vooruit maakt, sneller en sneller, op een gegeven moment de sprong zo groot zal zijn dat het het leven zoals we dat kennen radicaal zal veranderen. Iets soortgelijks gebeurde in het evolutieproces, toen de mens zo slim werd dat hij het leven van elke andere soort op planeet Aarde volledig veranderde. En als je even de tijd neemt om te lezen wat er op dit moment in wetenschap en technologie gebeurt, begin je misschien enkele aanwijzingen te zien over hoe de volgende grote sprong eruit zal zien.
De weg naar superintelligentie: wat is AI (kunstmatige intelligentie)?
Zoals veel mensen op deze planeet ben je gewend om kunstmatige intelligentie te zien als een dwaas sciencefiction-idee. Maar de laatste tijd hebben veel serieuze mensen hun bezorgdheid getoond over dit stomme idee. Wat is er verkeerd?
Er zijn drie redenen die tot verwarring leiden rond de term AI:
We associëren AI met films. "Star Wars". "Terminator". "Een ruimte-odyssee 2001". Maar net als robots is de AI in deze films fictie. Dus Hollywood-tapes verdunnen het niveau van onze perceptie, AI wordt vertrouwd, vertrouwd en, natuurlijk, slecht.
Dit is een breed toepassingsgebied. Het begint met een rekenmachine in je telefoon en het ontwikkelen van zelfrijdende auto's tot iets ver in de toekomst dat een revolutie teweeg zal brengen in de wereld. AI staat voor al deze dingen, en het is verwarrend.
We gebruiken AI elke dag, maar vaak beseffen we het niet eens. Zoals John McCarthy, de uitvinder van de term 'kunstmatige intelligentie' in 1956, zei: 'Als het eenmaal werkt, noemt niemand het meer AI'. AI is meer een mythische voorspelling over de toekomst geworden dan iets echts. Tegelijkertijd heeft deze naam ook een smaak van iets uit het verleden dat nooit werkelijkheid is geworden. Ray Kurzweil zegt dat hij mensen AI hoort associëren met feiten uit de jaren 80, wat kan worden vergeleken met "beweren dat internet samen met de dotcoms in de vroege jaren 2000 is uitgestorven".
Laten we duidelijk zijn. Stop eerst met denken aan robots. De robot die de container is voor de AI bootst soms de menselijke vorm na, soms niet, maar de AI zelf is de computer in de robot. AI is een brein en een robot is een lichaam, als het al een lichaam heeft. Siri's software en data is bijvoorbeeld kunstmatige intelligentie, de stem van een vrouw is de personificatie van deze AI en er zijn geen robots in dit systeem.
Ten tweede heb je waarschijnlijk de term "singulariteit" of "technologische singulariteit" gehoord. Deze term wordt in de wiskunde gebruikt om een ongebruikelijke situatie te beschrijven waarin de gebruikelijke regels niet meer werken. In de natuurkunde wordt het gebruikt om het oneindig kleine en dichte punt van een zwart gat of het oorspronkelijke punt van de oerknal te beschrijven. Nogmaals, de wetten van de fysica werken er niet in. In 1993 schreef Vernor Vinge een beroemd essay waarin hij de term toepaste op een moment in de toekomst waarop de intelligentie van onze technologieën de onze overtreft - op welk punt het leven zoals we het kennen voor altijd zal veranderen, en de gebruikelijke regels van zijn bestaan werkt niet meer…. Ray Kurzweil heeft deze term verder verfijnd en erop gewezen dat de singulariteit zal worden bereikt wanneer de wet van de versnellende terugslag een extreem punt bereikt, wanneer de technologische vooruitgang zo snel gaat dat we de prestaties ervan niet meer opmerken, bijna oneindig snel. Dan leven we in een compleet nieuwe wereld. Veel experts zijn echter gestopt met het gebruik van deze term, dus laten we en we zullen er niet vaak naar verwijzen.
Ten slotte, hoewel er veel soorten of vormen van AI zijn die voortkomen uit het brede concept van AI, zijn de belangrijkste categorieën van AI afhankelijk van het kaliber. Er zijn drie hoofdcategorieën:
Gefocuste (zwakke) kunstmatige intelligentie (AI). UII is gespecialiseerd in één gebied. Onder deze AI's zijn er die de wereldkampioen schaken kunnen verslaan, maar dat is het dan ook. Er is er een die de beste manier kan bieden om gegevens op uw harde schijf op te slaan, en dat is alles.
Algemene (sterke) kunstmatige intelligentie. Soms ook wel AI op menselijk niveau genoemd. AGI verwijst naar een computer die zo slim is als een mens - een machine die in staat is om elke intellectuele actie uit te voeren die inherent is aan een persoon. Het maken van AGI is veel moeilijker dan AGI, en daar zijn we nog niet aan toegekomen. Professor Linda Gottfredson beschrijft intelligentie als "in algemene zin, psychisch potentieel, dat onder andere het vermogen omvat om te redeneren, plannen, problemen op te lossen, abstract te denken, complexe ideeën te begrijpen, snel te leren en te leren van ervaring."AGI zou dit allemaal net zo gemakkelijk moeten kunnen doen als u.
Kunstmatige superintelligentie (ISI). Oxford-filosoof en AI-theoreticus Nick Bostrom definieert superintelligentie als "intelligentie die veel slimmer is dan de beste menselijke geesten op vrijwel elk gebied, inclusief wetenschappelijke creativiteit, algemene wijsheid en sociale vaardigheden." Kunstmatige superintelligentie omvat zowel een computer die iets slimmer is dan een persoon als een computer die in welke richting dan ook biljoenen keren slimmer is. ISI is de reden voor de groeiende interesse in AI, evenals het feit dat de woorden "extinctie" en "onsterfelijkheid" vaak voorkomen in dergelijke discussies.
Tegenwoordig hebben mensen de allereerste fase van het AI-kaliber - AI - op veel manieren al veroverd. De AI-revolutie is een reis van AGI via AGI naar ISI. Dit pad zullen we misschien niet overleven, maar het zal zeker alles veranderen.
Laten we eens goed bekijken hoe de leidende denkers in het veld dit pad zien en waarom deze revolutie sneller zou kunnen gaan dan je zou denken.
Waar zijn we in deze stroom?
Gerichte kunstmatige intelligentie is machine-intelligentie die gelijk is aan of groter is dan menselijke intelligentie of efficiëntie bij het uitvoeren van een specifieke taak. Een paar voorbeelden:
* Auto's zitten boordevol ICD-systemen, van computers die bepalen wanneer het antiblokkeersysteem in werking moet treden tot een computer die de parameters van het brandstofinjectiesysteem bepaalt. De zelfrijdende auto's van Google, die momenteel worden getest, zullen robuuste AI-systemen bevatten die de wereld om hen heen waarnemen en erop reageren.
* Uw telefoon is een kleine ICD-fabriek. Wanneer u de kaarten-app gebruikt, aanbevelingen krijgt voor het downloaden van apps of muziek, het weer voor morgen bekijkt, met Siri praat of iets anders doet - u gebruikt AI.
* Uw e-mailspamfilter is een klassiek type AI. Het begint met uitzoeken hoe u spam kunt scheiden van bruikbare e-mails en leert vervolgens hoe het uw e-mails en voorkeuren afhandelt.
* En dat ongemakkelijke gevoel toen je gisteren in een zoekmachine op zoek was naar een schroevendraaier of een nieuwe plasma, maar vandaag aanbiedingen van handige winkels op andere sites ziet? Of wanneer het sociale netwerk je aanraadt om interessante mensen als vrienden toe te voegen? Dit zijn allemaal AI-systemen die samenwerken, uw voorkeuren bepalen, gegevens over u van internet halen, steeds dichter bij u komen. Ze analyseren het gedrag van miljoenen mensen en trekken op basis van deze analyses conclusies om de diensten van grote bedrijven te verkopen of hun dienstverlening te verbeteren.
* Google Translate, een ander klassiek AI-systeem, is indrukwekkend goed in bepaalde dingen. Dat geldt ook voor spraakherkenning. Wanneer uw vliegtuig landt, wordt de terminal ervoor niet geïdentificeerd door een persoon. De prijs van het kaartje is hetzelfde. 'S Werelds beste dam-, schaken-, backgammon-, bulldozer- en andere spellen worden tegenwoordig vertegenwoordigd door eng gefocuste kunstmatige intelligentie.
* Google Zoeken is een gigantische AI die ongelooflijk slimme methoden gebruikt om pagina's te rangschikken en SERP's te bepalen.
En dit is alleen in de consumentenwereld. Geavanceerde IMD-systemen worden veel gebruikt in de militaire, productie- en financiële sector; in medische systemen (denk aan Watson van IBM) enzovoort.
IMD-systemen in hun huidige vorm vormen geen bedreiging. In het ergste geval kan een buggy of slecht geprogrammeerde AI leiden tot lokale rampen, stroomuitval, instorting van de financiële markten en dergelijke. Maar hoewel AGI niet in staat is een existentiële dreiging te creëren, moeten we de zaken breder zien - er wacht ons een verwoestende orkaan, waarvan AII de voorbode is. Elke nieuwe innovatie in AGI voegt een blok toe aan het pad dat leidt naar AGI en ISI. Of, zoals Aaron Saenz goed heeft opgemerkt, de AI's van onze wereld zijn als "de aminozuren van de oersoep van de jonge aarde" - maar levenloze componenten van het leven die op een dag zullen ontwaken.
De weg van AGI naar AGI: waarom is het zo moeilijk?
Niets onthult de complexiteit van menselijke intelligentie meer dan proberen een computer te maken die net zo slim is. Wolkenkrabbers bouwen, de ruimte in vliegen, de geheimen van de oerknal - dit is allemaal onzin in vergelijking met het herhalen van ons eigen brein of het tenminste gewoon begrijpen. Het menselijk brein is momenteel het meest complexe object in het bekende universum.
Misschien vermoedt u niet eens wat de moeilijkheid is bij het maken van AGI (een computer die in het algemeen slim zal zijn als persoon, en niet slechts op één gebied). Het bouwen van een computer die twee tiencijferige getallen in een fractie van een seconde kan vermenigvuldigen, is net zo eenvoudig als het pellen van peren. Iemand creëren die naar een hond en een kat kan kijken en kan vertellen waar de hond is en waar de kat is, is ongelooflijk moeilijk. Een AI maken die een grootmeester kan verslaan? Gemaakt. Probeer hem nu een alinea te laten lezen uit een zes jaar oud boek en niet alleen de woorden te begrijpen, maar ook hun betekenis. Google besteedt miljarden dollars om dit te doen. Bij complexe dingen - zoals berekeningen, financiële marktstrategieën berekenen, een taal vertalen - gaat de computer daar gemakkelijk mee om, maar met simpele dingen - zien, bewegen, waarnemen - nee. Zoals Donald Knuth het uitdrukte: "AI doet nu vrijwel alles wat 'denken' vereist, maar het kan niet omgaan met wat mensen en dieren doen zonder na te denken."
Als je nadenkt over de redenen hiervoor, zul je je realiseren dat dingen die voor ons eenvoudig lijken om te doen, alleen zo lijken omdat ze voor ons (en dieren) zijn geoptimaliseerd gedurende honderden miljoenen jaren van evolutie. Wanneer je naar een object reikt, voeren de spieren, gewrichten, botten van je schouders, ellebogen en handen onmiddellijk lange reeksen fysieke operaties uit, synchroon met wat je ziet, en bewegen je arm in drie dimensies. Het lijkt je eenvoudig, want de ideale software in je brein is verantwoordelijk voor deze processen. Deze eenvoudige truc maakt de procedure voor het registreren van een nieuw account door een verkeerd geschreven woord (captcha) in te voeren eenvoudig voor u en een hel voor een kwaadwillende bot. Voor ons brein is dat niet moeilijk: je moet alleen kunnen zien.
Aan de andere kant zijn grote getallen vermenigvuldigen of schaken nieuwe activiteiten voor biologische wezens, en we hadden niet genoeg tijd om ze te verbeteren (niet miljoenen jaren), dus het is niet moeilijk voor een computer om ons te verslaan. Denk er eens over na: zou je liever een programma maken dat grote getallen kan vermenigvuldigen, of een programma dat de letter B herkent in zijn miljoenen spellingen, in de meest onvoorspelbare lettertypen, met de hand of met een stok in de sneeuw?
Een eenvoudig voorbeeld: als je hiernaar kijkt, beseffen jij en je computer dat dit afwisselende vierkanten van twee verschillende tinten zijn.
Maar als je het zwart weghaalt, beschrijf je meteen het complete plaatje: cilinders, vlakken, driedimensionale hoeken, maar een computer kan dat niet.
Hij zal beschrijven wat hij ziet als een verscheidenheid aan tweedimensionale vormen in verschillende tinten, wat in principe waar is. Je hersenen doen heel veel werk door diepte, schaduwspel en licht in een foto te interpreteren. In de onderstaande afbeelding ziet de computer een tweedimensionale wit-grijs-zwarte collage, terwijl er in werkelijkheid een driedimensionale steen is.
En wat we zojuist hebben geschetst, is het topje van de ijsberg als het gaat om het begrijpen en verwerken van informatie. Om hetzelfde niveau met een persoon te bereiken, moet een computer het verschil begrijpen in subtiele gezichtsuitdrukkingen, het verschil tussen plezier, verdriet, tevredenheid, vreugde en waarom Chatsky goed is en Molchalin niet.
Wat te doen?
De eerste stap naar het bouwen van AGI: rekenkracht vergroten
Een van de noodzakelijke dingen die moet gebeuren om AGI mogelijk te maken, is het vergroten van de kracht van computerhardware. Als een kunstmatige-intelligentiesysteem net zo slim wil zijn als het brein, moet het qua verwerkingskracht de hersenen evenaren.
Een manier om dit vermogen te vergroten is door het totale aantal berekeningen per seconde (OPS) dat de hersenen kunnen produceren, en je kunt dit aantal bepalen door de maximale OPS voor elke hersenstructuur te berekenen en ze samen te voegen.
Ray Kurzweil concludeerde dat het voldoende is om een professionele schatting te maken van de OPS van één structuur en zijn gewicht ten opzichte van het gewicht van de hele hersenen, en deze vervolgens proportioneel te vermenigvuldigen om de totale schatting te krijgen. Klinkt een beetje dubieus, maar hij deed het vele malen met verschillende schattingen van verschillende gebieden en kwam altijd met hetzelfde aantal: in de orde van 10^16, of 10 quadriljoen OPS.
De snelste supercomputer ter wereld, de Chinese Tianhe-2, heeft dit aantal al overtroffen: hij kan ongeveer 32 biljard operaties per seconde uitvoeren. Maar Tianhe-2 beslaat 720 vierkante meter ruimte, verbruikt 24 megawatt aan energie (onze hersenen verbruiken slechts 20 watt) en kost 390 miljoen dollar. We hebben het niet over commercieel of wijdverbreid gebruik.
Kurzweil stelt voor dat we de gezondheid van computers beoordelen aan de hand van hoeveel OPS je kunt kopen voor $ 1.000. Wanneer dat aantal het menselijke niveau bereikt - 10 biljard OPS - kan AGI wel eens een deel van ons leven worden.
De Wet van Moore - de historisch betrouwbare regel dat de maximale rekenkracht van computers elke twee jaar verdubbelt - impliceert dat de ontwikkeling van computertechnologie, net als de beweging van de mens door de geschiedenis, exponentieel groeit. Als we dit vergelijken met de duizend dollar regel van Kurzweil, kunnen we ons nu 10 biljoen OPS veroorloven voor $ 1.000.
Computers voor $ 1.000 omzeilen de hersenen van een muis in hun rekenkracht en zijn duizend keer zwakker dan mensen. Dit lijkt een slechte indicator, totdat we ons herinneren dat computers een biljoen keer zwakker waren dan het menselijk brein in 1985, een miljard in 1995 en een miljoen in 2005. Tegen 2025 zouden we een betaalbare computer moeten hebben die de rekenkracht van onze hersenen evenaart.
De voor AGI benodigde brute kracht is dus al technisch beschikbaar. Binnen 10 jaar zal het China verlaten en zich over de hele wereld verspreiden. Maar rekenkracht alleen is niet genoeg. En de volgende vraag is: hoe voorzien we intelligentie op menselijk niveau van al deze kracht?
De tweede stap naar het creëren van AGI: het intelligentie geven
Dit deel is behoorlijk lastig. In werkelijkheid weet niemand echt hoe we een machine intelligent moeten maken - we proberen nog steeds uit te vinden hoe we een intelligentie op menselijk niveau kunnen creëren die een kat van een hond kan onderscheiden, een B in de sneeuw kan isoleren en een analyse kan maken van een tweederangs film. Er zijn echter een handvol vooruitstrevende strategieën en op een gegeven moment zou een van hen moeten werken.
1. Herhaal de hersenen
Deze optie is alsof wetenschappers in hetzelfde klaslokaal zitten met een kind dat erg slim is en goed in het beantwoorden van vragen; en zelfs als ze ijverig proberen de wetenschap te begrijpen, komen ze niet eens in de buurt van het inhalen van het slimme kind. Uiteindelijk besluiten ze: naar de hel, schrijf gewoon de antwoorden op zijn vragen af. Het is logisch: we kunnen geen supercomplexe computer bouwen, dus waarom niet een van de beste prototypes in het universum als basis nemen: ons brein?
De wetenschappelijke wereld werkt er hard aan om erachter te komen hoe onze hersenen werken en hoe evolutie zoiets complex heeft gecreëerd. Volgens de meest optimistische schattingen zullen ze dat pas in 2030 kunnen. Maar als we eenmaal alle geheimen van het brein, zijn efficiëntie en kracht begrijpen, kunnen we ons laten inspireren door zijn methoden bij het creëren van technologie. Een van de computerarchitecturen die de werking van de hersenen nabootst, is bijvoorbeeld een neuraal netwerk. Ze begint met een netwerk van transistoren "neuronen" die met elkaar zijn verbonden door input en output, en weet niets - zoals een pasgeboren baby. Het systeem "leert" door te proberen taken uit te voeren, handgeschreven tekst te herkennen en dergelijke. De verbindingen tussen transistoren worden versterkt bij een juist antwoord en verzwakt bij een onjuist antwoord. Na vele cycli van vragen en antwoorden vormt het systeem slimme neurale weefsels die zijn geoptimaliseerd voor specifieke taken. Het brein leert op een vergelijkbare manier, maar op een veel complexere manier, en terwijl we het blijven bestuderen, ontdekken we ongelooflijke nieuwe manieren om neurale netwerken te verbeteren.
Nog extremer plagiaat omvat een strategie die volledige hersenemulatie wordt genoemd. Doel: Om een echt brein in dunne plakjes te snijden, scan je ze allemaal, reconstrueer je het 3D-model nauwkeurig met software en vertaal je het in een krachtige computer. Dan hebben we een computer die officieel alles kan wat het brein kan: het moet alleen leren en informatie verzamelen. Als ingenieurs erin slagen, kunnen ze een echt brein nabootsen met zo'n ongelooflijke nauwkeurigheid dat, eenmaal gedownload naar een computer, de echte identiteit en het geheugen van het brein intact blijven. Als het brein van Vadim was voordat hij stierf, zal de computer ontwaken in de rol van Vadim, die nu een AGI op menselijk niveau zal zijn, en wij zullen op zijn beurt Vadim veranderen in een ongelooflijk intelligente ISI, wat hij zeker zal doen. blij mee zijn.
Hoe ver zijn we verwijderd van het volledig nabootsen van de hersenen? In werkelijkheid hebben we zojuist de hersenen van een millimeter platworm nagebootst, die in totaal 302 neuronen bevat. Het menselijk brein bevat 100 miljard neuronen. Als het zinloos lijkt om dat aantal te bereiken, denk dan eens aan de exponentiële groeisnelheid van de vooruitgang. De volgende stap is de emulatie van het mierenbrein, dan is er een muis, en dan is een persoon binnen handbereik.
2. Probeer het spoor van evolutie te volgen
Welnu, als we besluiten dat de antwoorden van een slim kind te complex zijn om af te schrijven, kunnen we proberen in zijn voetsporen te treden bij het leren en voorbereiden op examens. Wat weten we? Het is heel goed mogelijk om een computer te bouwen die zo krachtig is als een brein - de evolutie van onze eigen hersenen heeft dit bewezen. En als de hersenen te complex zijn om na te bootsen, kunnen we proberen evolutie na te bootsen. Het punt is dat, zelfs als we de hersenen kunnen nabootsen, het misschien hetzelfde is als proberen een vliegtuig te bouwen door belachelijk zwaaiende handen die de bewegingen van de vleugels van vogels nabootsen. Vaker wel dan niet slagen we erin om goede machines te maken met een machinegerichte aanpak, in plaats van een exacte imitatie van biologie.
Hoe evolutie te simuleren om AGI te bouwen? Deze methode genaamd "genetische algoritmen" zou ongeveer als volgt moeten werken: er moet een productief proces zijn en de evaluatie ervan, en het zal zichzelf keer op keer herhalen (op dezelfde manier waarop biologische wezens "bestaan" en "worden geëvalueerd" door hun vermogen te reproduceren). Een groep computers zal taken uitvoeren en de meest succesvolle zullen hun kenmerken delen met andere computers, "output". De minder succesvolle worden genadeloos in de vuilnisbak van de geschiedenis gegooid. Door vele, vele iteraties zal dit natuurlijke selectieproces betere computers opleveren. De uitdaging ligt in het creëren en automatiseren van veredelings- en evaluatiecycli zodat het evolutieproces vanzelf doorgaat.
Het nadeel van het kopiëren van evolutie is dat het evolutie miljarden jaren kost om iets te doen, en we hebben maar een paar decennia nodig om het te doen.
Maar we hebben veel voordelen, in tegenstelling tot evolutie. Ten eerste heeft het niet de gave van vooruitziendheid, het werkt bij toeval - het geeft bijvoorbeeld nutteloze mutaties af - en we kunnen het proces beheersen binnen het kader van de toegewezen taken. Ten tweede heeft evolutie geen doel, inclusief het verlangen naar intelligentie - soms wint een bepaalde soort in de omgeving niet ten koste van intelligentie (omdat deze meer energie verbruikt). Aan de andere kant kunnen we ons richten op het vergroten van intelligentie. Ten derde, om intelligentie te kiezen, moet evolutie een aantal verbeteringen van derden doorvoeren - zoals het herverdelen van het energieverbruik door cellen - we kunnen het overschot eenvoudigweg verwijderen en elektriciteit gebruiken. We zullen ongetwijfeld sneller zijn dan de evolutie - maar nogmaals, het is niet duidelijk of we het kunnen overtreffen.
3. Laat computers aan zichzelf over
Dit is de laatste kans wanneer wetenschappers volledig wanhopig zijn en proberen een programma voor zelfontwikkeling te programmeren. Deze methode kan echter de meest veelbelovende van allemaal blijken te zijn. Het idee is dat we een computer bouwen die over twee basisvaardigheden beschikt: onderzoek doen naar AI en codeveranderingen op zich - waardoor hij niet alleen meer kan leren, maar ook zijn eigen architectuur kan verbeteren. We kunnen computers opleiden tot hun eigen computeringenieurs, zodat ze zichzelf kunnen ontwikkelen. En hun belangrijkste taak zal zijn om erachter te komen hoe ze slimmer kunnen worden. We zullen hier meer in detail over praten.
Dit kan allemaal heel snel gebeuren
Snelle vooruitgang in hardware en experimenten met software lopen parallel, en AGI kan om twee hoofdredenen snel en onverwacht ontstaan:
1. Exponentiële groei is intens, en wat lijkt op de stappen van een slak, kan zich snel ontwikkelen tot sprongen van zeven mijl - deze-g.webp
geanimeerde afbeelding: hi-news.ru/wp-content/uploads/2015/02/gif.gif
2. Als het op software aankomt, lijkt de vooruitgang misschien traag, maar dan verandert één doorbraak onmiddellijk de snelheid van de vooruitgang (goed voorbeeld: in de dagen van het geocentrische wereldbeeld was het moeilijk voor mensen om het werk van het universum te berekenen, maar de ontdekking van heliocentrisme maakte alles veel gemakkelijker). Of, als het gaat om een computer die zichzelf verbetert, kunnen de dingen extreem traag lijken, maar soms scheidt slechts één wijziging van het systeem het van een duizendvoudige efficiëntie in vergelijking met een menselijke of een oudere versie.
De weg van AGI naar ISI
Op een gegeven moment zullen we zeker AGI krijgen - algemene kunstmatige intelligentie, computers met een algemeen menselijk intelligentieniveau. Computers en mensen zullen samenleven. Of dat doen ze niet.
Het punt is dat AGI met hetzelfde niveau van intelligentie en rekenkracht als mensen nog steeds aanzienlijke voordelen zal hebben ten opzichte van mensen. Bijvoorbeeld:
Apparatuur
Snelheid. Hersenneuronen werken op 200 Hz, terwijl moderne microprocessors (die aanzienlijk langzamer zijn dan wat we zullen krijgen tegen de tijd dat de AGI wordt gemaakt) werken op een frequentie van 2 GHz, of 10 miljoen keer sneller dan onze neuronen. En de interne communicatie van de hersenen, die met een snelheid van 120 m / s kan bewegen, is aanzienlijk inferieur aan het vermogen van computers om optica en de snelheid van het licht te gebruiken.
Grootte en opslag. De grootte van de hersenen wordt beperkt door de grootte van onze schedels en kan niet groter worden, anders duurt interne communicatie met een snelheid van 120 m / s te lang om van de ene structuur naar de andere te reizen. Computers kunnen worden uitgebreid tot elke fysieke grootte, meer hardware gebruiken, RAM vergroten, langetermijngeheugen - dit alles gaat onze mogelijkheden te boven.
Betrouwbaarheid en duurzaamheid. Niet alleen het computergeheugen is nauwkeuriger dan het menselijk geheugen. Computertransistors zijn nauwkeuriger dan biologische neuronen en zijn minder vatbaar voor verslechtering (en ze kunnen inderdaad worden vervangen of gerepareerd). De hersenen van mensen raken sneller vermoeid, terwijl computers non-stop kunnen werken, 24 uur per dag, 7 dagen per week.
Software
Mogelijkheid tot bewerken, moderniseren, een breder scala aan mogelijkheden. In tegenstelling tot het menselijk brein kan een computerprogramma eenvoudig worden gecorrigeerd, bijgewerkt en geëxperimenteerd. Gebieden waarin de menselijke hersenen zwak zijn, kunnen ook worden opgewaardeerd. De menselijke software voor het zien is prachtig ontworpen, maar vanuit technisch oogpunt zijn de mogelijkheden ervan nog steeds zeer beperkt - we zien alleen in het zichtbare spectrum van licht.
Collectief vermogen. Mensen zijn superieur aan andere soorten in termen van grote collectieve intelligentie. Beginnend met de ontwikkeling van taal en de vorming van grote gemeenschappen, via de uitvindingen van schrijven en drukken, en nu gestimuleerd door tools zoals internet, is de collectieve intelligentie van mensen een belangrijke reden waarom we onszelf de kroon van de evolutie kunnen noemen. Maar computers zullen nog steeds beter zijn. Het wereldwijde netwerk van kunstmatige intelligenties die aan één programma werken, voortdurend synchroniseren en zichzelf ontwikkelen, stelt u in staat om direct nieuwe informatie aan de database toe te voegen, waar u deze ook krijgt. Zo'n groep zal ook in staat zijn om als geheel naar één doel toe te werken, omdat computers niet lijden aan afwijkende meningen, motivatie en eigenbelang zoals mensen.
De AI, die waarschijnlijk AGI zal worden door middel van geprogrammeerde zelfverbetering, zal "intelligentie op menselijk niveau" niet als een belangrijke mijlpaal zien - deze mijlpaal is alleen belangrijk voor ons. Hij zal geen reden hebben om op dit twijfelachtige niveau te stoppen. En gezien de voordelen die zelfs AGI op menselijk niveau zal hebben, is het vrij duidelijk dat menselijke intelligentie een korte flits zal zijn in de race om intellectuele superioriteit.
Deze ontwikkeling van gebeurtenissen kan ons zeer, zeer verbazen. Het feit is dat, vanuit ons oogpunt, a) het enige criterium dat ons in staat stelt de kwaliteit van intelligentie te bepalen, de intelligentie van dieren is, die standaard lager is dan de onze; b) voor ons zijn de slimste mensen ALTIJD slimmer dan de domste. Zoals dat:
Dat wil zeggen, terwijl de AI gewoon ons ontwikkelingsniveau probeert te bereiken, zien we hoe het slimmer wordt, het niveau van het dier nadert. Wanneer hij het eerste menselijke niveau bereikt - Nick Bostrom gebruikt de term "landidioot" - zullen we blij zijn: "Wauw, hij is al als een idioot. Koel! " Het enige is dat in het algemene spectrum van intelligentie van mensen, van de dorpsidioot tot Einstein, het bereik klein is - daarom, nadat de AI het niveau van de idioot heeft bereikt en AGI wordt, zal het plotseling slimmer worden dan Einstein.
En wat zal er daarna gebeuren?
Explosie van intelligentie
Ik hoop dat je het interessant en leuk vond, want vanaf dat moment wordt het onderwerp dat we bespreken abnormaal en griezelig. We moeten even pauzeren en onszelf eraan herinneren dat elk feit dat boven en buiten wordt vermeld echte wetenschap is en echte voorspellingen voor de toekomst, gedaan door de meest vooraanstaande denkers en wetenschappers. Houd gewoon in gedachten.
Dus, zoals we hierboven aangaven, bevatten al onze moderne modellen voor het bereiken van AGI de optie wanneer AI zichzelf verbetert. En zodra hij AGI wordt, worden zelfs de systemen en methoden waarmee hij opgroeide slim genoeg om zichzelf te verbeteren - als ze dat willen. Een interessant concept komt naar voren: recursieve zelfverbetering. Het werkt zo.
Een bepaald AI-systeem op een bepaald niveau - zeg maar een dorpsidioot - is geprogrammeerd om zijn eigen intelligentie te verbeteren. Nadat het zich heeft ontwikkeld - zeg maar tot het niveau van Einstein - begint zo'n systeem zich al te ontwikkelen met het intellect van Einstein, het kost minder tijd om zich te ontwikkelen en de sprongen worden steeds groter. Ze zorgen ervoor dat het systeem beter presteert dan elke persoon en steeds beter wordt. Met zijn snelle ontwikkeling stijgt AGI naar hemelse hoogten in zijn intelligentie en wordt een superintelligent ISI-systeem. Dit proces wordt een explosie van intelligentie genoemd en het is het duidelijkste voorbeeld van de wet van het versnellen van rendementen.
Wetenschappers discussiëren over hoe snel AI het AGI-niveau zal bereiken - de meesten geloven dat we AGI in 2040 zullen krijgen, in slechts 25 jaar, wat heel, heel weinig is volgens de normen van technologische ontwikkeling. Voortbordurend op de logische keten is het aannemelijk dat ook de transitie van AGI naar ISI zeer snel zal plaatsvinden. Zoals dat:
“Het heeft tientallen jaren geduurd voordat het eerste AI-systeem zijn laagste niveau van algemene intelligentie bereikte, maar het is er eindelijk van gekomen. De computer kan als vierjarige de wereld om zich heen begrijpen. Plotseling, letterlijk een uur na het bereiken van deze mijlpaal, produceert het systeem een geweldige natuurkundetheorie die algemene relativiteit en kwantummechanica combineert, wat geen mens kan doen. Na anderhalf uur wordt AI ISI, 170.000 keer slimmer dan welke mens dan ook."
We hebben niet eens de juiste termen om superintelligentie van deze omvang te beschrijven. In onze wereld betekent "slim" een persoon met een IQ van 130, "dom" - 85, maar we hebben geen voorbeelden van mensen met een IQ van 12.952. Daar zijn onze heersers niet voor ontworpen.
De geschiedenis van de mensheid vertelt ons duidelijk en duidelijk: samen met het intellect komt kracht en kracht. Dit betekent dat wanneer we kunstmatige superintelligentie creëren, dit het machtigste wezen in de geschiedenis van het leven op aarde zal zijn, en dat alle levende wezens, inclusief mensen, volledig in zijn macht zullen zijn - en dit kan over twintig jaar gebeuren.
Als ons magere brein in staat zou zijn om met wifi te komen, dan kan iets dat honderd, duizend, een miljard keer slimmer is dan wij gemakkelijk de positie van elk atoom in het universum op elk willekeurig moment berekenen. Alles wat magie kan worden genoemd, elke kracht die wordt toegeschreven aan een almachtige godheid - dit alles staat ter beschikking van de ISI. Technologie creëren om veroudering om te keren, elke ziekte te behandelen, honger en zelfs de dood uit te bannen, het weer te beheersen - alles zal plotseling mogelijk worden. Een onmiddellijk einde aan al het leven op aarde is ook mogelijk. De slimste mensen op onze planeet zijn het erover eens dat zodra kunstmatige superintelligentie in de wereld verschijnt, dit de verschijning van God op aarde zal markeren. En er blijft een belangrijke vraag.
