Stel je eens voor: onze maatschappij wordt volledig gerund door computers die wij niet kunnen begrijpen en dus ook niet kunnen controleren. Het decor voor een spannende Sci-Fi film? Niet als het aan IT-goeroe Ray Kurzweil ligt. Hij voorspelt dat dit over 27 jaar de realiteit zal zijn. Dit is het punt op de horizon waarna technologische ontwikkelingen ‘te maf worden om te voorspellen’. Het heeft zelfs een officiële naam: de singulariteit, en als je deze woorden leest is de kans groot dat je het nog bewust gaat meemaken. Zit je lekker? Mooi, dan kunnen we het nu gaan hebben over hoe deze singulariteit het begin is van het einde van de mens.

Een kwestie van tellen

De voorspelling van het einde van de mensheid in haar huidige vorm is volgens Kurzweil een kwestie van tellen. Van 1 tot 1 miljard, bijvoorbeeld. Gewoon zoals je gewend bent om te tellen: van 1, naar 2, naar 3, enzovoorts. Enig idee hoe lang dat duurt? Maak de komende 32 jaar je agenda maar leeg. Ervan uitgaande dat je niet slaapt, eet of drinkt tussendoor. Wiskundigen noemen dit een ‘lineaire sequentie’: elke stap voorwaarts is precies even groot als de vorige. Heel anders dan een lineaire sequentie is de exponentiële sequentie, waarbij elke stap twee keer zo groot is als de vorige. Dus: 1, 2, 4, 8, 16, 32, etc. Het tellen naar een miljard gaat nu een stuk sneller: binnen 30 stappen ben je klaar.

Waarom is dit relevant voor de ondergang van de mens? De rekenkracht van computerchips volgt al decennialang een exponentiële curve, waarbij deze elk jaar verdubbelt en de kosten om de chips te maken elk jaar halveren. Als deze ontwikkeling doorzet (en er is geen reden om aan te nemen dat dit niet zo zal zijn), is er volgens Kurzweil in 2045 een Artificiële Intelligentie (AI) die een miljard keer krachtiger is dan de optelsom van de totale menselijke intelligentie. Met andere woorden: de totale rekenkracht van de homo sapiens – de piek waar wij 315 duizend jaar voor nodig hebben gehad – zal binnen honderd jaar na het verschijnen van de eerste computerchip voorbijgestreefd zijn door onze technologische nazaten. Het is algemeen geaccepteerd dat onze intelligentie de reden is voor onze uiteindelijke dominantie over alle andere soorten op aarde. Als dat inderdaad waar is, zouden de komende centennia niet alleen het einde van de mens kunnen betekenen, maar ook die van de biologische evolutie an sich. Anthony Agguire, stichter van het Future of Life Institute vatte het begrijpelijk samen: “Mensen bepalen wat er gebeurt op de aarde. Als we iets uitvinden dat véél slimmer is dan wij zijn, véél effectiever en véél beter in het bereiken van doelen, wat is dan onze rol nog in die wereld?”

Spirituele machines

Er zijn ook homo sapientes die hoop hebben. Hun argument luidt dat intelligentie méér is dan rekenkracht alleen. Dat er ‘iets’ is aan de mens dat nooit nagebootst kan worden, namelijk ons bewustzijn. Dit bewustzijn is voorbehouden aan het biologische leven en kan nooit artificieel nagebootst worden. Hebben ze gelijk? Niemand die het je kan vertellen, omdat we nog maar heel weinig weten over wat bewustzijn precies is en hoe het tot stand komt. Het is in ieder geval een vraag die we voorlopig niet kunnen beantwoorden vanuit een wetenschappelijk perspectief. Wat intelligentie is, hoe we technologie moeten inzetten en hoe (en of) we kunnen en moeten voorkomen dat computers de boel overnemen, zijn vragen die voorlopig behoren tot het domein van filosofie, en dan met name van de ethiek. En het is juist die ethiek, het domein van goed en kwaad, waar Kurzweil een kleine kans van een menselijk overleven ziet. Computers zijn veel beter dan mensen in logica, geheugen en rekenkracht. Maar als de menselijke ervaring meer is dan een overlevingssysteem van input–throughput–output, zijn het menselijke waarden en spiritualiteit waar hij onze redding ziet.

Niet dat we kans maken in onze huidige vorm, want daar is hij vrij duidelijk over. Maar als we iets blijken te kunnen waartoe een algoritme niet in staat blijkt te zijn, zouden we kunnen samensmelten met onze techniek. Dit staat bekend als transhumanisme. Alleen op deze manier zou de mens een gedeelte van zijn identiteit kunnen behouden en zijn erfenis veilig kunnen stellen in een symbiose tussen mens en machine. Spiritual machines, noemt Kurzweil ons in die relatie. Vooralsnog beschouwen de meesten onder ons dit als een goddeloos huwelijk.

Denk in mogelijkheden

Zijn we gedoemd tot het vervangen van ons vlees en bloed door siliconen en  elektriciteit? Het technodebat over onze toekomst kent drie andere waarschijnlijke scenario’s:

Scenario Rode Knop
Als computers slimmer dreigen te worden dan wij zijn, kunnen we gewoon collectief besluiten om te stoppen met het slimmer maken van computers. Klinkt logisch, maar het is onwaarschijnlijk dat we een dergelijk besluit kunnen handhaven. Vooral omdat de exponentiële digitale ontwikkeling betekent dat de huidige prestaties van een heel leger aan Google-programmeurs waarschijnlijk evenaard kunnen worden door een paar verveelde pubers in de toekomst.

Scenario Human Zoo
Als onze artificial overlords de touwtjes ferm in handen hebben, hoeft dat niet te betekenen dat ze ons meteen uitroeien. Wellicht worden we een beschermde soort of een sentimentele attractie in de dierentuin die gewijd is aan het ontstaan van Artificiële Intelligentie. Tegelijkertijd zou een reservaat of een mensentuin wel ten koste gaan van kostbare serverruimte en onze eigen geschiedenis voorspelt niet veel goeds voor de overlevingskansen van diersoorten met een lagere vormen van intelligentie.

Scenario Skynet
Skynet is de naam van de AI die in de film Terminator uit 1984 ineens zelfbewust wordt en de boel overneemt. Met meedogenloze efficiëntie wordt de menselijke beschaving gereduceerd tot een paar clubjes overgebleven rebellen met kapotte kleren. Zoiets zou zelfs het resultaat van een ongelukje kunnen zijn. Bijvoorbeeld door een AI te programmeren om de opwarming van de aarde tegen te gaan. Doelmatig als ze zijn, kunnen ze zelfstandig besluiten dat de mens het probleem is en ingrijpen.

Deus ex Machina

Ongezellig hè? Welk scenario denk jij dat het wordt? Of is er nog een andere mogelijkheid die wij, denkende apen, nog niet hebben kunnen voorspellen? Misschien is er een AI nodig om een betere kansberekening te maken. Dat de technologische ontwikkeling een urgente, existentiële bedreiging vormt voor het bestaan van de mens krijgt bijval van knappe koppen. Naast Kurzweil waarschuwen onder anderen Stephen Hawking en Elon Musk voor onze ondergang. Laatstgenoemde is al bezig met Neuralink, een manier om onze hersenen direct te laten communiceren met onze technologie als eerste noodzakelijke stap naar het transhumanisme.

“God is dood,” verklaarde Nietzsche in 1882. In 2011 zei Stephen Hawking hetzelfde over filosofie; de wetenschap (vooral de natuurkunde) zou haar taak hebben overgenomen. Ironisch genoeg is het juist dankzij de inspanningen van de wetenschap en haar technologische ontwikkelingen, dat filosofie (en ook de theologie) weer nieuw bestaansrecht krijgen. Want de vraag of de menselijke ervaring méér is dan intelligentie lijkt verdacht veel op een reboot van de discussie over het al dan niet bestaan van de ziel. Het antwoord dat daaruit voortkomt, lijkt veel te gaan zeggen over het bestaansrecht van de mens en onze overlevingskansen op de lange termijn.

Geraadpleegde bronnen:

Bostrom, Nick (2014). Superintelligence: Paths, Dangers, Strategies (First ed.). Oxford, U.K.: Oxford University Press.
Despite advances, Artificial Intelligence still faces critics. ( 2018, 18 mei ). Geraadpleegd op 11 september 2018, van https://america.cgtn.com/2018/05/17/despite-advances-artificialintelligence-still-faces-critics
Kurzweil, R. (2006 . The Singularity is Near (Herz. ed.). New York, U.S.A: Penguin Group.
Russell, S. (2017, 23 oktober). Stephen Hawking: ‘Transcendence looks at the implications of artificial intelligence – but are we taking AI seriously enough?’. Geraadpleegd op 11 september 2018, van https://www.independent.co.uk/news/science/stephen-hawking-transcendence-looks-at-the-implications-of-artificialintelligence-but-are-we-taking-9313474.html