Over het idee dat kunstmatige intelligentie de mensheid omver kan werpen, wordt al tientallen jaren gedebatteerd en in januari 2021 gaven wetenschappers hun oordeel over de vraag of we een computer-superintelligentie op hoog niveau zouden kunnen controleren. Antwoord? Vrijwel zeker niet.
Het probleem is dat het beheersen van een supergeest die het menselijk begrip ver te boven gaat, een simulatie van die supergeest zou vereisen die we zouden kunnen analyseren. Maar als we het niet kunnen begrijpen, is het onmogelijk om zo'n simulatie te maken.
Regels als "mensen geen kwaad doen" kunnen alleen worden vastgesteld als we begrijpen met welke scenario's kunstmatige intelligentie (AI) zal komen, geloven de auteurs van een artikel uit 2021. Zodra het computersysteem werkt op een niveau dat de mogelijkheden van onze programmeurs te boven gaat, kunnen we geen grenzen meer stellen.
"Superintelligentie is een fundamenteel ander probleem dan het probleem dat gewoonlijk wordt bestudeerd onder de vlag van 'robotethiek'", schrijven de onderzoekers. "Dit komt omdat de supermind veelzijdig is en daarom potentieel in staat is om een verscheidenheid aan middelen te mobiliseren om doelen te bereiken die potentieel ondoorgrondelijk zijn voor mensen, laat staan controleerbaar."
Een deel van de redenering van het team komt van: opstoppingsproblemen, voorgesteld door Alan Turing in 1936. De uitdaging is om erachter te komen of het computerprogramma tot een conclusie komt en antwoordt (en stopt) of voor altijd blijft rondhangen om het antwoord te vinden.
Zoals Turing met hulp bewees intelligente wiskunde, hoewel we dit misschien weten voor sommige specifieke programma's, is het logischerwijs onmogelijk om een manier te vinden waarmee we dit kunnen weten voor elk potentieel programma dat ooit zou kunnen worden geschreven. Dit brengt ons terug bij AI, die in een superintelligente staat alle mogelijke computerprogramma's tegelijkertijd in zijn geheugen zou kunnen opslaan.
Ook interessant:
- OpenAI leerde kunstmatige intelligentie om commando's om te zetten in programmacode
- Kunstmatige intelligentie gaat op zoek naar zwaartekrachtgolven
Elk programma dat bijvoorbeeld is geschreven om te voorkomen dat een AI mensen schade toebrengt en de wereld vernietigt, kan al dan niet tot een conclusie komen (en stoppen) - het is wiskundig onmogelijk om hoe dan ook absoluut zeker te zijn, wat betekent dat het niet kan worden tegengehouden. "Het maakt het afschrikkingsalgoritme in feite onbruikbaar", zei computerwetenschapper Iyad Rahwan van het Max Planck Instituut voor Menselijke Ontwikkeling in Duitsland in januari.
Een alternatief voor het aanleren van AI-ethiek en verbodsbepalingen tegen het vernietigen van de wereld, waarvan geen enkel algoritme absoluut zeker kan zijn, zeggen de onderzoekers, is het beperken van de mogelijkheden van de supermind. Het kan bijvoorbeeld worden afgesloten van een deel van het internet of bepaalde netwerken.
De auteurs van een recente studie verwerpen dit idee ook, in de overtuiging dat het de reikwijdte van kunstmatige intelligentie zal beperken - ze zeggen, als we het niet gaan gebruiken om problemen op te lossen die de menselijke capaciteiten te boven gaan, waarom zou je het dan überhaupt creëren?
Als we kunstmatige intelligentie gaan bevorderen, weten we misschien niet eens wanneer een superintelligentie zal verschijnen, buiten onze controle, zo ondoorgrondelijk is het. Dit betekent dat we serieuze vragen moeten gaan stellen over waar we naartoe gaan.
"Een superintelligente machine die de wereld bestuurt, klinkt als sciencefiction", zegt computerwetenschapper Manuel Kebrian van het Max Planck Institute for Human Development. Maar er zijn al machines die zelfstandig enkele belangrijke taken uitvoeren, terwijl programmeurs niet helemaal begrijpen hoe ze dit geleerd hebben.
Daarom rijst de vraag of het op een gegeven moment oncontroleerbaar en gevaarlijk kan worden voor de mensheid...
Lees ook:
- Kunstmatige intelligentie slaagde erin een geschilderd schilderij van Picasso te reproduceren
- Kunstmatige intelligentie helpt verkeersongevallen te voorspellen voordat ze zich voordoen