Mysterieus Projectvraag* van OpenAI baart zorgen onder experts. Kan hij echt gevaarlijk zijn voor de mensheid? Wat is er over hem bekend? Nadat Sam Altman vorige week aanvankelijk werd ontslagen en hij en het team bijna verhuisden Microsoft, daarna keerde hij terug naar zijn werkplek (daarover wij schreven hier), OpenAI is weer in het nieuws. Deze keer vanwege wat sommige onderzoekers een mogelijke bedreiging voor de mensheid noemen. Ja, je leest het goed: een bedreiging voor de mensheid.
De echte omwenteling in de technologiewereld werd veroorzaakt door Project Q* – een niet bekendgemaakt project van algemene kunstmatige intelligentie (AGI) – uitgesproken als Q-Star. Hoewel dit project zich nog in de beginfase bevindt, wordt het beschouwd als werkelijk baanbrekend in de AGI-ontwikkelingen. Sommigen zien het echter als een gevaar voor de mensheid.
Een geheim kunstmatige-intelligentieproject ontwikkeld door het beroemde kunstmatige-intelligentielaboratorium OpenAI heeft het potentieel om een revolutie teweeg te brengen in de technologie en de samenleving in het algemeen. Maar het roept ook enkele ethische vragen op over de risico's. Terwijl details over de verbazingwekkende capaciteiten van Project Q* naar voren komen, ontstaat er steeds meer speculatie over wat het zou kunnen betekenen voor de toekomst van de mensheid.
Ook interessant: Geschiedenis van OpenAI: wat het was en wat ons te wachten staat
Wat is kunstmatige algemene intelligentie (AGI)?
Om de hype rondom Project Q* (Q-Star) te begrijpen, moeten we eerst proberen te begrijpen waar het concept van Artificial General Intelligence (AGI) over gaat. Terwijl de huidige kunstmatige intelligentiesystemen uitblinken in beperkte, specifieke taken zoals schaken of het genereren van beelden, verwijst algemene kunstmatige intelligentie naar machines die op veel terreinen op menselijk niveau kunnen leren en denken. Dat wil zeggen dat ze als kleine kinderen op school bijvoorbeeld de basisbeginselen van wiskunde, scheikunde, biologie, enz. kunnen studeren.
Algemene kunstmatige intelligentie (AGI) is een soort machine-intelligentie die hypothetisch menselijke intelligentie of gedrag kan nabootsen, met het vermogen om dat potentieel te leren en toe te passen om een verscheidenheid aan problemen op te lossen. AGI wordt ook wel sterke kunstmatige intelligentie, volledige kunstmatige intelligentie of kunstmatige intelligentie op menselijk niveau genoemd. Algemene AI verschilt van zwakke of beperkte AI, die alleen binnen bepaalde parameters specifieke of gespecialiseerde taken kan uitvoeren. ZHI zal vanuit verschillende kennisgebieden zelfstandig diverse complexe problemen kunnen oplossen.
Het creëren van kunstmatige intelligentie is de belangrijkste focus van onderzoek naar kunstmatige intelligentie door bedrijven als DeepMind en Anthropic. CSI is een zeer populair onderwerp in de sciencefictionliteratuur en kan toekomstig onderzoek vormgeven. Sommigen beweren dat het mogelijk is om binnen jaren of decennia een UCI op te richten, terwijl anderen beweren dat dit een eeuw of langer kan duren. Maar er zijn mensen die geloven dat dit nooit zal worden bereikt. Sommigen hebben het begin van een URI in GPT-3 gezien, maar deze lijkt nog lang niet aan de basiscriteria te voldoen.
De creatie van kunstmatige algemene intelligentie (AGI) wordt door onderzoekers beschouwd als de heilige graal van kunstmatige intelligentie, een theoretische mogelijkheid die al lang tot hun verbeelding spreekt. Daarom veroorzaakte de verschijning van een dergelijk project als OpenAI Project Q* een grote weerklank in de wereld van onderzoek naar algoritmen voor kunstmatige intelligentie. Hoewel iedereen begrijpt dat dit slechts de eerste stappen zijn, bijna blindelings, naar een wereld waarin kunstmatige intelligentie dezelfde capaciteiten zal hebben als mensen, of zelfs hoger.
Ook interessant: Alles over Microsoft Copiloot: de toekomst of de verkeerde kant op?
Wat is Project Q*?
Project Q* is geen typisch algoritme omdat het een kunstmatige-intelligentiemodel is dat steeds meer het kunstmatige algemene intelligentie-model (AGI) benadert. Dit betekent dat Project Q*, in tegenstelling tot ChatGPT, betere denk- en cognitieve vaardigheden vertoont in vergelijking met andere algoritmen. ChatGPT reageert momenteel op vragen op basis van een enorme hoeveelheid feitelijk materiaal, maar met AGI zal het AI-model leren redeneren en het vermogen om voor zichzelf te denken en te begrijpen. Het is al bekend dat Project Q* in staat is eenvoudige wiskundige problemen op te lossen die geen deel uitmaakten van het trainingsmateriaal. Hierin zien sommige onderzoekers een belangrijke stap in de richting van de creatie van algemene kunstmatige intelligentie (AGI). OpenAI definieert AGI als kunstmatige intelligentiesystemen die slimmer zijn dan mensen.
De ontwikkeling van Project Q* wordt beheerd door OpenAI-hoofdwetenschapper Ilya Sutzkever, en de basis ervan werd onderbouwd door onderzoekers Jakub Pakhotsky en Shimon Sidor.
Het vermogen van een algoritme om wiskundige problemen zelfstandig op te lossen, zelfs als deze problemen geen deel uitmaakten van de trainingsdataset, wordt beschouwd als een doorbraak op het gebied van kunstmatige intelligentie. Meningsverschillen binnen het team over dit project houden verband met de tijdelijke verwijdering van OpenAI CEO Sam Altman. Het is bekend dat voordat Altman werd ontslagen, een groep bedrijfsonderzoekers een brief naar de raad van bestuur stuurde waarin werd gewaarschuwd voor de ontdekking van AI die een bedreiging voor de mensheid zou kunnen vormen. Die brief, waarin naar verluidt het Project Q*-algoritme werd besproken, werd aangehaald als een van de factoren die tot het ontslag van Altman leidden. De mogelijkheden van Project Q* en de potentiële risico's die het met zich mee kan brengen, worden echter nog niet volledig begrepen, omdat de details onbekend zijn. Er is niets vrijgegeven aan het grote publiek.
In de kern is Project Q* een modelvrije leermethode voor versterking die afwijkt van traditionele modellen doordat er geen voorafgaande kennis van de omgeving vereist is. In plaats daarvan leert het door ervaring en past het acties aan op basis van beloningen en straffen. Technische experts zijn van mening dat Project Q* uitstekende capaciteiten zal kunnen verwerven door vaardigheden te verwerven die vergelijkbaar zijn met menselijke cognitieve vaardigheden.
Het is echter dit kenmerk dat het meest indrukwekkend is in het nieuwe model van kunstmatige intelligentie dat onderzoekers en critici zorgen baart en hun angst doet rijzen over de toepassingen van de technologie in de echte wereld en de onderliggende risico's die daarmee gepaard gaan. Waar zijn wetenschappers en onderzoekers zo bang voor? Laten we het uitzoeken.
Ook interessant: Hoe u uw thuisapparaten kunt updaten om Wi-Fi 6 te ondersteunen
Ze zijn bang voor het onbekende
Mensen zijn altijd bang geweest voor het onbekende, het onkenbare. Dit is de menselijke essentie, een kenmerk van ons karakter en onze manier van leven.
De technologiewereld hoorde in november 2023 na Reuters over Project Q* gemeld over een interne brief geschreven door bezorgde OpenAI-onderzoekers. De inhoud van de brief was vaag, maar naar verluidt werd de mogelijkheden van Project Q* serieus geanalyseerd. Zoals ik hierboven al zei, wordt er zelfs gespeculeerd dat het deze brief was die aanleiding gaf tot het aftreden van Sam Altman.
Deze explosieve ontdekking heeft aanleiding gegeven tot verschillende hypothesen over de aard van Project Q*. Wetenschappers hebben gesuggereerd dat dit een revolutionair natuurlijk taalmodel voor AI zou kunnen zijn. Een soort uitvinder van nieuwe algoritmen die deze gaat maken voor andere vormen van AI, of iets heel anders op dit gebied.
De provocerende opmerkingen van Altman over algemene kunstmatige intelligentie als de ‘gemiddelde werknemer’ hebben al aanleiding gegeven tot bezorgdheid over de baanzekerheid en de onstuitbare uitbreiding van de invloed van AI. Dit mysterieuze algoritme wordt gedefinieerd als een mijlpaal in de ontwikkeling van kunstmatige algemene intelligentie (AGI). Iedereen begrijpt echter dat deze mijlpaal duur is. En het gaat nu niet om geld. Het niveau van cognitieve vaardigheden dat door het nieuwe AI-model wordt beloofd, brengt onzekerheid met zich mee. Wetenschappers van OpenAI beloven dat AI op menselijk niveau zal denken. En dit betekent dat we veel dingen niet kunnen weten en de gevolgen niet kunnen voorspellen. En hoe onbekender, hoe moeilijker het is om je voor te bereiden om het probleem onder controle te krijgen of te repareren. Dat wil zeggen, het nieuwe algoritme is in staat tot zelfverbetering en ontwikkeling. Dit hebben we al ergens gezien...
Ook interessant: Windows 12: wat wordt het nieuwe besturingssysteem
Verbazingwekkende details over de mogelijkheden van Project Q*
Toen er meer informatie naar boven kwam, schokte dat veel onderzoekers. De eerste aanwijzingen waren dat Project Q* een geweldig talent voor wiskunde had. In tegenstelling tot een rekenmachine die mechanische berekeningen uitvoert, kan Project Q* logica en redenering gebruiken om complexe wiskundige problemen op te lossen. Dit wiskundige vermogen om te generaliseren duidt op de ontwikkeling van een brede intelligentie.
Autonome training van Project Q*, zonder de specifieke datasets die worden gebruikt om typische AI’s te trainen, zal ook een enorme stap voorwaarts zijn. Het blijft onbekend of Project Q* nog andere vaardigheden beheerst. Maar zijn wiskundige vaardigheden zijn op zichzelf zo verbazingwekkend dat ze zelfs ervaren onderzoekers in verwarring brengen.
Lees ook: Human Brain Project: een poging om het menselijk brein te imiteren
De weg naar dominantie van Project Q*?
Er zijn op dit gebied zowel optimistische als pessimistische scenario's. Optimisten zullen zeggen dat Project Q* de vonk zou kunnen zijn die tot een technologische doorbraak leidt. Terwijl het systeem zichzelf recursief verbetert, kan zijn bovennatuurlijke intelligentie een aantal van de belangrijkste problemen van de mensheid helpen oplossen, van klimaatverandering tot ziektebestrijding. Project Q* kan saai werk automatiseren en onze vrije tijd vrijmaken voor andere activiteiten.
Hoewel er nog veel meer pessimistische opties zijn. Soms zijn ze heel redelijk en hebben ze een bepaalde betekenis.
Verlies van banen
Snelle verschuivingen in de ontwikkeling van technologie kunnen de individuele aanpassing van mensen overtreffen. Dit zal leiden tot het verlies van een of meer generaties die niet in staat zullen zijn de noodzakelijke vaardigheden of kennis te verwerven om zich aan de nieuwe realiteit aan te passen. Dat betekent dat dit op zijn beurt betekent dat minder mensen hun baan kunnen behouden. In plaats daarvan zal het worden uitgevoerd door machines, geautomatiseerde systemen en robots. Het antwoord is echter niet zo eenduidig als het gaat om gekwalificeerde specialisten. Bovendien kunnen er nieuwe beroepen verschijnen die specifiek verband houden met de ontwikkeling van algoritmen voor kunstmatige intelligentie. Maar er zijn nog steeds risico's, en de mensheid heeft niet het recht deze te negeren.
Het gevaar van ongecontroleerde macht
Als een AI die zo krachtig is als Project Q* in handen valt van mensen met snode bedoelingen, riskeert dit catastrofale gevolgen voor de mensheid. Zelfs zonder mogelijk kwade bedoelingen kan het besluitvormingsniveau van Project Q* tot schadelijke resultaten leiden, wat het cruciale belang van een zorgvuldige evaluatie van de toepassing ervan onderstreept.
Als Project Q* slecht is geoptimaliseerd voor menselijke behoeften, kan het schade aanrichten omdat het bepaalde willekeurige meetgegevens kan maximaliseren. Of het kan een politieke dimensie hebben, zoals het gebruik ervan voor staatstoezicht of repressie. Een open debat rond de impactanalyse van Project Q* zal helpen mogelijke scenario's voor de ontwikkeling van het ZHI te definiëren.
Staat ons een confrontatie tussen mens en machine te wachten?
Hollywood heeft in zijn films al veel scenario's van een dergelijke confrontatie gecreëerd. We herinneren ons allemaal het beroemde SkyNet en de gevolgen van een dergelijke ontdekking. Misschien moeten OpenAI-onderzoekers deze film nog eens bekijken?
De mensheid moet signalen en uitdagingen accepteren en voorbereid zijn op wat er kan gebeuren. Een model van kunstmatige intelligentie dat als mens kan denken, kan op een dag onze vijand worden. Velen beweren dat wetenschappers in de toekomst precies zullen weten hoe ze de situatie onder controle kunnen houden. Maar als het om machines gaat, kun je de mogelijkheid niet volledig uitsluiten dat ze zullen proberen mensen over te nemen.
Ook interessant: Niet alles wat we AI noemen, is eigenlijk kunstmatige intelligentie. Dit is wat u moet weten
Waarom is OpenAI stil?
Ondanks de enorme publieke belangstelling voor Project Q* zwijgt het management van OpenAI over de details van het algoritme. Maar het interne lek laat groeiende spanningen in het laboratorium zien over prioriteiten en openheid van ontwikkelingen. Hoewel veel insiders van OpenAI de oprichting van Project Q* steunen, beweren critici dat transparantie een achterbank heeft ingenomen bij het versnellen van de wetenschappelijke vooruitgang tegen elke prijs. En sommige onderzoekers zijn bezorgd dat er ongelooflijke macht wordt gegeven aan systemen waarvan de doelen niet noodzakelijkerwijs samenvallen met menselijke waarden en ethiek. Deze onderzoekers zijn van mening dat de debatten over toezicht en verantwoordingsplicht gevaarlijk gedempt zijn geworden. Ze vereisen meer publiciteit en details.
Als makers van Project Q* moet OpenAI begrijpen dat ze over een technologie beschikken die de mogelijkheden voor de ontwikkeling van de samenleving enorm kan vergroten, of deze meedogenloos kan vernietigen. Dergelijke belangrijke innovaties verdienen veel meer transparantie om het vertrouwen van het publiek op te bouwen. Elke voorspeller van het machinetijdperk moet de risico's zorgvuldig afwegen tegen de voordelen. En de ontwikkelaars van Project Q* moeten voldoende wijsheid en zorg tonen om de samenleving veilig een nieuw tijdperk van algemene kunstmatige intelligentie binnen te leiden, dat wellicht eerder aanbreekt dan we ooit hadden kunnen vermoeden.
Wil algemene kunstmatige intelligentie nuttig en veilig zijn voor de mensheid, dan moet ervoor worden gezorgd dat deze veilig, ethisch en in overeenstemming met de waarden en doelstellingen van de mensheid functioneert. Dit vereist de ontwikkeling en implementatie van passende regelgeving, normen, regels en protocollen die de acties en het gedrag van de CSI zullen controleren en beperken. Bovendien moeten de potentiële bedreigingen en risico's die gepaard gaan met misbruik, ongelukken, onverenigbaarheden, manipulaties en conflicten die tot de vernietiging van de mensheid kunnen leiden, worden geëlimineerd. Ondertussen, investeerders en Microsoft ze wachten met spanning op een verkoopbaar product dat winst kan opleveren, wat ongetwijfeld in strijd is met de noodzaak om verantwoordelijk te handelen. Laten we hopen dat het gezond verstand zegeviert.
Lees ook: