Een gewone speler, en niet eens van het hoogste niveau, versloeg het leidende systeem kunstmatige intelligentie in het bordspel Go, wat als een verrassing kwam, omdat de overwinning van de computer in 2016 werd beschouwd als een belangrijke mijlpaal in de ontwikkeling van kunstmatige intelligentie.
Kellyn Pelrin, een Amerikaanse amateurspeler, profiteerde van een fout in het systeem die eerder was ontdekt door… een andere computer en won 14 van de 15 games. Deze overwinning benadrukte de zwakte van de beste computerprogramma's voor het spel Go die de meeste moderne AI-systemen hebben, inclusief de beruchte chatbot ChatGPT, gemaakt door OpenAI.
De winnende tactiek werd ironisch genoeg aangeboden door een ander computerprogramma dat kunstmatige-intelligentiesystemen verkende op zoek naar zwakke punten. "Het was verrassend eenvoudig voor ons om het systeem te gebruiken", zegt Adam Gleave, CEO van het in Californië gevestigde onderzoeksbureau FAR AI, dat het programma heeft ontwikkeld. Het programma moest meer dan een miljoen spellen spelen tegen een van de meest populaire Go-systemen, KataGo, om de zogenaamde "blinde vlek" te vinden, zei hij. Volgens Pelrin is de door het programma ontdekte strategie "niet helemaal triviaal, maar ook niet supermoeilijk", dus een gemiddeld persoon is best in staat om het onder de knie te krijgen.
De overwinning komt zeven jaar nadat AI zijn onbetwiste superioriteit ten opzichte van mensen leek te bewijzen in wat vaak wordt beschouwd als het moeilijkste strategische bordspel. Het door het bedrijf ontwikkelde AlphaGo-systeem DeepMind, eigendom van Google, versloeg in 2016 wereldkampioen Lee Sedol met 4-1. In 2019 stopte de Zuid-Koreaanse speler met deelname aan competities, juist vanwege de ontwikkeling van AI - hij verklaarde dat een persoon hem niet langer zou kunnen verslaan. Wel, Lee Sedol trok een beetje overhaaste conclusies.
In het go-spel plaatsen twee spelers om beurten zwarte en witte stukken op een bord met een raster van 19x19, in een poging de stukken van de tegenstander te omringen en het grootste gebied te bezetten. Door het enorme aantal combinaties is de computer niet echt in staat om alle mogelijke toekomstige zetten te evalueren. Een tactiek die door Pelrin werd gebruikt, was om langzaam een grote "lus" van stenen te rijgen om een van de groepen van de tegenstander te omringen. AI beweegt in andere hoeken van het bord. En de bot merkte de kwetsbaarheid niet op, zelfs niet toen de omsingeling bijna voltooid was. "Maar het zou voor een persoon vrij gemakkelijk zijn om het op te merken", voegde de speler eraan toe.
Ook interessant:
De ontdekking van een zwakte in sommige van de geavanceerde Go-machines wijst op een fundamentele fout in de deep learning-systemen die ten grondslag liggen aan de nieuwste technologieën AI. Zoals Stuart Russell, een professor computerwetenschappen aan de Universiteit van Californië in Berkeley, zegt, kunnen systemen alleen specifieke situaties 'begrijpen' die ze in het verleden zijn tegengekomen, en niet alles kunnen generaliseren op de manier waarop een persoon dat kan. "Dit toont eens te meer aan dat we te haastig zijn geweest met het toeschrijven van bovenmenselijke intelligentie aan machines", zei Russell.
Het is waarschijnlijk dat de tactieken die door Pelrin worden gebruikt zelden worden gebruikt, wat betekent dat AI-systemen niet voldoende zijn getraind in vergelijkbare games om hun kwetsbaarheden te "begrijpen".
Ook interessant: