First-person shooters zoals Call of Duty zijn enigszins berucht vanwege de giftigheid van hun lobby's en voicechats. Opiniepeilingen noemen de fanbase van de franchise de meest negatieve in de game-industrie; een vete tussen twee spelers leidde ooit tot de oproep van een special forces-team. Activision probeert dit gedrag al jaren te bestrijden, en een deel van de oplossing heeft mogelijk te maken met kunstmatige intelligentie.
Activision werkt samen met Modulate om 'in-game voicechat-moderatie' naar zijn games te brengen. Een nieuw moderatiesysteem dat gebruik maakt van kunstmatige intelligentietechnologie, ToxMod genaamd, zal gedrag zoals discriminatie en intimidatie in realtime detecteren.
De eerste bètatests van ToxMod in Noord-Amerika beginnen vandaag. Het is actief in Call of Duty: Modern Warfare II en Call of Duty: Warzone. De "volledige wereldwijde release" (Azië omvat niet, zoals vermeld in het persbericht) zal plaatsvinden op 10 november met de release van Call of Duty: Modern Warfare III, het nieuwe deel van de franchise dit jaar.
Het persbericht van Modulate gaat niet in detail in op hoe ToxMod precies werkt. Op site Het bedrijf merkt op dat de tool "voicechat modereert om slecht gedrag te signaleren, de nuances van elk gesprek analyseert om toxiciteit te identificeren, en moderators in staat stelt snel op elk incident te reageren door relevante en nauwkeurige context te bieden." In een recent interview zei de CEO van het bedrijf dat de tool verder gaat dan eenvoudige transcriptie. Er wordt ook rekening gehouden met factoren zoals de emotie en het volume van de speler om onderscheid te maken tussen kwaadaardige en humoristische opmerkingen.
Het is vermeldenswaard dat de tool (althans voorlopig) geen actie onderneemt tegen spelers op basis van zijn gegevens, maar alleen rapporten naar Activision-moderators stuurt. Menselijke betrokkenheid zal waarschijnlijk een belangrijke waarborg blijven, aangezien onderzoek heeft aangetoond dat spraakherkenningssystemen vooroordelen kunnen vertonen in de manier waarop zij reageren op gebruikers met verschillende raciale identiteiten en accenten.
Lees ook: