Škoda Karoq
Categorieën: IT-nieuws

Toonaangevende chatbots verspreiden Russische propaganda

Toonaangevende AI-chatbots verspreiden actief Russische desinformatie, volgens een NewsGuard-rapport dat voor het eerst werd gepubliceerd door Axios. Gebruikers wenden zich tot chatbots voor betrouwbare informatie, en auteurs presenteren de resultaten van AI als het ‘antwoord’ op vragen, maar deze modellen kunnen ook satire, verkeerde informatie en fictie als feit laten doorgaan.

Na het invoeren van 57 zoekopdrachten in 10 toonaangevende chatbots, ontdekte NewsGuard dat ze in 32% van de tijd Russische desinformatieverhalen verspreidden, waarbij ze vaak valse verhalen citeerden waarvan bekend is dat ze zijn gemaakt door John Mark Dugan, een Amerikaanse voortvluchtige die, volgens de New York Times, en verspreidt desinformatie vanuit Moskou.

NewsGuard heeft onderzoek gedaan naar chatbots ChatGPT-4 van OpenAI, You.com, Grok, Inflection, Mistral, Copilot van Microsoft, Meta AI, Claude van Anthropic, Google Gemini en Perplexity. NewsGuard stuurde e-mails naar OpenAI, You.com, Grok, Inflection, Mistral, Copilot, Meta, Claude, Gemini en Perplexity om commentaar te vragen op de onderzoeksresultaten, maar ontving geen reactie. Wat ze zeggen: "Wat echt verontrustend is, is dat de hoaxes en propaganda die zo vaak door deze chatbots worden herhaald, nauwelijks zo verborgen waren als de mensen erachter", vertelde Stephen Brill, medeoprichter van NewsGuard, aan Axios.

“Dit rapport laat echt zien waarom de industrie speciale aandacht moet besteden aan nieuws en informatie”, zei hij. Brill raadt aan "de antwoorden van de meeste van deze chatbots op nieuwsgerelateerde vragen, vooral controversiële, nog niet te vertrouwen."

De stijging van het aantal AI-chatbots komt in een jaar waarin de Amerikaanse presidentsverkiezingen zullen plaatsvinden en meer dan een miljard mensen over de hele wereld naar de stembus zullen gaan. Volgens een recent rapport van OpenAI beginnen degenen die geheime influencer-campagnes voeren ook chatbots te gebruiken om hen te helpen bij hun inspanningen.

Senator Mark Warner (R-Va.) vertelde Axios vorige week dat hij zich zorgen maakt over de toename van desinformatie dit jaar in vergelijking met 2020 en andere recente verkiezingscycli. “Dit is een reële dreiging in een tijd waarin, eerlijk gezegd, Amerikanen meer bereid zijn om gekke complottheorieën te geloven dan ooit tevoren”, zegt Warner, voorzitter van de inlichtingencommissie van de Senaat. Terwijl op de Veiligheidsconferentie van München dit jaar een aantal toonaangevende AI-bedrijven overeenkwamen stappen te ondernemen om de verspreiding van verkiezingsgerelateerde vervalsingen en desinformatie tegen te gaan, zegt Warner dat hij verbaasd was over wat er daarna gebeurde. "Wat is het probleem? Ik zie niet veel activiteit'', zei hij.

NewsGuard is onder vuur komen te liggen van de voorzitter van de House Oversight Committee, James Comer, die een onderzoek naar de organisatie startte, waarbij hij zich zorgen maakte over het “potentieel van NewsGuard om te dienen als een ondoorzichtige agent van censuurcampagnes.” NewsGuard van zijn kant verwerpt die bewering en zegt dat de commissie haar werk met het ministerie van Defensie verkeerd begrijpt, dat volgens haar niets te maken heeft met beoordelingen van nieuwsbronnen, maar “uitsluitend verband houdt met vijandige desinformatie-inspanningen van Russische, Chinese en Iraanse overheidsoperaties. gericht op Amerikanen en onze bondgenoten."

“Het is verontrustend om te zien hoe politici in Washington hun macht gebruiken om te proberen een nieuwsorganisatie te intimideren door kopieën van persberichten en alle verslagen van onze interacties met bronnen te eisen”, aldus NewsGuard in een verklaring. “We zijn van plan het misverstand van de commissie op te helderen door onze rechten op het Eerste Amendement als journalistieke organisatie krachtig te verdedigen.”

Lees ook:

Delen
Julia Alexandrova

Koffieman. Fotograaf. Ik schrijf over wetenschap en ruimte. Ik denk dat het te vroeg is voor ons om buitenaardse wezens te ontmoeten. Ik volg de ontwikkeling van robotica, voor het geval dat...

Laat een reactie achter

Uw e-mailadres wordt niet gepubliceerd. Verplichte velden zijn gemarkeerd*