Een foto van een "explosie" nabij het Pentagon, gegenereerd door AI, ging viraal Twitter

Sinds kort binnen Twitter er verscheen een foto die, zoals de beschrijving zei, een explosie afbeeldde die plaatsvond nabij het Pentagon. Hierdoor was er zelfs een kortstondige daling van de markt - de S&P 500-index daalde met 0,29%, maar nadat bleek dat de foto nep was, herstelde de index zich. De afbeelding is geplaatst door een geverifieerd Bloomberg Feed-account, dat ondanks het blauwe vinkje niet gelieerd is aan het Bloomberg-mediabedrijf.

De foto werd al snel herkend als nep. Het is blijkbaar gegenereerd met behulp van kunstmatige intelligentie. Maar voordat deze details verschenen, was er al desinformatie verspreid door verschillende accounts, waaronder de klootzak Russia Today (nou ja, wie zou dat betwijfelen).

Op de nepafbeelding is een grote zwarte rookpluim te zien naast een gebouw dat vaag lijkt op het Pentagon, met bijbehorende tekst. Bij nader inzien bevestigden lokale autoriteiten dat het beeld geen nauwkeurige weergave was van het Pentagon en dat de vage afrasteringspalen en bouwkolommen eruit zagen als een nogal slordig beeld gemaakt met een AI-model zoals Stable Diffusion.

Bloomberg nep-account voor Twitter blokkeerde het, had tienduizenden tweets, maar in totaal minder dan 1 volgers, en het is onduidelijk wie het beheerde en wat de motieven waren achter het verspreiden van het nepbeeld. Naast Bloomberg Feed zijn er nog andere accounts die het valse bericht verspreiden, waaronder Walter Bloomberg en Breaking Market News, die ook niet gelieerd zijn aan het echte Bloomberg-bedrijf.

Het incident benadrukte de potentiële bedreigingen die door AI gegenereerde afbeeldingen kunnen vormen op sociale media, waar haastig niet-geverifieerde informatie wordt gedeeld, en het betaalde verificatiesysteem in Twitter. In maart gingen nepbeelden van de arrestatie van Donald Trump, gemaakt met behulp van Midjourney, viraal, en hoewel ze meteen nep werden genoemd, zagen ze er buitengewoon realistisch uit. Ook werden velen misleid door AI-gegenereerde afbeeldingen van paus Franciscus in een wit donsjack.

Het "BloombergFeed"-account is nu verbannen.

Maar dit wordt gewoon een whack-a-mole-spel.

Nep-AI-afbeeldingen + geverifieerd nepnieuws Twitter account + reguliere media controleren hun zuur nietces = een recept voor een ramp in onze digitale samenleving.

Dit zal niet vertragen. pic.twitter.com/ZeboVgVm4Z

— Lorenzo Groen 〰️ (@mrgreen) 23 mei 2023

De paus in een donsjack is één ding, maar een explosie op het hoofdkantoor van het Amerikaanse ministerie van Defensie is iets heel anders. De gevolgen kunnen ernstig zijn, bewijst dezelfde beurs. De Dow Jones Industrial Average daalde 85 punten in de vier minuten nadat de tweet viraal ging, maar herstelde zich snel.

Veel van de verwarring rond de nep-tweet werd mogelijk gemaakt door veranderingen in de Twitter in de tijd van Elon Musk. Hij ontsloeg veel contentmoderators en automatiseerde het accountverificatieproces grotendeels, en verplaatste het naar een systeem waar iedereen kan betalen voor een blauwe cheque. Critici zeggen dat de praktijk het platform kwetsbaarder maakt voor verkeerde informatie.

Hoewel de autoriteiten de foto van de explosie relatief snel als vervalsing herkenden, betekent de beschikbaarheid van beeldsynthesemodellen zoals Midjourney en Stable Diffusion dat voor overtuigende vervalsingen geen kunstzinnigheid meer nodig is, waardoor er ruimte is voor desinformatie. Het gemak van het maken van vervalsingen in combinatie met de virale aard van platforms zoals Twitter, betekent dat valse informatie zich sneller kan verspreiden dan kan worden geverifieerd.

In dit geval hoeft de afbeelding niet noodzakelijkerwijs van hoge kwaliteit te zijn om een ​​negatieve impact te creëren. Experts zeggen dat wanneer mensen iets willen geloven, ze hun waakzaamheid verliezen en de waarheidsgetrouwheid van de informatie niet controleren.

Lees ook:

• Meta's taal-AI herkent meer dan 4 talen
• Adobe voegt AI-aangedreven Generative Fill-bewerking toe aan Photoshop