Dinsdag kondigde Meta haar plan aan om door AI gegenereerde afbeeldingen van andere bedrijven zoals OpenAI en Google te gaan taggen. De stap is gericht op het vergroten van de transparantie op platforms zoals Facebook, Instagram en Threads, door gebruikers te informeren dat de inhoud die ze bekijken gesynthetiseerde digitale media is en geen authentieke foto of video.
De oplossing van Meta maakt deel uit van een bredere inspanning van de technologie-industrie om normen vast te stellen voor het labelen van inhoud die is gemaakt met generatieve AI-modellen die in staat zijn valse maar realistische audio, afbeeldingen en video te creëren op basis van schriftelijke aanwijzingen.
Meta's president van mondiale zaken, Nick Clegg, maakte de aankondiging in een blogpost op Meta's website. “We zullen deze aanpak het komende jaar blijven volgen, wanneer er over de hele wereld een aantal belangrijke verkiezingen zullen plaatsvinden”, schreef Clegg. "Gedurende deze tijd hopen we veel meer te leren over hoe mensen inhoud creëren en delen met kunstmatige intelligentie, welke transparantie mensen het meest waarderen en hoe deze technologieën zich ontwikkelen."
Clegg merkte op dat Meta's AI-gegenereerde content tagging-initiatief de bestaande praktijk van het taggen van content die met zijn eigen AI-tools is gemaakt, zal uitbreiden met afbeeldingen die zijn gemaakt met behulp van de diensten van andere bedrijven.
“We bouwen toonaangevende tools die onzichtbare markeringen op schaal kunnen identificeren – met name de ‘AI-gegenereerde’ informatie in de technische standaarden van C2PA en IPTC – zodat we afbeeldingen van Google, OpenAI, Microsoft, Adobe, Midjourney en Shutterstock terwijl ze hun plannen implementeren om metadata toe te voegen aan afbeeldingen die met hun tools zijn gemaakt.”
Meta zegt dat de door AI gegenereerde technologie voor het labelen van inhoud gebaseerd zal zijn op onzichtbare watermerken en metagegevens die in bestanden zijn ingebed. Meta voegt een klein ‘Imagined with AI’-watermerk toe aan afbeeldingen die zijn gemaakt met de openbare AI-beeldgenerator.
In de post sprak Clegg zijn vertrouwen uit in het vermogen van bedrijven om op betrouwbare wijze door AI gegenereerde afbeeldingen te labelen, hoewel hij opmerkte dat tools voor het labelen van audio- en video-inhoud nog in ontwikkeling zijn. In de tussentijd zal Meta van gebruikers eisen dat ze gewijzigde audio- en video-inhoud taggen, met niet-gespecificeerde boetes als ze dit niet doen.
"We zullen van mensen eisen dat ze deze openbaarmakings- en etiketteringstool gebruiken wanneer ze organische inhoud plaatsen met fotorealistische video of realistisch geluid dat digitaal is gemaakt of gewijzigd, en we kunnen boetes opleggen als ze dat niet doen", schreef hij.
Clegg merkte echter op dat er momenteel geen effectieve manier is om door AI gegenereerde tekst te labelen, wat suggereert dat het te laat is om dergelijke maatregelen voor geschreven inhoud te implementeren. Dit komt overeen met onze berichten dat de AI-tekstdetectoren niet werken.
De aankondiging kwam een dag nadat Meta's onafhankelijke toezichtsraad het beleid van het bedrijf inzake bedrieglijk gewijzigde video's als te beperkt bekritiseerde en aanbeveelde dergelijke inhoud te markeren in plaats van deze te verwijderen. Clegg was het eens met de kritiek en gaf toe dat het bestaande metabeleid ontoereikend is om de groeiende hoeveelheid synthetische en hybride inhoud op internet te beheren. Hij ziet het nieuwe etiketteringsinitiatief als een stap in de richting van de implementatie van de aanbevelingen van de waakhond en het stimuleren van een impuls in de hele sector voor soortgelijke maatregelen.
Meta erkent dat het niet in staat zal zijn om door AI gegenereerde inhoud te detecteren die is gemaakt zonder watermerken of metagegevens, zoals afbeeldingen die zijn gemaakt met sommige open source AI-beeldsynthesetools. Meta doet onderzoek naar een beeldwatermerktechnologie genaamd Stable Signature, waarvan zij hoopt dat deze kan worden ingebouwd in open source beeldgeneratoren. Maar zolang pixels pixels zijn, kunnen ze worden gemaakt op manieren die niet door de technologie-industrie worden gecontroleerd, en dit blijft een uitdaging voor de detectie van AI-inhoud naarmate open source AI-tools geavanceerder en realistischer worden.
Lees ook: