Een aantal bedrijven, waaronder Microsoft і Facebook, en zelfs onderzoekers van de Universiteit van Zuid-Californië, ontwikkelen technologieën om deepfakes te bestrijden en de verspreiding ervan door gele media en desinformatie in het algemeen te voorkomen. Een groep wetenschappers slaagde er echter nog steeds in hen te misleiden.
Een team van computerwetenschappers aan de Universiteit van Californië in San Diego waarschuwde dat het nog steeds mogelijk is om bestaande deepfake-detectiesystemen voor de gek te houden door invoergegevens, zogenaamde "concurrerende voorbeelden", in elk videoframe in te voegen. De wetenschappers presenteerden hun bevindingen op de WACV 2021 Computer Vision Conference, die vorige maand online werd gehouden.
Concurrerende voorbeelden zijn licht gewijzigde inputs die ervoor zorgen dat kunstmatige-intelligentiesystemen, zoals machine learning-modellen, fouten maken. Bovendien toonde het team aan dat de aanval nog steeds werkt na het comprimeren van de video. In de video hierboven laten de wetenschappers zien dat XceptionNet, een deepfake-detector, hun concurrerende video bestempelt als 'echt'.
De meeste van deze detectoren werken door gezichten in een video te volgen en de bijgesneden gezichtsgegevens voor analyse naar een neuraal netwerk te sturen. Het neurale netwerk analyseert deze gegevens vervolgens en vindt elementen die normaal gesproken slecht worden weergegeven in deepfakes, zoals flikkering.
Door concurrerende voorbeelden in te voegen, ontdekten de onderzoekers dat ze deze deepfake-detectoren voor de gek konden houden door te geloven dat de video's echt waren.
Ze stellen in de krant dat “om deze deepfake-detectoren in de praktijk te gebruiken, het belangrijk is om ze te evalueren tegen een adaptieve tegenstander die op de hoogte is van deze bescherming en deze opzettelijk probeert te doorbreken. We laten zien dat moderne deepfake-detectiemethoden gemakkelijk kunnen worden omzeild als de aanvaller zich volledig of zelfs gedeeltelijk bewust is van de detector."
Zoals deze wetenschappers hebben aangetoond, zijn de automatiseringstechnologieën die worden ontwikkeld om desinformatie te bestrijden, misschien nog niet opgewassen tegen hun taak.
Lees ook: