Reuters: Meta's AI-detector mist eigen bijgesneden AI-beelden

In dit artikel:

Meta’s nieuwe AI-detectietool kan door het bedrijf zelf gemaakte beelden niet altijd meer herkennen nadat die zijn bewerkt, blijkt uit een analyse van Reuters. De test draaide om Muse Image, Meta’s pas gelanceerde beeldgenerator, en de bijbehorende preview-tool die AI-afbeeldingen moet verifiëren met een onzichtbaar watermerk, Content Seal. Van 40 door Muse Image gemaakte beelden herkende de tool eerst alles correct, maar zodra dezelfde beelden werden bijgesneden tot ongeveer een derde of de helft van hun oorspronkelijke formaat, faalde de verificatie in 55 procent van de gevallen.

De bevinding is relevant omdat misleidende AI-beelden en deepfakes juist in een verkiezingsjaar moeilijker te bestrijden zijn, onder meer richting de Amerikaanse tussentijdse verkiezingen. Meta stelt dat de tool nog in preview is en dat het watermerk bedoeld is om ook na normale bewerkingen te blijven werken, al kan het signaal bij stevige cropping wegvallen. Ook concurrenten als Google en OpenAI waarschuwen dat hun detectiesystemen niet foutloos zijn. Experts zeggen dat watermerken nuttig kunnen zijn, maar gevoelig blijven voor bewerkingen zoals bijsnijden, verkleinen, compressie en andere vormen van editing.