SynthID, pour détecter un média généré par IA

⁠SynthID Detector est le service de Google DeepMind permettant de vérifier si un contenu porte le filigrane invisible SynthID, utilisé pour marquer certains contenus générés ou modifiés par IA.

Le principe est assez différent des « détecteurs d’IA » classiques. SynthID n’essaie pas de deviner si une image « ressemble » à une création IA. Lors de la génération, un signal numérique imperceptible est directement intégré au contenu. Le détecteur recherche ensuite ce signal. Il fonctionne sur plusieurs types de contenus : images, vidéos, audio et texte, même si les possibilités de détection accessibles au public varient selon le type.

Pour une image ou une vidéo, le filigrane est intégré directement au contenu plutôt que simplement placé dans les métadonnées. Il est conçu pour survivre à des transformations courantes comme la compression JPEG, le redimensionnement, le recadrage, les filtres ou certaines modifications de couleurs. Pour l’audio, le signal est inaudible et résiste notamment à la compression ou à certaines modifications. Pour le texte, le mécanisme est différent : SynthID influence très légèrement les probabilités de sélection des tokens pendant la génération afin de créer une signature statistiquement détectable.

J'ai testé une simple compression jpg puis screen. Et ca l'a quand meme détecté (pour tester un truc simple qu'on pourrait tous facilement faire sans outil).

Ca peut etre pratique, sans parler des video il y a tellement d'images douteuses... j'aime pas dire ca parce que ca participerait a valider l'usage de l'ia et ca me plait pas, mais il faudrait presque qu'il y ait des outils de detection integrés quand une image/video est hebergée, pour y ajouter un tag/flag "ia".