Afficher le sommaire Masquer le sommaire
Depuis le 2 août, tout texte produit par un modèle Claude nouvellement mis en ligne contient une marque invisible, absente à la lecture mais repérable par une machine. Anthropic marque aussi les fichiers joints à ses réponses, cette fois dans les métadonnées, la fiche d’identité technique que chaque fichier transporte avec lui. D’autres moteurs génératifs procèdent ainsi depuis plusieurs mois pour les photographies et les vidéos.
La marque résiste au copier-coller. Elle survit aussi aux retouches légères apportées au texte, ce qui la sépare d’une mention affichée en bas de page.
A LIRE AUSSI
Mistral à 20 milliards : champion européen ou mirage ?
Le marquage suit Claude jusque chez AWS
Anthropic applique le dispositif à l’ensemble des produits bâtis sur Claude, de l’API, la porte d’entrée qu’utilisent les développeurs, à l’outil Claude Cowork. AWS et Google Cloud ne font pas exception. Un développeur qui interroge le modèle depuis ces plateformes reçoit du texte signé. L’obligation ne vise que l’Union européenne, l’entreprise a choisi de marquer sur tous ses marchés.
Le règlement européen sur l’intelligence artificielle impose, dans son article 50, que les contenus produits par une machine soient détectables automatiquement. Les deepfakes, ces vidéos truquées mettant en scène des personnes réelles, doivent être étiquetés comme tels, au même titre que certains textes portant sur des sujets d’intérêt public. Aucune technique disponible aujourd’hui ne satisfait l’ensemble de ces exigences. Anthropic estime que sa marque invisible, combinée aux métadonnées signées, respecte l’esprit de l’accord que plusieurs entreprises technologiques ont paraphé volontairement à Bruxelles.
C2PA d’un côté, SynthID de l’autre
Les métadonnées reposent sur C2PA, un format commun déjà adopté par Adobe, Microsoft et une large part de l’industrie photographique. Il indique si un fichier a été retouché après sa création. Ce contrôle ne concerne que les fichiers joints. Pour le texte, rien n’est inscrit dans un fichier, la marque se loge dans les mots eux-mêmes. Google a retenu SynthID, aux fonctions comparables, que se partagent Apple, ElevenLabs, Kakao, Nvidia et OpenAI.
L’entreprise n’a décrit ni la méthode retenue pour inscrire la marque, ni le moyen de la faire survivre aux manipulations. Le procédé passerait, selon toute vraisemblance, par la façon dont le modèle choisit ses tokens, ces unités qui correspondent le plus souvent à un mot sans que ce soit systématique. En privilégiant certains mots plutôt que leurs synonymes, selon un dosage connu d’elle seule, l’entreprise laisserait dans le texte une régularité invisible à la lecture qu’une autre intelligence artificielle sait retrouver. Personne, hors d’Anthropic, ne peut aujourd’hui vérifier la solidité du procédé.
Ce que le filigrane ne prouvera jamais
Des utilisateurs confient à Claude la correction ou la traduction de textes écrits ailleurs, parfois leur résumé, et la marque s’inscrit tout de même dans le résultat. Un filigrane détecté ne désigne donc pas l’auteur du contenu.
La marque s’efface après une paraphrase ou une traduction. Elle se dilue dans un texte composite et ne s’inscrit jamais dans un fragment trop court pour la porter. Un texte sans marque ne prouve donc rien non plus.
Anthropic travaille à équiper les versions antérieures de Claude, que Bruxelles laisse six mois aux entreprises pour mettre à jour. Deux groupes de travail réuniront en septembre les ingénieurs des sociétés qui ont accepté d’intégrer des systèmes de détection. Ils échangeront sur leurs premières expériences de mise en œuvre, un an après avoir signé l’engagement.
