Traçabilité des modèles : l'intermédiaire non mandaté

Un graphe hebdomadaire construit sur des déclarations facultatives

L'outil s'appelle Genmod. Publié une première fois fin 2025 par le service IA de la CNIL en collaboration avec son Laboratoire d'innovation numérique, il a reçu le 26 août 2026 une mise à jour dont l'annonce publique détaille précisément les gains. Une recherche sans limite de profondeur prend désormais une vingtaine de secondes en moyenne, plusieurs requêtes peuvent être traitées simultanément, et le graphe des filiations est actualisé chaque semaine de manière automatique, la date de rafraîchissement étant affichée dans l'application. Les suggestions de recherche mettent en avant les modèles les plus téléchargés, et les résultats détaillés sont classés par défaut selon ce même critère.

La finalité est explicite et relève du droit des personnes. Il s'agit de retrouver, pour un modèle donné, les modèles dont il provient et ceux auxquels il a contribué, afin d'étudier les conséquences de la mémorisation de données d'entraînement. Autrement dit, si un modèle a conservé des informations personnelles, l'autorité veut savoir quels descendants sont susceptibles de les avoir conservées à leur tour. La question n'est pas théorique : l'exercice d'un droit d'effacement sur un modèle ascendant n'a de portée réelle que si la chaîne des dérivés est connue.

La méthode mérite d'être décrite avec exactitude, parce que tout l'argument en dépend. Genmod ne procède à aucune analyse des poids, à aucune inspection des fichiers, à aucune inférence statistique sur la parenté des modèles. Il lit les métadonnées publiques de la plateforme Hugging Face, où la CNIL relève un ensemble d'environ deux millions de modèles et cinq cent mille jeux de données. Sur cette plateforme, l'entité qui téléverse un modèle peut indiquer, dans un champ prévu à cet effet, le ou les modèles à partir desquels le sien a été constitué. La documentation de la plateforme est sans ambiguïté sur le statut de ce champ : il s'agit d'une possibilité offerte, jamais d'une obligation. Quatre types de transformation sont distingués, correspondant au réglage fin, à l'adaptation, à la quantification et à la fusion de modèles.

Le régulateur français a donc bâti un instrument de traçabilité dont la matière première est une case que le publieur de modèle remplit s'il le veut bien. La CNIL, du reste, présente Genmod comme un démonstrateur et non comme un outil de conformité, ne publie ni dépôt de code ni jeu de données autonome, et n'avance aucun chiffre sur le nombre de relations de filiation effectivement reconstituées. La prudence est justifiée. Elle laisse pourtant intacte la question que l'annonce ne pose pas : que vaut une traçabilité dont la complétude dépend de la bonne volonté de ceux qu'elle doit rendre traçables ?

La plateforme exerce une fonction de surveillance que nul texte ne lui confie

Le vocabulaire courant de la régulation oppose deux termes, l'autorité et l'assujetti. Il ne permet pas de rendre compte de la situation décrite ci-dessus, parce qu'un troisième acteur y accomplit le travail décisif sans figurer dans aucun texte. Hugging Face définit le format des métadonnées, décide quels types de relation existent, infère automatiquement certaines d'entre elles, arbitre la politique de modération des dépôts et fixe les conditions d'accès à son interface de programmation. La CNIL, elle, se place en aval de ces choix et en hérite sans pouvoir en discuter.

Kenneth Abbott, David Levi-Faur et Duncan Snidal ont proposé en 2017 de considérer la régulation comme une relation à trois termes plutôt qu'à deux, en introduisant la figure de l'intermédiaire. Leur modèle, dit RIT, décrit un acteur qui se tient entre le régulateur et sa cible, apporte l'expertise et la capacité opérationnelle que le régulateur n'a pas, et exerce de fait une part du travail de surveillance des comportements. L'apport de ce cadre n'est pas de constater l'existence de l'intermédiaire, mais d'en analyser les propriétés : parce qu'il détient une ressource que le régulateur ne peut produire lui-même, il acquiert une capacité d'influence sur la manière dont la règle s'applique.

L'intermédiaire réglementaire (Abbott, Levi-Faur et Snidal, 2017)

Dans le modèle Regulator-Intermediary-Target, l'intermédiaire est un acteur distinct qui apporte au régulateur une expertise ou une capacité de mise en œuvre dont celui-ci est dépourvu, et qui participe à ce titre à la surveillance des cibles. Les auteurs soulignent que cette délégation crée une dépendance : le régulateur ne contrôle ni la qualité ni la continuité de la ressource qu'il reçoit, et l'intermédiaire acquiert une position d'où il peut orienter l'application effective de la norme. Référence : « Theorizing Regulatory Intermediaries: The RIT Model », The ANNALS of the American Academy of Political and Social Science, vol. 670, n° 1, mars 2017, p. 14-35.

Le cas Genmod présente une variante que le modèle initial n'envisage pas au premier chef, et c'est cette variante qui en fait l'intérêt. Dans les configurations classiques étudiées par ces auteurs, l'intermédiaire est désigné, accrédité ou reconnu : organisme certificateur, auditeur, agence de notation, association professionnelle. Il tient son rôle d'un acte. Ici, rien de tel. Aucune convention, aucune habilitation, aucune obligation légale ne lie la plateforme à l'autorité française. La CNIL s'appuie sur un intermédiaire qui ignore peut-être qu'il en est un, qui n'a souscrit à aucun engagement de continuité, et qui pourrait modifier demain la structure de ses métadonnées ou les conditions d'accès à ses données sans que le régulateur dispose du moindre recours.

Cette lecture déplace le diagnostic. Le problème n'est pas que Genmod soit imparfait, ce qu'un démonstrateur a le droit d'être. Il est que la fonction de traçabilité repose sur une ressource dont le régulateur n'est ni propriétaire, ni commanditaire, ni garant.

Le règlement européen a dispensé de documentation les modèles que Genmod cartographie

Une objection vient naturellement : l'entrée en application du règlement européen sur l'intelligence artificielle devrait combler ce vide et rendre les déclarations opposables. L'examen du texte conduit à la conclusion inverse, et c'est le point le plus contre-intuitif du dossier.

L'article 53 du règlement (UE) 2024/1689 impose aux fournisseurs de modèles à usage général quatre obligations, dont la constitution d'une documentation technique détaillée par l'annexe XI et la transmission d'informations aux fournisseurs situés en aval, prévue par l'annexe XII. Ce sont précisément ces deux obligations qui feraient de la filiation une donnée déclarée sous contrainte. Or le paragraphe 2 du même article en dispense les modèles publiés sous licence libre et ouverte dont les paramètres, l'architecture et les informations d'usage sont rendus publics, sauf s'ils présentent un risque systémique au sens de l'article 51. Autrement dit, la population exacte que Genmod cartographie est celle que le législateur européen a choisi d'exonérer de l'obligation documentaire.

Ce que le règlement exige et ce dont il dispense

L'article 53(1) du règlement (UE) 2024/1689 impose aux fournisseurs de modèles à usage général une documentation technique (annexe XI), une information des fournisseurs en aval (annexe XII), une politique de respect du droit d'auteur et un résumé public suffisamment détaillé des contenus d'entraînement. L'article 53(2) dispense les modèles libres et ouverts des deux premières obligations, hors risque systémique. Le modèle de résumé adopté par la Commission le 24 juillet 2025 demeure donc applicable, mais il porte sur les catégories de données d'entraînement et non sur la généalogie des modèles de base. Quant au code de bonnes pratiques publié le 10 juillet 2025, ses chapitres transparence et droit d'auteur ne s'appliquent pas aux modèles libres sans risque systémique.

Il n'existe donc, à la date de publication, aucune obligation juridique européenne ou française de déclarer le modèle de base d'un modèle dérivé diffusé en source ouverte. Le champ que Genmod exploite reste facultatif en droit comme en fait.

Ian Ayres et John Braithwaite avaient décrit en 1992, sous le nom d'enforced self-regulation, les dispositifs où l'autorité s'appuie sur les archives et les procédures internes des acteurs régulés plutôt que de produire elle-même l'information de contrôle. Leur démonstration comportait une condition, souvent oubliée de ceux qui les citent : l'auto-régulation ne fonctionne que si elle est adossée à une menace de sanction crédible, située au sommet d'une pyramide d'exécution. Retirer cette menace ne produit pas une auto-régulation plus souple, mais un autre dispositif, qui n'a plus de mécanisme d'entraînement. Le cas présent en offre l'illustration : la CNIL récolte une information déclarative sans disposer d'aucun levier pour en exiger la production.

Ce qui n'a pas été inscrit à la production ne se reconstitue pas après coup

L'incomplétude n'est pas une hypothèse. Elle a été mesurée. Une cartographie académique du même écosystème, conduite par Eliahu Horwitz et ses coauteurs et publiée en 2025 sous le titre « Charting and Navigating Hugging Face's Model Atlas », établit que plus de la moitié des modèles hébergés ne disposent d'aucune fiche descriptive, et que la plateforme ne dispose d'étiquettes que pour un nombre d'arêtes orientées sans commune mesure avec la population de modèles concernée. Les auteurs relèvent que moins de trois modèles sur dix spécifient leur modèle parent. Le graphe réel n'est pas un arbre mais un graphe orienté acyclique, les fusions ayant plusieurs ascendants.

Ordres de grandeur d'un écosystème sous-documenté

Cartographie du dépôt Hugging Face publiée en 2025 : plus de 1,5 million de modèles hébergés, plus de 100 000 nouveaux modèles par mois, plus de 50 % des modèles sans aucune fiche descriptive, environ 400 000 relations de filiation étiquetées, moins de 30 % des modèles spécifiant leur modèle parent, et 99,41 % des modèles quantifiés constituant des feuilles du graphe. Source : Horwitz et al., arXiv:2503.10633, 2025. La CNIL, pour sa part, indique couvrir un ensemble d'environ deux millions de modèles et cinq cent mille jeux de données, sans publier de décompte des relations reconstituées.

Geoffrey Bowker et Susan Leigh Star ont montré en 1999, dans Sorting Things Out, que les systèmes de classification constituent l'échafaudage invisible des infrastructures d'information, et que la standardisation ne s'obtient qu'au prix de fuites : ce que la catégorie ne prévoit pas au moment où l'objet est enregistré devient irrécupérable ensuite. Leur thèse porte sur une asymétrie temporelle. L'inscription se fait à un instant précis, celui de la production, par un acteur qui n'a généralement aucun intérêt à la qualité de la trace. La reconstitution, elle, intervient plus tard, avec d'autres objectifs, et ne peut travailler que sur ce qui a été inscrit.

Appliquée à Genmod, cette lecture interdit de considérer les lacunes comme un retard qui se comblerait. Un modèle dérivé publié en 2024 sans indication de parent ne verra jamais sa filiation apparaître dans le graphe, quelle que soit la puissance de calcul mobilisée en 2026. Le régulateur ne reconstruit pas une généalogie, il reconstruit la carte des déclarations existantes, ce qui est un objet différent et dont la relation à la réalité des dérivations demeure inconnue.

Le classement par téléchargements hiérarchise la visibilité à rebours du risque

La mise à jour d'août 2026 comporte un choix de conception qui paraît anodin et qui ne l'est pas. Les suggestions de recherche privilégient les modèles les plus téléchargés, et les résultats détaillés sont triés selon ce critère. Le dispositif encode ainsi un mécanisme que Robert King Merton avait décrit en 1968 sous le nom d'effet Matthieu, en observant que la reconnaissance scientifique s'accumule sur ceux qui sont déjà reconnus. Ce qui est déjà visible devient plus visible, donc plus consulté, donc plus central dans la représentation produite.

L'effet mérite d'être confronté à ce que la littérature empirique établit sur la persistance de la mémorisation. Les travaux fondateurs de Nicholas Carlini et de ses coauteurs, d'abord à USENIX Security en 2021 puis à ICLR en 2023, ont montré que les modèles de langage restituent des séquences de leurs données d'entraînement, et que cette propriété croît avec la taille du modèle et la duplication des données. Les travaux plus récents sur les modèles dérivés font apparaître une asymétrie nette selon le type de transformation. La distillation réduit sensiblement la mémorisation, de plus de la moitié selon les mesures publiées. La quantification, à l'inverse, la préserve largement : une réduction à quatre bits laisse subsister l'essentiel des séquences extractibles, et la fraction qui survit croît avec la taille du modèle.

Le rapprochement est éclairant. Les modèles quantifiés sont, d'après la cartographie citée plus haut, presque toujours des feuilles du graphe, c'est-à-dire des points terminaux peu ou pas redérivés. Ce sont aussi, par construction, des artefacts de diffusion massive destinés à l'exécution locale, souvent produits par des tiers sans lien avec le fournisseur d'origine. Ils cumulent donc deux propriétés : ils conservent la mémorisation et ils occupent la périphérie du graphe. Un tri par popularité les relègue dans la queue de distribution, alors que ce sont précisément les objets sur lesquels une demande d'effacement aurait le plus besoin de porter. L'outil ordonne la visibilité selon un critère de notoriété là où la finalité déclarée appellerait un critère de risque de persistance.

La traçabilité alimentaire a déjà éprouvé la déclaration d'un seul pas

Le précédent le plus proche structurellement n'appartient pas au numérique. Le règlement (CE) n° 178/2002 a institué, à son article 18, un régime de traçabilité applicable depuis le 1er janvier 2005 et bâti sur un principe d'une grande économie de moyens, dit « une étape en amont, une étape en aval ». Chaque exploitant du secteur alimentaire doit être en mesure d'identifier son fournisseur immédiat et son client immédiat, et de tenir cette information à la disposition des autorités. Nul n'est tenu de connaître la chaîne entière. L'autorité, en cas d'incident, la reconstitue de proche en proche à partir des déclarations locales.

La proximité avec Genmod est frappante, et elle est structurelle plutôt qu'analogique. Dans les deux cas, l'information est déclarative et distribuée, chaque acteur ne renseigne que ses voisins immédiats, ce qui correspond exactement au couple ascendant et descendant du champ de métadonnées, et la vue d'ensemble n'existe nulle part avant que quelqu'un ne l'assemble après coup. Dans les deux cas, enfin, la robustesse du dispositif est celle de son maillon le moins diligent.

L'épisode de la viande de cheval, en 2013, a fourni l'épreuve de vérité de ce modèle. La substitution a traversé plusieurs États membres et de nombreux intermédiaires sans qu'aucun contrôle de routine ne la détecte, alors même que chaque opérateur pouvait présenter une documentation localement conforme. La leçon retenue par les autorités européennes n'a pas été que les déclarations étaient absentes, mais qu'une conformité formelle maillon par maillon ne produit pas une traçabilité d'ensemble, et que le dispositif est aveugle exactement là où un acteur a intérêt à l'omission. Le cas a conduit à renforcer les contrôles documentaires et la coopération entre autorités, sans remettre en cause le principe déclaratif lui-même.

La comparaison comporte une différence dont il faut mesurer la portée, et elle joue en défaveur du cas numérique. Dans le secteur alimentaire, la déclaration d'une étape est une obligation assortie de sanctions. Dans l'écosystème des modèles ouverts, elle ne l'est pas. Le dispositif français reprend la faiblesse structurelle du modèle alimentaire sans disposer du socle contraignant qui, dans ce dernier, en limite les effets. La CNIL connaît pourtant cette configuration de l'intérieur, puisque le registre des activités de traitement prévu par l'article 30 du règlement général sur la protection des données lui impose depuis 2018 de fonder son contrôle sur une cartographie que les responsables de traitement établissent eux-mêmes.

La généalogie reconstituée ne dit pas quelle conséquence lui attacher

Reste l'angle mort, qui n'est pas dans la méthode mais dans ce qui devrait en découler. À supposer le graphe complet et fiable, que fait une autorité d'une filiation reconstituée ?

Le Comité européen de la protection des données a rendu le 17 décembre 2024 son avis 28/2024 sur le traitement de données personnelles dans les modèles d'intelligence artificielle. Deux enseignements en ressortent. D'une part, un modèle entraîné sur des données personnelles ne peut pas être présumé anonyme, l'appréciation devant se faire au cas par cas au regard des moyens raisonnablement susceptibles d'être mis en œuvre pour extraire ou obtenir ces données. D'autre part, lorsqu'un modèle développé illicitement est déployé par un responsable de traitement distinct, les autorités doivent vérifier si ce déployeur a mené une évaluation appropriée avant d'utiliser le modèle, en tenant compte notamment de la source des données et de l'existence éventuelle d'une constatation d'infraction.

C'est ici que le dispositif se découvre. Le déployeur d'un modèle dérivé, souvent une administration ou une entreprise de taille modeste ayant récupéré des poids publiés, se voit demander une diligence dont les éléments constitutifs ne lui sont pas accessibles, puisque la documentation amont n'est précisément pas obligatoire pour les modèles libres. L'avis multiplie par ailleurs les formulations conditionnelles, ce que plusieurs analyses juridiques ont relevé, si bien que la conséquence attachée à une filiation établie demeure incertaine. Genmod produit donc une visibilité que le régime juridique ne sait pas encore convertir en conséquence prévisible pour un tiers de bonne foi.

Le silence institutionnel porte sur ce point, et non sur la qualité de l'outil. Ni l'annonce de la CNIL, ni les documents de la Commission ne formulent que l'instrument de traçabilité et le régime documentaire pointent en sens opposés : l'un cherche à établir une filiation, l'autre dispense de la déclarer. Cette contradiction n'est pas un oubli de rédaction, elle résulte d'un arbitrage politique assumé en faveur de l'écosystème ouvert, dont Genmod révèle par contrecoup le coût en capacité de contrôle.

Une hypothèse à vérifier le 2 août 2027

Le règlement européen fixe au 2 août 2027 l'échéance de mise en conformité des modèles à usage général mis sur le marché avant le 2 août 2025. Cette date offre un point d'observation, et l'article s'y engage.

L'hypothèse est la suivante : au 2 août 2027, la proportion de modèles hébergés sur Hugging Face renseignant explicitement leur modèle de base sera demeurée inférieure à quarante pour cent, malgré l'échéance réglementaire, l'exemption de l'article 53(2) neutralisant l'effet documentaire du règlement sur la population précise que Genmod cartographie. L'indicateur est observable sans accès à aucune information interne, par simple interrogation publique de l'interface de programmation de la plateforme, et il est comparable au taux mesuré par la cartographie académique de 2025. Un second indicateur, plus discriminant encore, consiste à vérifier si une délibération de la CNIL ou d'une autre autorité européenne aura, d'ici cette date, prononcé une mesure à l'encontre d'un modèle dérivé détenu par un tiers, sur le fondement d'une filiation reconstituée.

Si ces deux indicateurs se vérifient, alors la traçabilité des modèles ouverts restera ce qu'elle est aujourd'hui : une capacité technique d'assemblage remarquable, exercée sur une matière que son détenteur n'est pas l'intermédiaire mandaté pour produire, et dont l'autorité ne peut exiger ni la complétude ni la conséquence. L'intermédiaire non mandaté aura alors cessé d'être une figure descriptive pour devenir un régime durable de la régulation numérique européenne, dans lequel la puissance publique regarde très bien un écosystème qu'elle ne peut pas contraindre à se déclarer.

---

Note méthodologique

Les faits relatifs à Genmod proviennent des pages publiées par la CNIL et de l'article technique de son Laboratoire d'innovation numérique. Une ambiguïté factuelle doit être signalée : la page du 26 août 2026 mentionne une première publication en novembre 2025, alors que la page d'annonce initiale porte la date du 18 décembre 2025 et l'article du LINC celle du 12 décembre 2025. L'article retient la formule « fin 2025 » plutôt que de trancher. La CNIL ne publiant aucun décompte des relations de filiation reconstituées, aucun chiffre ne lui est attribué sur ce point, et les ordres de grandeur cités proviennent d'une cartographie académique indépendante. Le brief d'origine proposait la sociologie des inscriptions de Madeleine Akrich comme cadre principal. L'arbitrage a porté sur le modèle RIT d'Abbott, Levi-Faur et Snidal, jugé plus directement opérant sur le versant réglementaire du cas, Bowker et Star venant tenir la dimension d'inscription. Les rapports officiels français et européens sur l'affaire de 2013 n'ont pas été consultés en source primaire et les faits rapportés à ce sujet sont à vérifier avant publication. La qualification d'un modèle d'intelligence artificielle au regard du règlement sur la cyber-résilience étant juridiquement non tranchée, la piste de la nomenclature logicielle a été écartée. Recherche de sources, croisement des données et structuration du raisonnement s'appuient sur une assistance par intelligence artificielle. Le choix de l'angle et du cadre théorique, la vérification des sources, les arbitrages et l'établissement du texte final relèvent de l'auteur.

image générée par IA (ChatGPT Images 2.5)

---

Sources

Sources primaires institutionnelles

CNIL, « IA : la CNIL met à jour son outil de traçabilité des modèles publiés en source ouverte », 26 août 2026. https://www.cnil.fr/fr/ia-la-cnil-met-jour-son-outil-de-tracabilite-des-modeles-publies-en-source-ouverte

CNIL, « La CNIL publie un outil pour la traçabilité des modèles d'IA publiés en source ouverte », 18 décembre 2025. https://www.cnil.fr/fr/la-cnil-publie-un-outil-pour-la-tracabilite-des-modeles-dia-publies-en-source-ouverte

LINC (CNIL), « Présentation du projet : expérimenter des scénarios d'exercice de droits pour éclairer la position de la CNIL », 12 décembre 2025. https://linc.cnil.fr/presentation-du-projet-experimenter-des-scenarios-dexercice-de-droits-pour-eclairer-la-position-de

CNIL, démonstrateur Genmod. https://huggingface.co/spaces/cnil/genmod

CNIL, « PANAME : un partenariat pour l'audit de la confidentialité des modèles d'IA », juin 2025. https://www.cnil.fr/fr/paname-un-partenariat-pour-laudit-de-la-confidentialite-des-modeles-dia

Comité européen de la protection des données, avis 28/2024 sur certains aspects de protection des données liés au traitement de données à caractère personnel dans le contexte des modèles d'IA, adopté le 17 décembre 2024. https://www.edpb.europa.eu/system/files/2024-12/edpb*opinion*202428*ai-models*en.pdf

Textes réglementaires

Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle, articles 51 et 53, annexes XI et XII.

Commission européenne, bureau de l'IA, « Explanatory Notice and Template for the Public Summary of Training Content for general-purpose AI models », 24 juillet 2025. https://digital-strategy.ec.europa.eu/en/library/explanatory-notice-and-template-public-summary-training-content-general-purpose-ai-models

Commission européenne, code de bonnes pratiques pour l'IA à usage général, 10 juillet 2025. https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai

Règlement (CE) n° 178/2002 du 28 janvier 2002, article 18, applicable depuis le 1er janvier 2005.

Règlement (UE) 2016/679, article 30.

Cadres théoriques

Kenneth W. Abbott, David Levi-Faur et Duncan Snidal, « Theorizing Regulatory Intermediaries: The RIT Model », The ANNALS of the American Academy of Political and Social Science, vol. 670, n° 1, mars 2017, p. 14-35.

Geoffrey C. Bowker et Susan Leigh Star, Sorting Things Out: Classification and Its Consequences, Cambridge, MIT Press, 1999.

Ian Ayres et John Braithwaite, Responsive Regulation: Transcending the Deregulation Debate, Oxford University Press, 1992.

Robert K. Merton, « The Matthew Effect in Science », Science, vol. 159, n° 3810, 1968, p. 56-63.

Données empiriques et travaux académiques

Eliahu Horwitz et al., « Charting and Navigating Hugging Face's Model Atlas », arXiv:2503.10633, 2025.

Nicholas Carlini et al., « Extracting Training Data from Large Language Models », 30th USENIX Security Symposium, 2021.

Nicholas Carlini et al., « Quantifying Memorization Across Neural Language Models », ICLR, 2023.

Hugging Face, documentation des fiches de modèle et du champ de modèle de base. https://huggingface.co/docs/hub/en/model-cards

Travaux sur la persistance de la mémorisation après distillation et après quantification, arXiv:2601.15394 et arXiv:2607.25451, à vérifier avant publication.