Le système chinois d'enregistrement des algorithmes — une divulgation obligatoire aux régulateurs, sans transparence publique

Les dispositions chinoises relatives à l'administration de la recommandation algorithmique pour les services d'information sur Internet, publiées par l'Administration du cyberespace de Chine (CAC) et en vigueur depuis le 1er mars 2022, exigent que les plateformes dont les algorithmes présentent des « propriétés d'opinion publique ou une capacité de mobilisation sociale » déposent un dossier d'enregistrement auprès de la CAC ou de ses antennes provinciales. Un régime parallèle, en vertu des Mesures provisoires pour les services d'IA générative de 2023, a étendu les obligations de dépôt aux modèles et applications d'IA générative.

Le mécanisme de dépôt exige que les plateformes soumettent des déclarations avant leur déploiement ; les sections non publiques des dossiers, telles que les jeux de données d'entraînement et les auto-évaluations de sécurité, ne sont visibles que par les régulateurs.

En août 2024, la CAC avait confirmé que 190 modèles d'IA générative avaient été enregistrés avec succès dans le cadre de ce régime, et un suivi indépendant réalisé à la même période a constaté que seule une partie des modèles soumis (estimée à près de la moitié) obtenait effectivement son enregistrement à un moment donné — preuve que le mécanisme filtre réellement les soumissions plutôt que de fonctionner comme une simple formalité, et qu'il opère désormais à l'échelle nationale, couvrant également les algorithmes de recommandation de milliers de plateformes.

Un examen indépendant mené par le Carnegie Endowment for International Peace sur les divulgations rendues publiques a conclu qu'elles étaient « formulées à un niveau si général qu'elles sont pratiquement dépourvues de tout détail significatif » : l'algorithme de classement des « recherches tendance » de Weibo, par exemple, n'est décrit que comme combinant « la popularité de recherche, la popularité de discussion et la popularité de diffusion » multipliées par un « coefficient de taux d'interaction » — une description qu'un observateur extérieur sans connaissance préalable de l'algorithme, selon Carnegie, « pourrait essentiellement deviner ». Carnegie conclut que, sur la base de ce qui est public, les dossiers « ne fournissent aucune information significative sur les algorithmes, sur la façon dont ils ont été entraînés, ni sur la façon dont ils pourraient se comporter », même si les sections non publiques peuvent contenir davantage de détails visibles uniquement par les régulateurs. Ce cas est présenté comme un exemple de mise en garde honnête : un mécanisme de conformité qui s'est développé sur le plan institutionnel et juridique, mais qui offre peu de la redevabilité publique que les registres d'algorithmes visent à apporter ailleurs.