O Sistema de Registo de Algoritmos da China — Divulgação Obrigatória aos Reguladores Sem Transparência Pública

As Disposições sobre a Administração da Recomendação Algorítmica para Serviços de Informação na Internet da China, emitidas pela Administração do Ciberespaço da China (CAC) e em vigor desde 1 de março de 2022, exigem que as plataformas cujos algoritmos tenham 'propriedades de opinião pública ou capacidade de mobilização social' se registem junto da CAC ou dos seus ramos provinciais. Um regime paralelo, ao abrigo das Medidas Provisórias para Serviços de IA Generativa de 2023, alargou as obrigações de registo aos modelos e aplicações de IA generativa.

O mecanismo de registo exige que as plataformas submetam divulgações antes da implementação; as secções não públicas dos registos, como os conjuntos de dados de treino e as autoavaliações de segurança, só são visíveis para os reguladores.

Até agosto de 2024, a CAC tinha confirmado que 190 modelos de IA generativa se tinham registado com sucesso ao abrigo do regime, e o acompanhamento independente realizado no mesmo período constatou que apenas uma parte dos modelos submetidos (estimada em cerca de metade) conseguia obter o registo em cada momento — uma evidência de que o mecanismo filtra as submissões, em vez de funcionar como um mero carimbo automático, e de que já opera à escala nacional, abrangendo também os algoritmos de recomendação de milhares de plataformas.

Uma análise independente do Carnegie Endowment for International Peace às divulgações tornadas públicas concluiu que estas são 'formuladas a um nível tão elevado que se tornam praticamente desprovidas de qualquer detalhe significativo': o algoritmo de classificação de 'pesquisas em alta' da Weibo, por exemplo, é descrito apenas como combinando 'popularidade de pesquisa, popularidade de discussão e popularidade de disseminação' multiplicadas por um 'coeficiente de taxa de interação' — uma descrição que, segundo o Carnegie, um observador externo sem conhecimento prévio do algoritmo 'conseguiria essencialmente adivinhar'. O Carnegie conclui que, com base no que é público, os registos 'não fornecem qualquer visão significativa sobre os algoritmos, sobre como foram treinados, ou sobre como podem funcionar', ainda que as secções não públicas possam conter mais detalhe visível apenas para os reguladores. Este caso é incluído como um exemplo honesto de advertência: um mecanismo de conformidade que se expandiu institucional e legalmente, mas que oferece pouca da responsabilização pública que os registos de algoritmos procuram proporcionar noutros contextos.