ION — o conselheiro de IA do primeiro-ministro da Roménia: análise de contributos dos cidadãos, com grandes alegações de alcance e dúvidas de privacidade

A 1 de março de 2023, o primeiro-ministro Nicolae Ciucă apresentou o ION ao Governo como «conselheiro de IA» honorário. O ION não é um chatbot: os cidadãos enviam ideias e queixas através de um portal ou marcando publicações nas redes sociais, e o sistema prioriza, agrupa e resume-as em relatórios sobre o que as pessoas esperam do Governo. A newsletter The Batch (DeepLearning.AI) descreve ordenação por similaridade semântica, extração de tópicos, análise de sentimento e monitorização de clusters ao longo do tempo.
Foi criado por uma iniciativa pro bono de mais de 500 programadores e investigadores de mais de 13 instituições romenas, com supervisão do ministério da investigação. Um perfil da 3 Seas Europe (agosto de 2023) refere, com base em números da própria equipa, cerca de 800 000 mensagens relevantes, 5 000 tópicos interligados e 3 milhões de visitas ao sítio num mês. Não foram auditados, e não se encontrou avaliação independente que mostre que os relatórios do ION alteraram alguma decisão governamental.
O mesmo perfil enumera preocupações: possível enviesamento na interpretação dos dados, spam, sub-representação de pessoas sem acesso à Internet, falhas do sítio, uma investigação ao abrigo do RGPD, alegações de violação de direitos de autor e críticas de eurodeputados que trabalham no Regulamento IA. O caso serve de exemplo de IA usada para ouvir os cidadãos e não para prestar serviços, e de aviso de que a análise de participação exige métodos publicados, verificação de representatividade e registo da influência nas políticas antes de lhe ser atribuído impacto.