Quadro de Avaliação de IA de NSW — Uma barreira obrigatória de 16 perguntas para cada sistema de IA do Estado, e o que o auditor encontrou

O Quadro de Avaliação de IA de NSW (AIAF) evoluiu do Quadro de Garantia de IA de 2022. Ao abrigo da Circular DCS-2024-04 é obrigatório, a par da Política de Ética da IA, para toda a utilização de IA pelo Governo de NSW ao longo do ciclo de vida.
As agências respondem a 16 perguntas, identificam riscos e medidas de mitigação e têm de submeter os sistemas de risco elevado ou crítico (ou com risco residual elevado) ao Comité de Revisão de IA de NSW através do Secretariado de IA. Os projetos acima de 5 milhões de dólares australianos, ou financiados pelo Digital Restart Fund, têm supervisão central adicional através do Digital Assurance Framework.
O Audit Office de NSW examinou 10 agências com utilização significativa de IA no relatório «Internal controls and governance 2026» (17 de agosto de 2026). Todas mantinham um registo de IA, mas apenas 4 registavam sistemas formalmente avaliados. Dos 15 projetos de IA analisados, 13 tinham sido avaliados ao abrigo do quadro e 4 não tinham avaliação de risco cibernético. Só metade das agências tinha estratégia ou política de IA própria e apenas uma considerava a IA nos documentos de contratação. O sistema de fiscalização do cinto de segurança da Transport for NSW, em que três revisores humanos aprovam cada infração potencial, foi citado como boa prática.
O auditor recomenda que as agências avaliem todas as soluções de IA exigíveis face ao quadro até 30 de junho de 2027. Lição: uma barreira obrigatória gera avaliações, mas os registos, a estratégia e o controlo de custos ficam para trás sem acompanhamento.