O Regulamento Europeu de Inteligência Artificial, conhecido como AI Act, estabelece que ferramentas algorítmicas de alto risco precisam ser desenvolvidas permitindo uma supervisão humana efetiva durante o uso. A legislação determina que os supervisores evitem o viés de automação e possam rejeitar, reverter ou desconsiderar resultados inadequados. Além disso, a norma exige que as empresas atribuam essa função a indivíduos capacitados e com a devida autoridade.
O abismo entre normas e a realidade prática
O desafio central reside na distância entre a exigência legal e a demonstração de condições reais para exercê-la. O conceito vai além de criar procedimentos ou treinamentos, exigindo analisar como garantir que a supervisão permita contestar falhas reais e não vire apenas uma evidência documental vazia.
Distorções na sociedade de auditoria
Na visão do pesquisador Michael Power, a proliferação de auditorias gera um problema quando a verificação burocrática substitui a finalidade substantiva. Na inteligência artificial, ter treinamentos concluídos e protocolos registrados não comprova, de forma isolada, que o profissional consegue identificar um erro oculto sob uma resposta aparentemente confiável.
O papel do Estado Avaliador e da mensuração
Conceitos de teóricos como Guy Neave e Gert Biesta alertam que focar em métricas e indicadores pode induzir organizações a otimizar apenas o que é facilmente visível. Se a supervisão for avaliada somente por taxas de intervenção ou conclusão de cursos, corre-se o risco de confundir desempenho observável com julgamento crítico autônomo.
Portanto, a efetividade da governança de inteligência artificial não se sustenta apenas em políticas de papel. É fundamental avaliar de forma rigorosa as condições operacionais e epistêmicas para que equipes consigam questionar e modificar decisões algorítmicas com total segurança.
Sobre o Autor
