Voltar para os artigos
Inteligência Artificial

Avaliação independente de IA em saúde: o que Utah exige

Utah exige validação externa para IA em saúde, com seis avaliadores terceiros. O que a operadora pode copiar desse modelo na hora de contratar fornecedor de IA.

IT Cygnus19 de outubro de 20266 min min de leitura
Avaliação independente de IA em saúde: o que Utah exige
AI.DATA

Em 5 de outubro, o Departamento de Comércio de Utah anunciou acordos com seis avaliadores externos para checar ferramentas de IA em saúde antes que elas operem no programa-sandbox do estado: a Coalition for Healthcare AI (CHAI), o Clinical Excellence Research Centers de Stanford, Clarion AI Partners, Glacis Technologies, Vega Health e mpathic AI. A cobertura da Healthcare IT News, de 12 de outubro, diz que o papel deles é auditar a acurácia dos relatórios de decisão, verificar o desempenho dos modelos e validar o que o fornecedor promete sobre segurança e desempenho.

O contexto vale uma linha. O sandbox começou em janeiro de 2026 com um piloto da Doctronic para renovar receitas automaticamente. Em abril, o conselho de medicina do estado pediu a suspensão do piloto, porque o paciente conseguia renovar o medicamento sem nova avaliação clínica. A exigência de avaliador terceiro nasceu depois disso.

Não é um texto sobre Utah. É sobre uma pergunta que a diretoria de uma operadora deveria poder responder antes de assinar com qualquer fornecedor de IA: quem, além do próprio fornecedor, atesta que isso funciona?

Quem paga o avaliador muda o que ele avalia

Um detalhe do modelo de Utah me parece mais importante que a lista de nomes. Segundo a matéria, os avaliadores negociam o pagamento diretamente com os participantes aprovados do sandbox. Ou seja, quem é avaliado paga quem avalia.

Isso não invalida o arranjo. Auditoria financeira funciona assim há décadas, e o estado ainda confere se as avaliações atendem aos requisitos dele, segundo um dirigente da CHAI citado no texto. Mas é o tipo de desenho em que o contrato de avaliação importa tanto quanto o avaliador. Minha leitura é que a operadora que contrata IA deveria fazer a mesma pergunta ao contrário: se o fornecedor me apresenta um relatório de terceiro, quem contratou esse terceiro, com que escopo, e eu posso ver o escopo?

O recibo de decisão

A peça mais concreta da matéria é o padrão OVERT, criado pela Glacis. É voluntário e, desde setembro, tem CHAI e a AIGovOps Foundation como curadoras. A ideia é que cada decisão relevante do sistema gere um "recibo" verificável: evidência de que houve supervisão clínica, avaliação e auditoria. O próprio texto ressalva que o recibo não certifica segurança, eficácia nem conformidade legal. Só prova que o processo rodou.

Outro ponto: pelo memorando com a Glacis, essa evidência pode ser ligada a eventos sem expor pesos do modelo, prompts brutos, respostas brutas nem dados pessoais. Para operadora, isso responde a uma objeção comum, a de que auditar a IA exige abrir o que o fornecedor protege e o que a LGPD protege.

A tradução para o seu contrato é direta. Peça que cada decisão de cobertura, glosa ou autorização tomada com apoio de IA deixe um registro que você consiga reconstituir meses depois: versão da regra ativa, evidência considerada, resultado. Foi o critério que já levantamos em o que a RFP não pergunta, e é parte do que torna a Resolução CFM 2.454/2026 operacional em vez de declaratória.

Seis avaliadores, um dado seu

Aqui discordamos um pouco do instinto de transferir o modelo de Utah inteiro. Avaliação de terceiro mede o modelo ou o produto em condições definidas por alguém. O que decide se funciona na sua carteira é o seu dado: o mix de planos, as tabelas que a sua equipe usa, o histórico de glosa que só você tem.

Por isso, no nosso trabalho com operadoras, a avaliação que mais pesa é a que roda sobre uma amostra do dado real da operadora, com baseline combinado antes. Selo de terceiro e prova no seu dado respondem a perguntas diferentes, e a boa contratação pede as duas. É o que desenvolvemos na Plataforma Cygnus: decisão rastreável de ponta a ponta e, no AI.AUDITAMED, regras de validação que a operadora liga, desliga e mede antes de ativar.

Onde o modelo de Utah não se transfere

Vale dizer onde essa régua não ajuda. A matéria trata de ferramentas clínicas num sandbox estadual, como renovação de receita. Decisão de cobertura, auditoria de conta e análise de reembolso numa operadora de 50 a 150 mil vidas têm outro risco e outro regulador. Não existe, que eu saiba, um equivalente brasileiro desse circuito de avaliadores, e a matéria também não nomeia a lei que sustenta o programa: fala em acordos e memorandos, num programa de mitigação regulatória.

Há ainda um conflito que precisa ficar explícito. Somos fornecedor. Quem escreve defendendo que fornecedor seja avaliado por fora tem interesse no desfecho, e você deve descontar isso na leitura.

A pergunta que fica para a sua próxima concorrência cabe numa linha: se o fornecedor errar em produção, existe alguém fora dele capaz de dizer o que aconteceu?

A avaliação independente de IA em saúde ainda está se formando, e a operadora não precisa esperar um selo para começar a exigir rastreabilidade e prova em dado real. A Plataforma Cygnus foi desenhada para esse escrutínio: registro de cada decisão, regra sob controle da operadora e resultado medido sobre a sua base antes de qualquer contrato.

Na avaliação, o time roda a plataforma sobre uma amostra do seu dado real, com baseline comparativo definido em conjunto e um relatório que você pode levar a qualquer avaliador externo que escolher. Solicitar avaliação da Plataforma Cygnus.

"Sozinhos, combatemos uma fraude. Unidos, eliminamos o problema."

Pronto para aplicar isso na sua operação?

Veja em 30 minutos como a IT Cygnus implementa essa arquitetura na sua operadora.

Solicitar demonstração
Newsletter Cygnus

Receba os próximos posts no seu email

Análises técnico-executivas sobre IA, auditoria, fraude e regulação na saúde. Toda segunda-feira, sem ruído.

Sem spam. Cancele a qualquer momento.