Como explicar decisões automatizadas

O cliente precisa saber o que aconteceu e o que fazer em seguida: confirmar a identidade, enviar um documento, tentar de novo mais tarde ou pedir uma revisão. O analista precisa dos fatos que o sistema viu e dos fatores por trás da pontuação, para confirmar ou reverter a decisão. O regulador ou auditor precisa reconstituir a decisão exatamente, com os dados usados, as versões do modelo e das regras e o revisor.

As três explicações diferem em extensão e vocabulário, mas precisam concordar, e só permanecem alinhadas quando as três saem do mesmo registro.

Em diferentes jurisdições, as pessoas afetadas por decisões automatizadas têm o direito de entendê-las e contestá-las. Este resumo foi conferido em 25 de outubro de 2026; a sua assessoria jurídica deve confirmar o que se aplica ao seu caso.

União Europeia, GDPR

O Artigo 22 restringe as decisões baseadas exclusivamente em tratamento automatizado que afetem significativamente as pessoas e, quando tais decisões são permitidas, exige no mínimo intervenção humana e uma forma de contestar. O Tribunal de Justiça da União Europeia entendeu que uma pontuação de crédito pode ser, em si, uma dessas decisões quando os credores lhe dão um papel determinante (SCHUFA, 2023), e que as pessoas devem ser informadas sobre o procedimento e os princípios efetivamente aplicados, de forma que possam compreendê-los (Dun & Bradstreet Austria, 2025).

União Europeia, AI Act

O Anexo III classifica a pontuação de crédito de pessoas físicas como de alto risco e deixa de fora os sistemas usados para detectar fraude financeira. O Artigo 86 dá às pessoas afetadas o direito a explicações claras e significativas sobre o papel do sistema e os principais elementos da decisão. Uma alteração de 2026 adiou as obrigações do Anexo III para 2 de dezembro de 2027.

Brasil, LGPD

O Artigo 20 dá às pessoas o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses, inclusive perfis de crédito, e de receber informações claras sobre os critérios e procedimentos utilizados, observados os segredos comercial e industrial.

Emirados Árabes Unidos

As diretrizes conjuntas de 2021 do Banco Central dos Emirados Árabes Unidos, da SCA, da DFSA e da FSRA pedem modelos de IA relevantes que sejam explicáveis, um registro de cada versão do modelo, a capacidade de reverter manualmente decisões equivocadas e explicações claras aos clientes que as solicitem, sem expor propriedade intelectual ou código-fonte.

Centro Financeiro Internacional de Dubai

O Regulamento 10, em vigor desde setembro de 2023, exige aviso quando dados pessoais são tratados por sistemas autônomos ou semiautônomos e a capacidade de explicar esse tratamento em termos não técnicos.

Estados Unidos

A SR 26-2, emitida em abril de 2026, substituiu a SR 11-7. Ela espera desafio efetivo por revisores independentes, análise de resultados e documentação adequada, e deixa a IA generativa e agêntica fora do seu escopo, de modo que um texto escrito por um modelo de linguagem exige controles próprios.

Escreva o registro uma única vez, quando a decisão for tomada, e nunca o sobrescreva.

Entradas como foram vistas

Cada valor que o sistema usou, como estava naquele momento, inclusive as respostas de serviços externos, como um bureau de crédito. O cadastro atual do cliente não substitui isso.

Versões

As versões do modelo e do conjunto de regras, com as listas e os limites em vigor.

Pontuação

A pontuação e a faixa em que ela caiu.

Motivos

Códigos de motivo classificados pelo seu efeito nesta decisão, com os valores por trás deles.

Ação

Aprovar, recusar, exigir verificação adicional, suspender ou encaminhar, com qualquer limite associado.

Revisão

Quem revisou o caso, quando, e o que decidiu e por quê.

Mensagem

O texto exato que o cliente recebeu e o seu idioma.

Os códigos de motivo devem descrever o que moveu esta pontuação para este cliente. Use um método de atribuição adequado ao modelo e verifique se ele é estável, de modo que dois casos quase idênticos recebam os mesmos motivos. Associe os fatores a uma biblioteca curta de motivos em linguagem simples, aprovada pela área de conformidade, em cada idioma que você atende.

Se um modelo de linguagem escrever a carta ao cliente ou a nota do analista, gere-a apenas a partir dos motivos e valores registrados, confira-a com eles antes de enviar e guarde-a junto com o registro. Uma explicação fluente que não reflete o que o modelo usou é pior do que nenhuma, porque desinforma o cliente e, mais tarde, o regulador.

Um solicitante de crédito pode ser informado de quais fatores pesaram mais e do que mudaria o resultado; o Tribunal de Justiça da União Europeia observou que mostrar como dados diferentes teriam levado a outro resultado pode tornar uma explicação inteligível. Um motivo detalhado de fraude, por outro lado, ensina ao fraudador qual sinal evitar.

Diga ao cliente o bastante para agir: o pagamento está retido para uma verificação de segurança, veja como confirmar que foi você e quanto tempo isso leva. Mantenha os sinais específicos na visão do analista e no registro de auditoria. As regras de proteção de dados continuam valendo para decisões de fraude exclusivamente automatizadas que afetem significativamente o cliente, mesmo quando o AI Act não se aplica.

Toda decisão automatizada com efeito significativo deve vir com uma forma clara de pedir revisão, tratada por pessoas que vejam o registro completo e possam reverter a decisão. As decisões revertidas também são o seu melhor retorno sobre onde um modelo ou uma regra está errado.

Mantenha ao lado do modelo principal um modelo desafiante mais simples, como um scorecard, e envie a uma pessoa os casos em que os dois divergem muito. Documente os limites conhecidos de cada modelo, como clientes com pouco histórico ou produtos com os quais não foi treinado, para que os revisores os conheçam.

Motivos genéricos

“Não atendeu aos nossos critérios” não dá ao cliente nada para fazer nem ao analista nada para conferir.

Explicações escritas depois do fato

Motivos reconstruídos a partir dos dados e do modelo de hoje podem diferir dos que se aplicaram. Guarde-os quando a decisão for tomada.

Nenhum histórico de versões

Uma empresa que não sabe dizer quais modelos e regras estavam em produção em uma data não consegue defender as decisões tomadas nesse dia.

Revisão só no nome

Um revisor que vê apenas a pontuação e sempre a confirma não é a revisão humana que as regras pretendem.

Motivos específicos

A parcela das decisões desfavoráveis que trazem ao menos um motivo específico e aprovado.

Tempo de reconstituição

Quanto tempo leva para reconstituir por completo uma decisão de seis meses atrás. Teste uma amostra aleatória a cada trimestre.

Reclamações e recursos

A taxa deles por decisão desfavorável, por produto e canal.

Recursos acolhidos

A parcela das revisões que revertem a decisão. Uma parcela crescente aponta um problema de modelo ou de regra; uma parcela próxima de zero pode indicar que as revisões não são independentes.

1. 1
   Conseguimos reconstituir qualquer decisão do ano passado, com as entradas e as versões usadas na época, em um dia útil?
2. 2
   De onde vêm os nossos códigos de motivo, e quem aprovou o texto para o cliente de cada um?
3. 3
   Se um modelo de linguagem redige cartas aos clientes, o que confere cada uma com os motivos registrados?
4. 4
   O que dizemos a um cliente cujo pagamento foi barrado por suspeita de fraude, e isso revela como funcionam os nossos controles?
5. 5
   Quem revisa as decisões contestadas, o que essas pessoas veem e com que frequência revertem as decisões?

Escolha um tipo de decisão, como recusas de cartão ou negativas de empréstimo pessoal, e tente reconstituir uma amostra aleatória das decisões do último trimestre a partir do que você guarda hoje. As lacunas que você encontrar definem a ordem do trabalho. Toda decisão tomada com o Mantika Argus traz um motivo em palavras simples que a sua equipe e o seu regulador podem ler.