Cómo explicar las decisiones automatizadas

El cliente necesita saber qué ocurrió y qué debe hacer ahora: confirmar su identidad, enviar un documento, volver a intentarlo más tarde o pedir una revisión. El analista necesita los datos que vio el sistema y los factores que determinaron la puntuación, para confirmar o revertir la decisión. El regulador o el auditor necesita reconstruir la decisión con exactitud, con los datos utilizados, las versiones del modelo y de las reglas, y la persona que la revisó.

Las tres explicaciones difieren en extensión y vocabulario, pero deben coincidir, y solo coinciden cuando las tres parten del mismo registro.

En las distintas jurisdicciones, las personas afectadas por decisiones automatizadas tienen derecho a entenderlas y a impugnarlas. Este resumen se verificó el 25 de octubre de 2026; su asesoría jurídica debe confirmar qué le aplica a usted.

Unión Europea, RGPD

El artículo 22 restringe las decisiones basadas únicamente en el tratamiento automatizado que afectan de manera significativa a las personas y, cuando esas decisiones se permiten, exige como mínimo intervención humana y una vía para impugnarlas. El Tribunal de Justicia de la UE ha sostenido que una puntuación de crédito puede ser en sí misma una decisión de ese tipo cuando los prestamistas le dan un papel determinante (SCHUFA, 2023), y que debe informarse a las personas del procedimiento y de los principios realmente aplicados, de forma que puedan entenderlos (Dun & Bradstreet Austria, 2025).

Unión Europea, Ley de IA

El anexo III clasifica la puntuación de crédito de personas físicas como de alto riesgo y excluye los sistemas utilizados para detectar el fraude financiero. El artículo 86 otorga a las personas afectadas el derecho a recibir explicaciones claras y significativas sobre el papel del sistema y los principales elementos de la decisión. Una modificación de 2026 trasladó las obligaciones del anexo III al 2 de diciembre de 2027.

Brasil, LGPD

El artículo 20 otorga a las personas el derecho a solicitar la revisión de las decisiones tomadas únicamente de forma automatizada que afecten sus intereses, incluidos los perfiles de crédito, y a recibir información clara sobre los criterios y procedimientos utilizados, con reserva del secreto comercial.

Emiratos Árabes Unidos

Las directrices conjuntas de 2021 del Banco Central de los EAU, la SCA, la DFSA y la FSRA piden que los modelos de IA relevantes sean explicables, que se conserve un registro de cada versión del modelo, que sea posible revertir manualmente las decisiones erróneas y que se den explicaciones claras a los clientes que las soliciten, sin exponer la propiedad intelectual ni el código fuente.

Centro Financiero Internacional de Dubái

El Reglamento 10, en vigor desde septiembre de 2023, exige un aviso cuando los datos personales son tratados por sistemas autónomos o semiautónomos, y la capacidad de explicar ese tratamiento en términos no técnicos.

Estados Unidos

La SR 26-2, emitida en abril de 2026, sustituyó a la SR 11-7. Espera una evaluación crítica efectiva por parte de revisores independientes, análisis de resultados y documentación adecuada, y deja fuera de su alcance la IA generativa y la agéntica, de modo que los textos redactados por un modelo de lenguaje necesitan sus propios controles.

Escriba el registro una sola vez, cuando se toma la decisión, y no lo sobrescriba nunca.

Datos tal como se vieron

Cada valor que utilizó el sistema, tal como era en ese momento, incluidas las respuestas de servicios externos como un buró de crédito. El registro actual del cliente no los sustituye.

Versiones

Las versiones del modelo y del conjunto de reglas, con las listas y los umbrales vigentes.

Puntuación

La puntuación y el tramo en que se ubicó.

Motivos

Códigos de motivo ordenados según su efecto en esta decisión, con los valores que los respaldan.

Acción

Aprobar, rechazar, pedir verificación adicional, poner en espera o derivar, con el límite que corresponda.

Revisión

Quién revisó el caso, cuándo, y qué decidió y por qué.

Mensaje

El texto exacto que recibió el cliente y su idioma.

Los códigos de motivo deben describir qué movió esta puntuación para este cliente. Use un método de atribución adecuado al modelo y compruebe que sea estable, de modo que dos casos casi idénticos reciban los mismos motivos. Asocie los factores a una biblioteca breve de motivos en lenguaje claro, aprobada por cumplimiento, en cada idioma que atienda.

Si un modelo de lenguaje redacta la carta al cliente o la nota del analista, genere el texto únicamente a partir de los motivos y valores registrados, contrástelo con ellos antes de enviarlo y guárdelo junto con el registro. Una explicación fluida que no refleja lo que usó el modelo es peor que ninguna, porque desinforma al cliente y, más tarde, al regulador.

A un solicitante de crédito se le puede decir qué factores pesaron más y qué cambiaría el resultado; el Tribunal de Justicia de la UE señaló que mostrar cómo otros datos habrían llevado a un resultado distinto puede hacer inteligible una explicación. En cambio, un motivo de fraude detallado le enseña al defraudador qué señal debe evitar.

Dígale al cliente lo suficiente para que pueda actuar: el pago está retenido por una verificación de seguridad, así se confirma que fue usted y esto es lo que tarda. Deje las señales concretas en la vista del analista y en el registro de auditoría. Las normas de protección de datos siguen aplicándose a las decisiones de fraude tomadas únicamente de forma automatizada que afectan de manera significativa a un cliente, incluso cuando la Ley de IA no se aplica.

Toda decisión automatizada con un efecto significativo debería ir acompañada de una forma clara de pedir su revisión, a cargo de personas que vean el registro completo y puedan revertir la decisión. Las decisiones revertidas son además su mejor señal de dónde se equivoca un modelo o una regla.

Mantenga junto al modelo principal un modelo alternativo más sencillo, como una tarjeta de puntuación, y envíe a una persona los casos en que ambos discrepan con fuerza. Documente los límites conocidos de cada modelo, como los clientes con poco historial o los productos con los que no se entrenó, para que quienes revisan los conozcan.

Motivos genéricos

“No cumplió nuestros criterios” no le da al cliente nada que hacer ni al analista nada que comprobar.

Explicaciones escritas a posteriori

Los motivos reconstruidos con los datos y el modelo de hoy pueden diferir de los que se aplicaron. Guárdelos en el momento de la decisión.

Sin historial de versiones

Una empresa que no puede decir qué modelo y qué reglas estaban en producción en una fecha determinada no puede defender las decisiones de ese día.

Revisión solo de nombre

Un revisor que solo ve la puntuación y siempre la confirma no es la revisión humana que buscan las normas.

Motivos específicos

La proporción de decisiones desfavorables que llevan al menos un motivo específico y aprobado.

Tiempo de reconstrucción

Cuánto se tarda en reconstruir por completo una decisión de hace seis meses. Pruebe una muestra aleatoria cada trimestre.

Quejas y apelaciones

Su tasa por decisión desfavorable, por producto y canal.

Apelaciones aceptadas

La proporción de revisiones que revierten la decisión. Una proporción creciente apunta a un problema del modelo o de una regla; una cercana a cero puede indicar que las revisiones no son independientes.

1. 1
   ¿Podemos reconstruir cualquier decisión del año pasado, con los datos y las versiones de ese momento, en un día hábil?
2. 2
   ¿De dónde salen nuestros códigos de motivo y quién aprobó la redacción para el cliente de cada uno?
3. 3
   Si un modelo de lenguaje redacta las cartas a los clientes, ¿qué control contrasta cada una con los motivos registrados?
4. 4
   ¿Qué le decimos a un cliente cuyo pago se detuvo por fraude, y esa explicación revela cómo funcionan nuestros controles?
5. 5
   ¿Quién revisa las decisiones impugnadas, qué ve y con qué frecuencia las revierte?

Elija un tipo de decisión, como los rechazos de tarjeta o las denegaciones de préstamos personales, e intente reconstruir una muestra aleatoria de las decisiones del trimestre pasado con lo que hoy almacena. Las brechas que encuentre fijan el orden del trabajo. Cada decisión tomada con Mantika Argus lleva un motivo en palabras claras que su equipo y su regulador pueden leer.