Deja que el agente analice. Mantén la decisión financiera en manos humanas.

Los equipos financieros quieren que los agentes de IA hagan más que resumir documentos. Un agente puede buscar políticas, conciliar transacciones, explicar una desviación de previsión o preparar una recomendación. La pregunta es cómo permitirle hacer un trabajo útil sin que una respuesta plausible pero equivocada se convierta en una acción financiera sin revisar.

En «Trust in Depth: Giving agents more autonomy without losing control», AWS sostiene que aprobar cada paso no es una solución escalable. Cuando se acumulan las aprobaciones, quienes revisan pueden fatigarse y pasar por alto las decisiones que merecen atención. El artículo propone construir confianza por capas: definir el alcance del agente, conocer su identidad y autoridad, limitar sus acciones y observar lo que hace. Puede actuar de forma independiente cuando sus acciones se pueden verificar; el criterio humano se reserva para las decisiones importantes o ambiguas.

Ese principio encaja con el mensaje central de The Impact of AI in Financial Decisions, de Ed Freitas: la IA puede procesar información y recomendar una acción, pero una persona debe decidir si ese resultado merece influir en el negocio. El objetivo no es aprobar cada frase del modelo. Es diseñar el flujo de trabajo para que las personas mantengan la autoridad sobre qué resultados se convierten en decisiones financieras.

La supervisión humana es un derecho de decisión, no un botón

«Human in the loop» puede significar desde una revisión cuidadosa hasta que alguien pulse «Aprobar» en una pantalla que no tiene tiempo de evaluar. Un control es significativo solo cuando quien revisa dispone de la evidencia, los conocimientos, la autoridad y el tiempo para cuestionar la recomendación, y el sistema le permite aprobarla, modificarla, aplazarla o rechazarla.

El ejemplo de detección de fraude del libro ilustra una buena división de responsabilidades. El modelo asigna una puntuación a las transacciones; un analista humano revisa los casos que superan un umbral acordado. El ejemplo informa de una mejora en la detección y una reducción de falsos positivos en ese escenario. No afirma que esos resultados estén garantizados en otras organizaciones. Su enseñanza práctica es cómo se distribuye el trabajo: la IA prioriza la evidencia y un analista responsable decide qué acción sigue.

El flujo de concesión de préstamos del libro aplica un límite similar. La IA puede recopilar y verificar documentos, señalar discrepancias y producir una recomendación preliminar de evaluación. La persona responsable revisa la recomendación y los documentos de respaldo, toma la decisión crediticia y la firma (p. 58). En la conclusión, el libro explica que los resultados solo se convierten en decisiones mediante el criterio de quien los evalúa (p. 204). Es una elección de gobernanza, no la afirmación de que un modelo pueda ser infalible.

La autonomía funciona mejor dentro de límites que el agente no puede modificar

Un agente puede completar varios pasos permitidos de forma individual y aun así llegar a un resultado no deseado. Un agente financiero podría consultar una política válida, elegir una herramienta de hoja de cálculo autorizada y redactar correctamente una explicación contable; después, podría registrar un asiento que nadie quería enviar. Las instrucciones de un prompt no bastan para proteger el proceso, porque es el propio modelo quien las interpreta.

Separa el razonamiento del agente de los controles que autorizan acciones. Define lo que puede consultar y hacer mediante permisos de acceso, reglas deterministas, aprobaciones y límites aplicados por el sistema. El agente puede proponer una acción, pero no puede aumentar su propio límite de pago, concederse nuevos accesos ni saltarse una aprobación humana obligatoria. Registra la evidencia utilizada, las herramientas llamadas, los controles aplicados y la decisión final para que se pueda reconstruir el proceso.

Las cuatro preguntas de AWS ayudan a organizar ese diseño:

• Alcance: ¿Qué tarea realiza el agente, qué información y herramientas necesita y qué decisiones deben quedar en manos de una persona?
• Identidad: ¿Qué agente actuó, bajo qué autoridad y se puede vincular cada acción con esa identidad?
• Límites: ¿Qué reglas se aplican fuera del modelo durante toda la secuencia de acciones?
• Observación: ¿Puede el equipo reconstruir qué vio, hizo y devolvió el agente, y detectar un resultado incorrecto?

En un flujo financiero, añade una decisión humana siempre que importen la interpretación, la materialidad, las excepciones a políticas, el impacto en clientes o una acción irreversible. Reserva las verificaciones automáticas para aspectos que se puedan comprobar con precisión: cálculos, campos obligatorios, identificadores duplicados y umbrales aprobados.

Ejemplo: un agente de desviaciones que no puede mover el presupuesto

Imagina un agente que ayuda a investigar por qué los gastos de un departamento superan la previsión. Dale acceso de solo lectura a un extracto contable aprobado, el presupuesto, los totales de periodos anteriores y la política de gastos pertinente. Pídele que calcule la desviación con una fórmula especificada, cite las filas de origen, señale la evidencia que falta y proponga varias explicaciones junto con la evidencia que permitiría confirmarlas o descartarlas.

El agente puede preparar un expediente de revisión. No puede modificar la contabilidad, transferir presupuesto, cambiar una previsión ni enviar conclusiones a la dirección. Un profesional de finanzas comprueba las cifras, habla con la persona responsable del presupuesto, decide qué explicación concuerda con los hechos y autoriza cualquier ajuste. Si después un sistema aprobado ejecuta ese ajuste, debe volver a comprobar el importe y la cuenta autorizados en el momento de la acción.

No se trata de añadir fricción innecesaria. Los ejercicios de decisión del libro piden a los líderes financieros comparar posibles proyectos piloto de IA según su valor de negocio y su riesgo de implementación. También señalan por qué el trading autónomo puede ser un primer proyecto inadecuado para una organización que aún no tiene la experiencia ni los controles necesarios (p. 187). El principio consiste en ajustar la autonomía al nivel de riesgo y a la capacidad de gobernanza de la organización.

Un prompt que apoya el criterio sin fingir que lo sustituye

Los prompts pueden definir una tarea de análisis y hacer visible la incertidumbre. No pueden imponer permisos. Úsalos junto con controles técnicos, nunca en su lugar:

Eres un asistente de apoyo a decisiones financieras. Revisa los datos aprobados
que se proporcionan para investigar esta desviación.

1. Vuelve a calcular la desviación con la fórmula indicada y muestra los datos utilizados.
2. Separa los hechos verificados de las hipótesis. Cita el archivo y la fila de origen.
3. Propón hasta cuatro explicaciones e identifica la evidencia a favor y en contra de cada una.
4. Indica qué información falta y qué debería preguntar la persona revisora.
5. No modifiques registros, transfieras fondos, alteres previsiones, contactes a nadie ni
   tomes una decisión contable o de gestión definitiva. Presenta recomendaciones para revisar.

Para una decisión más importante, pide al agente que cuestione la opción preferida:

Actúa como revisor escéptico de esta propuesta financiera. Identifica supuestos que
podrían cambiar el resultado, alternativas plausibles que no hayamos considerado,
escenarios desfavorables y evidencia que refutaría la opción preferida. Distingue
los hechos de las estimaciones. No elijas ni ejecutes una opción. Indica qué cargo
humano debe tomar la decisión y qué comprobaciones hacen falta antes de autorizar
cualquier acción.

Después, adapta el flujo técnico al prompt: credenciales de solo lectura para el análisis, esquemas estrictos para datos estructurados, cálculos independientes, una persona revisora identificada y una aprobación obligatoria impuesta por el sistema antes de cualquier acción importante. Nunca confíes en que el modelo controle sus propios permisos.

Diferentes niveles de aprobación para diferentes riesgos

Exigir aprobación para cada tarea sencilla y de bajo riesgo puede agotar a quienes revisan. Se puede permitir que tareas rutinarias y reversibles —como clasificar una partida para ponerla en una cola de revisión— se completen automáticamente si tienen límites claros, supervisión y un método para corregir errores. Deja que el agente prepare análisis y borradores de recomendaciones para que una persona los revise. Exige autorización humana explícita para decisiones importantes de crédito, inversión, contabilidad, atención al cliente, regulación o pagos. Si una acción no puede hacerse segura mediante controles aplicables, mantenla fuera de los permisos del agente.

Antes de ampliar su autonomía, prueba todo el flujo con casos normales, casos límite, documentos engañosos, datos ausentes e intentos de inyección de prompts. Registra errores de extracción, recomendaciones sin respaldo, cambios realizados por revisores, demoras de aprobación, incumplimientos de políticas y el tiempo necesario para detener o revertir una acción. Si las personas suelen aprobar sin comprobar, el control existe sobre el papel, pero no en la práctica.

Tener el control humano significa asumir el resultado

Ninguna organización puede prometer que todos los resultados de la IA serán correctos. El control humano significa algo más concreto: la organización decide a qué puede acceder el agente, qué acciones puede ejecutar, qué situaciones exigen escalamiento, quién tiene autoridad para aprobar y cómo se contiene un error. Para las decisiones financieras de gran impacto, una persona cualificada sigue siendo responsable de la decisión final y puede rechazar o modificar la recomendación.

Así se refuerzan mutuamente el enfoque del libro y la confianza por capas de AWS. Deja que la IA se encargue de más búsquedas, comparaciones, cálculos y borradores. Impón límites estrictos a sus herramientas y permisos. Haz visible la incertidumbre. Da a las personas evidencia y autoridad suficientes para decidir. Unos controles bien diseñados permiten que el agente contribuya con rapidez sin cederle los derechos de decisión de la organización.

La pregunta más útil no es «¿Hasta qué punto podemos hacer autónomo al agente?», sino «¿Qué trabajo puede completar de forma segura, qué resultados requieren el criterio de una persona y qué controles demuestran la diferencia?»