Deixe o agente analisar. Mantenha a decisão financeira com as pessoas.

As equipes financeiras querem que agentes de IA façam mais do que resumir documentos. Um agente pode pesquisar políticas, conciliar transações, explicar uma variação na previsão ou preparar uma recomendação. A questão é como permitir que ele faça um trabalho útil sem deixar que uma resposta plausível, mas equivocada, se transforme em uma ação financeira sem revisão.

Em “Trust in Depth: Giving agents more autonomy without losing control”, a AWS argumenta que aprovar cada etapa não é uma solução escalável. Quando as aprovações se acumulam, os revisores podem ficar cansados e deixar passar decisões que merecem atenção. O artigo propõe construir confiança em camadas: definir o escopo do agente, conhecer sua identidade e autoridade, limitar suas ações e observar o que ele faz. Ele pode agir de forma independente quando as ações podem ser verificadas; o julgamento humano fica reservado para decisões relevantes ou ambíguas.

Esse princípio combina com a mensagem central de The Impact of AI in Financial Decisions, de Ed Freitas: a IA pode processar informações e recomendar uma ação, mas uma pessoa deve decidir se aquele resultado merece influenciar o negócio. O objetivo não é aprovar cada frase do modelo. É projetar o fluxo de trabalho para que as pessoas mantenham autoridade sobre quais resultados se tornam decisões financeiras.

A supervisão humana é um direito de decisão, não um botão

“Human in the loop” pode significar desde uma revisão cuidadosa até alguém clicar em “Aprovar” numa tela que não tem tempo de avaliar. Um controle só é significativo quando o revisor tem evidências, conhecimento, autoridade e tempo para questionar a recomendação — e quando o sistema lhe permite aprová-la, alterá-la, adiá-la ou rejeitá-la.

O exemplo de detecção de fraude do livro ilustra uma divisão útil de responsabilidades. O modelo pontua as transações; um analista humano revisa os casos acima de um limite definido. O exemplo relata melhora na detecção e redução de falsos positivos naquele cenário. Não afirma que esses resultados estejam garantidos em outros lugares. O ponto prático é a distribuição do trabalho: a IA prioriza as evidências, enquanto um analista responsável decide a ação seguinte.

O fluxo de concessão de crédito do livro aplica um limite semelhante. A IA pode coletar e verificar documentos, sinalizar divergências e produzir uma recomendação preliminar de análise de crédito. A pessoa responsável revisa a recomendação e os documentos de apoio, toma a decisão de crédito e a aprova formalmente (p. 58). Na conclusão, o livro afirma que os resultados só se tornam decisões por meio do julgamento de quem os avalia (p. 204). Isso é uma escolha de governança, não uma afirmação de que o modelo possa ser infalível.

A autonomia funciona melhor dentro de limites que o agente não pode alterar

Um agente pode executar várias etapas permitidas individualmente e ainda chegar a um resultado indesejado. Um agente financeiro pode consultar uma política válida, escolher uma ferramenta de planilha autorizada e redigir corretamente uma explicação contábil; depois, pode lançar um ajuste que ninguém queria enviar. Instruções no prompt não bastam para proteger o processo, porque é o próprio modelo que as interpreta.

Separe o raciocínio do agente dos controles que autorizam ações. Defina o que ele pode consultar e fazer por meio de permissões de acesso, regras determinísticas, aprovações e limites aplicados pelo sistema. O agente pode propor uma ação, mas não pode aumentar o próprio limite de pagamento, conceder novos acessos a si mesmo nem ignorar uma aprovação humana obrigatória. Registre as evidências usadas, as ferramentas acionadas, os controles aplicados e a decisão final para que o processo possa ser reconstruído.

As quatro perguntas da AWS ajudam a organizar esse projeto:

• Escopo: Qual tarefa o agente executa, de quais informações e ferramentas precisa, e quais decisões devem permanecer com uma pessoa?
• Identidade: Qual agente agiu, sob qual autoridade e cada ação pode ser vinculada a essa identidade?
• Limites: Quais regras são aplicadas fora do modelo ao longo de toda a sequência de ações?
• Observação: A equipe consegue reconstruir o que o agente viu, fez e retornou — e detectar um resultado incorreto?

Em um fluxo financeiro, inclua uma decisão humana sempre que interpretação, materialidade, exceções a políticas, impacto sobre clientes ou uma ação irreversível forem relevantes. Use verificações automáticas para aspectos que podem ser testados com precisão, como cálculos, campos obrigatórios, identificadores duplicados e limites aprovados.

Exemplo: um agente de variações que não pode transferir o orçamento

Imagine um agente que ajuda a investigar por que os gastos de um departamento superaram a previsão. Dê a ele acesso somente para leitura a um extrato contábil aprovado, ao orçamento, aos totais de períodos anteriores e à política de despesas relevante. Peça que calcule a variação com uma fórmula definida, cite as linhas de origem, sinalize evidências ausentes e proponha algumas explicações, indicando o que confirmaria ou enfraqueceria cada uma.

O agente pode preparar um material para revisão. Ele não pode alterar a contabilidade, transferir orçamento, mudar a previsão nem enviar conclusões à diretoria. Uma pessoa da equipe financeira verifica os números, conversa com a pessoa responsável pelo orçamento, decide qual explicação corresponde aos fatos e autoriza qualquer ajuste. Se um sistema aprovado executar esse ajuste depois, deve conferir novamente o valor e a conta autorizados no momento da ação.

Isso não é atrito desnecessário. Os exercícios de decisão do livro pedem que líderes financeiros comparem projetos-piloto de IA por valor de negócio e risco de implementação, e destacam por que o trading autônomo pode ser um primeiro projeto inadequado para uma organização sem experiência e controles suficientes (p. 187). O princípio é ajustar a autonomia ao risco e à capacidade de governança da organização.

Um prompt que apoia o julgamento sem fingir substituí-lo

Prompts podem definir uma tarefa de análise e deixar a incerteza visível. Eles não impõem permissões. Use-os junto com controles técnicos, nunca no lugar deles:

Você é um assistente de apoio a decisões financeiras. Analise os dados aprovados
fornecidos para esta investigação de variação.

1. Recalcule a variação usando a fórmula informada e mostre os dados utilizados.
2. Separe fatos verificados de hipóteses. Cite o arquivo e a linha de origem.
3. Apresente até quatro explicações possíveis e identifique evidências a favor e contra cada uma.
4. Diga quais informações estão faltando e o que o revisor financeiro deve perguntar.
5. Não altere registros, transfira recursos, modifique previsões, contate pessoas nem tome
   uma decisão contábil ou gerencial final. Apresente recomendações para revisão.

Para uma decisão de maior impacto, peça ao agente que desafie a opção preferida:

Atue como um revisor cético desta decisão financeira proposta. Identifique as
premissas que poderiam mudar o resultado, alternativas plausíveis que não
consideramos, cenários desfavoráveis e evidências que refutariam a opção preferida.
Diferencie fatos de estimativas. Não escolha nem execute uma opção. Indique qual
função humana deve tomar a decisão e quais verificações são necessárias antes
de autorizar qualquer ação.

Em seguida, faça o fluxo técnico corresponder ao prompt: credenciais somente de leitura para a análise, esquemas rígidos para dados estruturados, cálculos independentes, um revisor identificado e uma aprovação imposta pelo sistema antes de qualquer ação relevante. Nunca dependa do modelo para controlar as próprias permissões.

Níveis de aprovação diferentes para riscos diferentes

Exigir aprovação para cada tarefa simples e de baixo risco pode esgotar os revisores. Tarefas rotineiras e reversíveis — como classificar um item para uma fila de revisão — podem ser executadas automaticamente quando há limites claros, monitoramento e uma forma de corrigir erros. Deixe o agente preparar análises e rascunhos de recomendações para uma pessoa revisar. Exija autorização humana explícita para decisões relevantes de crédito, investimento, contabilidade, clientes, regulação ou pagamentos. Mantenha fora das permissões do agente as ações que não possam ser protegidas por controles aplicáveis.

Antes de ampliar a autonomia, teste o fluxo completo com casos comuns, casos extremos, documentos enganosos, dados ausentes e tentativas de injeção de prompt. Acompanhe erros de extração, recomendações sem suporte, intervenções de revisores, atrasos de aprovação, violações de políticas e o tempo necessário para interromper ou reverter uma ação. Se as pessoas aprovam rotineiramente sem verificar, o controle existe no papel, mas não na prática.

Controle humano significa assumir o resultado

Nenhuma organização pode prometer que todas as respostas da IA estarão corretas. Controle humano significa algo mais concreto: a organização define a quais dados o agente pode ter acesso, quais ações pode executar, quais condições exigem escalonamento, quem tem autoridade para aprovar e como um erro será contido. Em decisões financeiras de alto impacto, uma pessoa qualificada continua responsável pela decisão final e pode rejeitar ou alterar a recomendação.

É assim que a abordagem do livro e a confiança em camadas da AWS se reforçam. Deixe a IA fazer mais buscas, comparações, cálculos e rascunhos. Imponha limites rígidos às ferramentas e permissões. Torne a incerteza visível. Dê às pessoas evidências e autoridade suficientes para decidir. Controles bem projetados permitem que o agente contribua com rapidez sem transferir a ele os direitos de decisão da organização.

A pergunta mais útil não é “Até que ponto podemos tornar esse agente autônomo?”, mas “Que trabalho ele pode concluir com segurança, quais resultados exigem o julgamento de uma pessoa e quais controles comprovam a diferença?”