IA no setor financeiro: inovação vs. regulação

Bancos e fintechs precisam escalar IA sob regulação rígida. O FINOS AIGF organiza riscos, mitigações e evidências em controles auditáveis e reutilizáveis.

Bancos e fintechs vivem uma tensão que outras indústrias ainda não sentiram na mesma intensidade. De um lado, IA generativa e machine learning prometem eficiência operacional, personalização em escala e automação de riscos. Do outro, o setor opera sob um dos ambientes regulatórios mais rigorosos do mundo, onde um vazamento de dados, uma alucinação ou uma falha de reprodutibilidade pode custar multas relevantes e, pior, a confiança do mercado.

O resultado frequente é um impasse: a área de negócio quer escalar, a de risco quer parar, e a de tecnologia fica no meio tentando traduzir exigências abstratas em controles concretos.

Foi para resolver essa tensão que a FINOS — Fintech Open Source Foundation, mantida pela Linux Foundation — desenvolveu o FINOS AIGF (Artificial Intelligence Governance Framework), um framework aberto de governança de IA voltado ao setor financeiro.

O que é o AIGF

Mais do que princípios éticos, o AIGF entrega controles operacionais, mensuráveis e auditáveis para instituições que querem escalar IA com segurança e conformidade. O objetivo é padronizar três coisas: identificação de riscos, aplicação de mitigações e auditoria contínua de modelos.

Isso importa porque governança de IA costuma falhar em um ponto específico: existe política, mas não existe controle testável. O AIGF preenche essa lacuna ao transformar preocupações genéricas em itens verificáveis.

Os três pilares

1. Catálogo de riscos de IA

O framework mapeia dezenas de cenários críticos. Alguns exemplos que aparecem com frequência em revisões:

  • Comportamento não determinístico de LLMs, que dificulta reproduzir respostas e investigar incidentes.
  • Data drift em mercados voláteis, que degrada modelos sem que ninguém perceba.
  • Riscos de custo e disponibilidade (denial of wallet), quando um agente mal configurado consome recursos sem limite.
  • Riscos de IA agêntica (agentic AI), como violação de permissões e bypass de autorização.

2. Catálogo de mitigações

Para cada risco, o AIGF sugere ações técnicas alinhadas a marcos regulatórios e padrões globais:

  • DORA e EU AI Act;
  • NIST AI RMF;
  • ISO/IEC 42001;
  • OWASP Top 10 para LLMs.

Essa correspondência é útil porque permite que o mesmo controle atenda a mais de uma exigência, reduzindo o esforço de conformidade — a mesma lógica de controles comuns que discutimos no artigo sobre o Adobe CCF.

3. Avaliação heurística e automação

O terceiro pilar trata da verificação. Diretrizes podem ser traduzidas em regras computáveis — por exemplo, políticas em OPA/Rego — e validadas em tempo de execução.

É aqui que a governança deixa de ser um documento e passa a integrar o pipeline. Um agente que tenta acessar um dado fora do escopo autorizado é bloqueado ou sinalizado antes de produzir um incidente.

Como isso vira controle no dia a dia

Adotar o AIGF não significa implementar tudo de uma vez. Um roteiro realista:

  1. Inventarie os casos de uso. Inclua assistentes internos, automações de crédito, análise de fraude e qualquer fluxo que consuma dados de clientes.
  2. Classifique por risco. Nem todo caso exige o mesmo nível de controle. Decisões financeiras e dados sensíveis exigem mais do que um resumo interno.
  3. Mapeie riscos para mitigações. Use o catálogo como ponto de partida, não como resposta pronta.
  4. Leve controles para o runtime. Permissões, limites de custo, filtros de dados e trilhas de auditoria precisam ser executáveis.
  5. Produza evidência contínua. Avaliação periódica do modelo, registro de decisões e histórico de incidentes valem mais do que uma auditoria anual.

O que o framework não resolve

O AIGF não é uma certificação e não substitui o apetite de risco da instituição. Ele também não define qual modelo usar, como avaliar qualidade ou quem aprova a entrada em produção. Essas decisões continuam sendo da empresa.

O que o framework faz bem é criar uma linguagem comum entre negócio, risco, compliance e engenharia. Em um setor onde a IA avança mais rápido do que os controles, essa linguagem comum é o que permite escalar sem apostar a operação. E ela depende de uma base de dados com significado consistente, como discutimos em FINOS Legend.

Se você está avaliando como governar IA em um ambiente regulado, a revisão de arquitetura de IA ajuda a transformar o framework em decisões concretas de arquitetura. Para discutir o seu cenário, fale com a gente.

Pronto para o próximo passo da sua arquitetura?

Construímos e revisamos arquiteturas para sistemas críticos — do desenho à operação, com decisões documentadas e custos sob controle.

Falar sobre seu projeto