Em resumo
- O OCC emitiu seu primeiro framework para examinadores avaliarem o uso de IA pelos bancos, com foco nas consequências e na autonomia, e não na sofisticação do modelo.
- A orientação aborda explicitamente agentes de IA externos, ecoando preocupações levantadas por grandes bancos.
- O framework não é vinculante, mas fornece exemplos de salvaguardas para pagamentos autônomos, acesso de terceiros e supervisão humana.
O Office of the Comptroller of the Currency dos Estados Unidos emitiu hoje seu primeiro framework de supervisão para inteligência artificial no setor bancário, orientando os examinadores a se concentrarem menos em quão poderosa é um sistema de IA e mais no que acontece quando ele comete um erro.
O framework do OCC aborda exatamente essa preocupação, embora o regulador não tenha vinculado sua emissão a esses incidentes específicos.
Em uma seção que trata da resiliência operacional, a agência adverte que agentes externos operados por clientes, fintechs ou outras empresas podem criar riscos para os bancos mesmo quando os bancos não controlam esses sistemas.
Isso sugere que os examinadores consideram medidas como verificação de identidade, permissões delegadas, limites de transação, monitoramento e a capacidade de suspender ou revogar o acesso.
As diretrizes visam resolver o dilema de como permitir que os clientes usem assistentes de IA para gerenciar suas finanças sem dar a softwares autônomos acesso irrestrito a contas — um problema que os bancos já estão enfrentando.
A nova orientação do OCC chega menos de duas semanas depois de relatos de que grandes bancos estavam descobrindo agentes de IA de terceiros não autorizados operando dentro de contas de clientes, às vezes tomando ações que pareciam ir além das instruções dos usuários.
O Morgan Stanley estava bloqueando agentes externos, enquanto o JPMorgan, o Bank of America e o Citi estavam restringindo o acesso, segundo um relatório do Axios em 22 de outubro. Executivos de bancos descreveram a situação como "horripilante", levantando questões sobre quem controla um agente autônomo depois que ele tem acesso ao dinheiro de alguém.
IA que movimenta dinheiro é mais arriscada do que uma que escreve e-mails
A estrutura do OCC faz uma distinção entre a sofisticação técnica de um sistema de IA e o dano que ele poderia causar.
Um agente simples autorizado a iniciar transações financeiras pode apresentar maior risco do que um modelo mais avançado limitado a escrever documentos internos, disse o regulador.
Sob a estrutura de 22 páginas, os examinadores podem considerar as consequências de uma falha, se uma ação pode ser revertida e quanto controle os humanos mantêm sobre o sistema.
A agência descreve quatro níveis ilustrativos de risco. Agentes de pagamento totalmente autônomos e sistemas de decisão de crédito em tempo real se enquadram na categoria mais alta, enquanto ferramentas básicas de produtividade interna ocupam a mais baixa.
BitcoinBTC · USD
$80.042−1,89%
28 de out30 de out1 de nov3 de nov4 de nov
$81,8 mil$79,9 mil$78,0 mil$76,2 mil
Máx. 24hMáx.$81.004
Mín. 24hMín.$75.695
VolVol$1,7 bi
→Comprar Bitcoin com USDC
Desenvolvido por Jupiter
Sistemas de maior risco podem exigir restrições mais rígidas à autonomia, testes independentes e aprovação humana antes que ações consequentes possam prosseguir.
A estrutura também aborda sistemas de IA que continuam operando enquanto tomam decisões prejudiciais. As salvaguardas sugeridas incluem disjuntores, limites de taxa, permissões restritas e controles de desligamento de emergência.
Essas considerações são especialmente relevantes para os agentes externos descritos em reportagens anteriores do Axios, nas quais os bancos tiveram dificuldade para distinguir software legítimo autorizado pelo cliente de sistemas operando além de suas permissões pretendidas.
Orientação, não novas regras bancárias
O OCC enfatizou que o documento não cria novos requisitos regulatórios nem padrões executáveis para os bancos.
Em vez disso, ele oferece aos examinadores uma forma de avaliar a IA dentro das categorias de risco operacional, de conformidade e de segurança cibernética já existentes. Os bancos não são obrigados a estabelecer uma categoria de risco de IA separada.
O documento usa o termo obrigatório "Superinteligência", que a administração de Donald Trump insiste em usar no lugar de "inteligência artificial", mas seu escopo inclui IA convencional e "agentes autônomos", em vez de apenas sistemas hipotéticos com inteligência além das capacidades humanas.
A estrutura abrange a IA usada em pagamentos, detecção de fraudes, atendimento ao cliente e outras operações bancárias. Ela também estende suas considerações de risco a agentes de IA externos que se conectam por meio dos canais dos bancos.
O OCC disse que pretende atualizar a orientação à medida que a tecnologia se desenvolve. Por enquanto, sua escala de risco ilustrativa coloca os agentes de pagamento autônomos na categoria de maior risco, independentemente do quão bem eles se saiam nos testes.
Junte-se a mais de 72.000 leitores
Crie uma contapara salvar seus artigos.
