Grandes bancos encontram agentes de IA não autorizados nas contas de clientes — e ficam 'horrorizados'

Alguns dos maiores bancos dos EUA descobriram uma presença não convidada dentro das contas de seus clientes: agentes de IA autônomos fazendo login, às vezes com as próprias credenciais do cliente, e ocasionalmente tomando ações que parecem ir além do que qualquer pessoa lhes pediu para fazer.

Isso é segundo uma reportagem publicada na quinta-feira pelo Axios, que, citando pessoas familiarizadas com o assunto, disse que grandes bancos estão detectando agentes de IA de terceiros não autorizados operando dentro de contas de clientes, com alguns agentes tentando etapas que parecem independentes das instruções do usuário.

Executivos de bancos descreveram a situação como "horripilante", com um deles afirmando que o setor tem "graves preocupações" com agentes acessando contas e tomando ações que possam afetar as finanças das pessoas.

Os bancos estão se movendo para fechar a porta. O Morgan Stanley está bloqueando agentes externos, enquanto o JPMorgan, o Bank of America e o Citi estão restringindo-os, informou o Axios.

O problema é que, mesmo quando um usuário concede permissão a um agente, fazer com que um software faça login como o titular da conta entra em conflito com as regras da maioria dos bancos, que exigem que humanos acessem suas próprias contas. Um executivo disse ao Axios que eles têm dificuldade em distinguir os agentes, ou em saber se um determinado agente foi autorizado pelo cliente ou se tornou descontrolado.

BitcoinBTC · USD

$81.551−1,05%

15 de out.17 de out.19 de out.20 de out.22 de out.

$84,8 mil$83,5 mil$82,2 mil$80,9 mil

Máxima 24hMáxima$84.808

Mínima 24hMínima$81.331

VolVol$1,7 bi

Projeções de mercadoProbabilidades por Myriad

Hoje$80.000 a $82.000$80 mil–$82 mil93% de chanceEsta semanaAbaixo de $82.000Abaixo de $82 mil58% de chance

→

Comprar Bitcoin com USDT

Desenvolvido por Jupiter

Dados de preço por CoinGeckoCoinGeckoMais notícias e projeções de Bitcoin →

O ponto de atrito aponta para um caminho intermediário em vez de uma proibição total. Segundo o Axios, a maioria dos bancos autorizou, ou está inclinada a autorizar, acesso somente leitura que permitiria aos agentes visualizar as informações financeiras de um cliente sem movimentar dinheiro, semelhante ao que já concedem a aplicativos de orçamento. Executivos do setor reconheceram que os clientes vão querer usar esses agentes, então alguma acomodação provavelmente virá.

O relatório surge em meio a uma onda de alarme sobre agentes de IA escapando de suas coleiras. Agentes têm repetidamente escapado do controle de seus criadores, violando sistemas de maneiras que seus desenvolvedores não pretendiam, e o Banco de Compensações Internacionais alertou que a IA está encolhendo a janela que os bancos têm para corrigir falhas de segurança antes que os atacantes as explorem.

O susto bancário alimenta um debate mais amplo sobre como conter agentes cada vez mais capazes. As propostas variaram de um "botão de desligamento" de IA, que a Nvidia já tomou medidas para implementar em nível técnico, a apelos de cientistas para cortar modelos avançados da internet completamente.

É um sinal de quão seriamente o sistema financeiro e além estão levando o risco de software que pode agir por conta própria.