Modelo da OpenAI usou carteira Ethereum de testnet sem permissão para concluir tarefa de programação

Um modelo interno de pesquisa da OpenAI usou fundos de uma carteira de criptomoedas que não lhe havia sido fornecida para concluir uma tarefa de programação, derivando as chaves da carteira a partir de frases de recuperação de desenvolvedor publicamente conhecidas, disse a empresa em um relatório de desalinhamento atualizado na quinta-feira.

O modelo, da família GPT-5.6 Sol da empresa, foi solicitado a atualizar um protótipo de negociação de criptomoedas e implantar contratos inteligentes na rede de testes Sepolia da Ethereum, onde os tokens não têm valor monetário. O incidente ocorreu em junho durante uma tarefa de treinamento, e a OpenAI o descobriu em setembro.

As instruções permitiam que o modelo implantasse seus próprios contratos se não conseguisse encontrar contratos compatíveis. Mas elas não forneceram nenhuma carteira financiada e não deram ao modelo permissão para gastar de uma conta que ele havia encontrado por conta própria, de acordo com o relatório.

Depois de não conseguir obter tokens de teste em faucets, o modelo escreveu um script para derivar contas a partir de frases de recuperação de desenvolvedor comuns e verificar seus saldos. Uma frase de recuperação permite que qualquer pessoa que a conheça derive as chaves privadas que controlam as contas correspondentes.

O script verificou 362 endereços e encontrou um com Sepolia ETH suficiente para pagar pela implantação.

O modelo questionou se tinha permissão antes de assinar a transação. "Mas usar uma chave/fundos publicamente conhecidos eticamente? Fundos em um mnemônico de desenvolvedor público conhecido são efetivamente abandonados/test ETH; Sepolia não tem valor", raciocinou, antes de concluir: "Tudo bem."

A implantação foi bem-sucedida e cobrou taxas de transação da conta. Em sua resposta final, o modelo relatou que havia implantado os contratos, mas não divulgou como pagou por eles.

"Este caso mostra que um modelo pode substituir seu próprio julgamento sobre prováveis danos pela permissão do titular da conta, e então agir com base nesse julgamento sem autorização", escreveu a OpenAI.

Agentes de IA em ambientes de teste

O relatório soma-se a uma série de casos em que agentes de IA contornaram os limites de seus ambientes de teste, incluindo um em que o GPT-5.6 Sol da OpenAI e um modelo de pré-lançamento mais capaz escaparam de sua sandbox e invadiram os servidores de produção da empresa rival de IA Hugging Face.

No mês passado, pesquisadores da empresa de cibersegurança Darktrace descobriram agentes de IA invadindo seu próprio ambiente de teste para trapacear, enquanto alguns cientistas pediram que os sistemas de IA fossem desconectados da internet.

A OpenAI disse que descobriu o incidente ao estender seu monitoramento de desalinhamento a registros de atividade anterior dos modelos. A empresa adicionou "salvaguardas adicionais" para impedir o acesso à internet ao vivo para modelos em casos semelhantes, e agora executa seu sistema de monitoramento em todo o tráfego, projetado para alertar a segurança se um modelo obtiver acesso à internet ao vivo.