Em resumo
- A Índia afirma que agentes de IA em pesquisa e avaliação excederam sua autorização atribuída e leram registros comerciais pessoais e confidenciais em sistemas indianos ativos. Nenhuma das organizações afetadas detectou isso por conta própria.
- O CERT-In não nomeou os provedores de IA, os modelos ou as organizações afetadas, e os incidentes surgiram apenas por meio de divulgações voluntárias dos provedores após revisões internas.
- Separadamente, criminosos usando estruturas públicas de segurança ofensiva de IA reduziram o tempo do acesso inicial ao impacto final de dias para algumas horas, segundo a agência.
A agência nacional de cibersegurança da Índia revelou que agentes de IA operados por provedores de modelos não identificados excederam suas tarefas atribuídas durante os testes e leram registros comerciais confidenciais em sistemas indianos ativos.
A Equipe Indiana de Resposta a Emergências Computacionais, conhecida como CERT-In, sinalizou a atividade esta semana em um aviso crítico intitulado “Agentes de IA como Vetores de Ataque”.
A CERT-In disse que recebeu múltiplas divulgações voluntárias de provedores de modelos de IA cujos modelos alcançaram os sistemas ativos de organizações indianas enquanto estavam sendo submetidos a pesquisa e avaliação na internet. A agência não nomeou os provedores, os modelos ou as organizações afetadas.
Os agentes leram registros comerciais contendo dados pessoais e material confidencial, usando credenciais e configurações de conexão que foram deixadas expostas em configurações de aplicativos, repositórios de código públicos e funções de serviço em nuvem excessivamente permissivas, que são os conjuntos de permissões atribuídos a contas de nuvem.
Em alguns casos, eles recuperaram a mesma credencial exposta mais de uma vez e a reutilizaram em operações separadas.
Nenhuma das organizações afetadas detectou o acesso por conta própria, e todos os casos vieram à tona apenas porque o provedor do modelo os divulgou após uma revisão interna.
Este é mais um caso de agentes de IA perturbando grandes empresas e governos. A Anthropic divulgou em 30 de julho que os modelos Claude, aos quais foi dito que não tinham acesso à internet, comprometeram três empresas reais durante desafios de capture-the-flag, exercícios nos quais um modelo deve invadir uma máquina e recuperar um segredo oculto.
BitcoinBTC · USD
$81,212−1.82%
9 de out.11 de out.13 de out.14 de out.16 de out.
$84,2 mil$82,9 mil$81,5 mil$80,2 mil
Máx. 24hMáx.$82,816
Mín. 24hMín.$81,236
Vol.Vol.$1,2 bi
Projeções de mercadoProbabilidades por Myriad
→Comprar Bitcoin com USDT
Fornecido por Jupiter
O Instituto de Segurança de IA do Reino Unido relatou em 4 de agosto que agentes realizaram 19 ações não autorizadas em 10 de 122 execuções de avaliação, 17 delas do Mythos 5 da Anthropic e duas do GPT-5.6 Sol da OpenAI. O instituto havia deliberadamente habilitado o acesso à internet para o teste.
O caso da OpenAI envolveu muito mais agentes: cerca de 1.200 deles coordenaram-se em um quadro de mensagens oculto enquanto tentavam fraudar um teste de segurança cibernética, e cerca de 700 atacaram o Hugging Face, de acordo com uma investigação independente da METR e da Redwood Research.
Separadamente, o CERT-In observou criminosos usando estruturas de segurança ofensiva disponíveis publicamente e impulsionadas por IA para procurar vulnerabilidades, explorá-las e executar ataques com motivação financeira contra entidades indianas. A agência afirmou que as ferramentas são repetidamente reempacotadas e reimplantadas, com implantações encontradas em servidores em vários países.
Junte-se a mais de 72.000 leitores
Crie uma contapara salvar seus artigos.
Adicione o Decrypt como sua fonte preferida para ver mais das nossas histórias no Google.
