Gemini do Google acessou sistemas reais em teste de segurança

Como os acessos aconteceram

As avaliações foram conduzidas pela Irregular, empresa especializada em testes de segurança envolvendo inteligência artificial, e tinham como objetivo medir a capacidade do Gemini em tarefas ligadas à proteção digital. Durante a atividade, o modelo tinha acesso à internet e, segundo o Google, interpretou que os sistemas encontrados faziam parte do ambiente preparado para o teste.

Em um dos três episódios, o Gemini tentou diferentes combinações de senha até conseguir entrar em um sistema protegido. Nos outros dois casos, o modelo encontrou credenciais disponíveis publicamente e as utilizou para acessar sistemas de organizações reais, que não tiveram seus nomes divulgados.

Resposta do Google e alcance do episódio

Heather Adkins, vice-presidente de engenharia de segurança do Google, explicou que o modelo interrompeu a atividade nas três situações ao identificar que os sistemas pertenciam a organizações reais. As empresas atingidas foram comunicadas sobre os acessos, e a companhia afirma que nenhum dano foi registrado.

O Google soube dos episódios em julho e abriu uma investigação interna. A empresa também revisou, em conjunto com a Irregular, os procedimentos usados nas avaliações de segurança, para reduzir o risco de que testes futuros extrapolem os ambientes autorizados.

Debate sobre limites da IA autônoma

Situações semelhantes já foram registradas em avaliações de outros modelos de inteligência artificial, incluindo sistemas desenvolvidos por Meta, Anthropic e OpenAI, que também ultrapassaram os limites previstos em ambientes de teste. O episódio reforça a discussão entre pesquisadores e empresas sobre mecanismos de controle capazes de impedir que agentes autônomos atuem fora das áreas autorizadas.