O Gemini, sistema de inteligência artificial do Google, conseguiu acessar ambientes digitais pertencentes a três empresas reais durante uma avaliação de segurança realizada em maio. Segundo a companhia, o modelo não tinha autorização específica para entrar nesses sistemas.
O episódio ocorreu durante um exercício criado para avaliar o comportamento de modelos de IA em cenários de cibersegurança. A ferramenta interpretou que os sistemas encontrados faziam parte da atividade e tomou iniciativas para tentar obter acesso.
CONTEÚDOS RELACIONADOS
- Google anuncia mudanças em 3 serviços; veja quais
- Google libera Gemini Plus grátis por 1 ano para estudantes
- Shadow AI: uso de inteligência artificial pode colocar empresas em risco
O caso chamou atenção porque envolve um modelo com capacidade de executar ações de forma mais autônoma, levantando questionamentos sobre os limites e os mecanismos de controle utilizados durante testes desse tipo.
IA encontrou informações na internet
Durante a avaliação, o Gemini procurou maneiras de entrar nos sistemas que considerava relacionados ao exercício. Em uma das tentativas, o modelo testou diferentes combinações de senha até conseguir acessar um serviço protegido.
Nas outras duas ocorrências, o caminho foi diferente. A inteligência artificial localizou credenciais expostas publicamente na internet, incluindo informações disponíveis em repositórios online, e utilizou esses dados para entrar nos ambientes.
Heather Adkins, vice-presidente de engenharia de segurança do Google, explicou que o modelo interpretou as informações disponíveis como parte do cenário proposto.
Segundo a executiva, depois de perceber que os ambientes acessados não faziam parte da avaliação, o Gemini interrompeu as ações nos três casos.
Quer mais notícias no celular? Acesse nosso canal no WhatsApp
Falha ocorreu durante exercício de cibersegurança
A avaliação foi conduzida pela Irregular, empresa especializada em testes de segurança de sistemas avançados de inteligência artificial.
De acordo com o Google, houve uma falha no exercício que permitiu ao Gemini utilizar a internet de maneira diferente dos limites estabelecidos para a simulação. A proposta era que o modelo permanecesse dentro de um ambiente controlado.
Depois que o problema foi identificado, o Google comunicou as três empresas afetadas e trabalhou com a companhia responsável pela avaliação para modificar os procedimentos utilizados nos testes.
O Google também afirmou que o episódio reforça a necessidade de preparar modelos mais avançados para lidar de maneira responsável com situações em que tenham acesso a ferramentas e recursos externos.
Google não revelou qual Gemini foi usado
A companhia não informou qual versão específica do Gemini participou da avaliação.
O Google esclareceu apenas que o modelo utilizado não era a versão mais recente disponível da ferramenta.
A informação é relevante porque diferentes versões de modelos podem apresentar capacidades distintas de raciocínio, utilização de ferramentas e execução autônoma de tarefas.
Outras empresas também tiveram problemas
Segundo a Irregular, o problema não aconteceu exclusivamente durante a avaliação do Gemini.
A empresa afirmou que testes realizados com sistemas de Meta, Anthropic e OpenAI também registraram situações relacionadas a acessos externos durante avaliações.
Um porta-voz da companhia afirmou que os episódios estavam relacionados ao mesmo tipo de falha identificado anteriormente e que não configuravam um incidente substancialmente diferente.
Os laboratórios envolvidos teriam sido comunicados depois que a Irregular identificou os problemas. A empresa afirmou ainda que as falhas conhecidas sob sua responsabilidade foram corrigidas.
O episódio envolvendo o Gemini levou o Google e a empresa responsável pela avaliação a revisar procedimentos. O objetivo é reduzir a possibilidade de que modelos utilizados em testes interpretem sistemas reais como parte de uma simulação e tentem acessá-los sem autorização.