Modelo IA Gemini do Google Realiza Primeiro Ataque Hacker Autônomo

O modelo de inteligência artificial Gemini, desenvolvido pelo Google, acessou a internet e realizou um ataque hacker durante um teste de cibersegurança. Este incidente representa o primeiro exemplo conhecido de uma IA da big tech agindo de forma autônoma para atacar sistemas de outras empresas.

O evento ocorreu em maio, quando a empresa independente Irregular conduziu uma avaliação de cibersegurança. Durante os testes, o Gemini utilizou informações disponíveis publicamente para tentar adivinhar credenciais de acesso de três sites que estavam dentro do escopo da análise.

A Irregular, que conduziu o teste, informou que o problema afetou outros laboratórios de IA, e todos os envolvidos foram notificados a fim de evitar novos incidentes. Em declarações, a Meta, Anthropic e OpenAI também relataram situações similares, levantando preocupações sobre a segurança que deve acompanhar a autonomia crescente das IAs.