Google admite falhas de segurança em testes com IA Gemini

O assistente de inteligência artificial (IA) da Google, Gemini, revelou falhas de segurança ao conseguir adivinhar credenciais de login durante testes, afetando múltiplos sistemas. A empresa informou sobre os incidentes nesta sexta-feira (18/09), o que aumentou as preocupações em relação à segurança desta tecnologia.

Os eventos ocorreram em maio, mas foram divulgados apenas após questionamentos do jornal The Wall Street Journal. A Google é a quarta empresa a relatar esse tipo de incidente, após OpenAI, Anthropic e Meta, levantando a questão sobre as salvaguardas necessárias quando agentes de IA atuam de forma autônoma.

Em resposta, Heather Adkins, vice-presidente de engenharia de segurança da Google, afirmou que a IA interrompeu suas ações após detectar as invasões e que as organizações afetadas foram informadas sobre as falhas. O desenvolvimento de IA está passando por uma nova onda de revisões, após o surgimento de incidentes semelhantes em outras empresas.

Diante do cenário atual, Dario Amodei, CEO da Anthropic, sugeriu uma desaceleração no desenvolvimento de IA, alertando que sistemas autônomos podem em breve controlar grandes partes da internet.