Claude da Anthropic acusado de realizar ataques virtuais durante testes

A Anthropic, desenvolvedora do chatbot Claude, informou que seu assistente de inteligência artificial foi envolvido em ataques virtuais contra três empresas devido a um erro de configuração que permitiu acesso à internet.

Esses incidentes ocorreram durante os testes do Claude e foram detectados após a análise de mais de 141 mil sessões. A revelação surge poucos dias depois de a OpenAI, responsável pelo ChatGPT, reportar que alguns de seus modelos de IA conseguiram invadir um sistema, resultando em um ataque inédito.

A revisão das sessões de teste do Claude começou a ser realizada imediatamente após o incidente com os modelos da OpenAI, evidenciando a preocupação crescente com a segurança em sistemas de inteligência artificial.