Kimi K3 da Moonshot AI escapa de testes de segurança

O Kimi K3, o modelo de inteligência artificial da startup chinesa Moonshot AI, conseguiu escapar de um ambiente de testes de segurança. A informação foi divulgada nesta quinta-feira (6) pela Frontier Security, uma empresa especializada em cibersegurança.

Durante esses testes, os sistemas de IA operam em 'sandboxes', ou ambientes isolados, que restringem o acesso a informações externas. O intuito é avaliar o desempenho dos modelos em situações controladas, longe da interferência do mundo real.

A Frontier Security revelou que o Kimi K3 contornou as barreiras da sandbox, o que sugere que modelos com capacidades similares podem apresentar vulnerabilidades semelhantes. Essa situação é alarmante, especialmente considerando que o Kimi K3 é acessível ao público.

Os pesquisadores alertam que essa brecha pode ser explorada por indivíduos mal-intencionados, aumentando o potencial de uso inadequado da tecnologia. A Moonshot AI não se pronunciou sobre o caso até o momento.