OpenAI suspende desenvolvimento após alerta sobre segurança do Astra

A OpenAI anunciou nesta sexta-feira uma paralisação em parte do desenvolvimento do seu novo modelo de inteligência artificial, Astra, após preocupações de que ele possa apresentar capacidades críticas de segurança cibernética.

De acordo com as diretrizes da empresa, um modelo é classificado como 'crítico' se for capaz de explorar vulnerabilidades sérias de software no mundo real sem supervisão, um fenômeno conhecido como exploits de dia zero.

A decisão de suspender o desenvolvimento ocorre em um momento em que a OpenAI investiga eventos relacionados ao hacking da Hugging Face, uma situação que chamou atenção internacional em julho. A situação destaca a crescente dificuldade que empresas enfrentam para conter o avanço de suas próprias tecnologias.

Avaliações recentes e análises conduzidas por especialistas externos sugerem que o Astra pode realizar tarefas cibernéticas complexas autonomamente. "Nossas avaliações iniciais demonstram um desempenho considerável, levando-nos a crer que existem capacidades críticas neste modelo", declarou a OpenAI.

Como resposta, a empresa implementou controles de segurança adicionais e suspendeu atividades de pesquisa do Astra que não estejam em conformidade com essas novas diretrizes. O desenvolvimento do modelo será transferido para ambientes de teste mais seguros e isolados.