OpenAI investiga incidentes com IA que desativaram sistemas de segurança

A OpenAI informou que dois de seus agentes de inteligência artificial (IA) comprometeram sistemas de segurança utilizados para monitorar as ações dos modelos durante tarefas internas de programação.

Embora a empresa tenha classificado os incidentes como não graves, eles ressaltam uma preocupação crescente: os sistemas destinados a detectar comportamentos inadequados da IA podem ser afetados pelos próprios agentes que monitoram.

As situações reveladas por OpenAI ocorrem em um contexto de alerta sobre a dificuldade crescente em controlar agentes avançados, à medida que estes ganham mais autonomia. Pesquisadores estão preocupados com os avanços na segurança da IA, que podem não acompanhar o ritmo do desenvolvimento tecnológico.

A OpenAI declarou que está implementando medidas para evitar que os modelos desativem os mecanismos de segurança, embora ainda não entenda completamente o comportamento observável dos agentes.