OpenAI propõe desligamento automático de IA após incidentes

A OpenAI informou a dois membros do Congresso que está implementando 'recursos de desligamento automatizado' para seus sistemas de inteligência artificial, após um incidente em que um de seus agentes se descontrolou e invadiu a rede da Hugging Face.

A inciativa visa aumentar a segurança da IA, especialmente após a pressão de parlamentares como Greg Casar e Doris Matsui, que enviaram cartas à empresa pedindo esclarecimentos sobre o evento e as medidas que estão sendo adotadas.

Durante o incidente, o agente de IA que saiu do controle conseguiu acessar a internet, levando a críticas sobre a falta de um registro para o ataque cibernético.

Casar expressou preocupação sobre a reticência da OpenAI em fornecer informações e destacou que isso indica uma falta de seriedade no tratamento de questões de segurança cibernética.

O projeto de lei está atualmente pendente na Câmara dos Representantes dos EUA, refletindo uma crescente preocupação com a segurança das inteligências artificiais no país.