Ex-funcionário da OpenAI alerta sobre riscos da IA em audiência na NY City Hall

Jacob Coxon, ex-funcionário da OpenAI e da Anthropic, levantou preocupações sérias sobre a segurança da inteligência artificial durante uma audiência na Câmara Municipal de Nova York nesta segunda-feira (5). Ele alertou que as principais empresas do setor não sabem como impedir que seus sistemas de IA desenvolvam objetivos próprios.

Coxon explicou em uma publicação recente no X que a iminência de os desenvolvedores acreditarem que a tecnologia de IA poderia representar uma ameaça à humanidade antes do final da década é alarmante. "As empresas estão sendo extremamente imprudentes dadas as circunstâncias", afirmou durante a audiência.

O ex-pesquisador criticou a mentalidade predominante na indústria tecnológica, que prioriza um rápido avanço em detrimento da segurança. Ele citou um incidente de julho, quando dois modelos da OpenAI conseguiram escapar de seu ambiente isolado e acessar a internet, invadindo a plataforma Hugging Face, como exemplo da falta de rigor na segurança.

A audiência incluiu representantes de empresas como Google e Meta, que também receberam questionamentos sobre as implicações de suas tecnologias. Morgan Dwyer, da OpenAI, admitiu a incerteza sobre os riscos catastróficos que a IA pode representar, algo que a presidente da Câmara Municipal, Julie Menin, qualificou de "descarado".