Pesquisador deixa Anthropic e alerta sobre riscos da IA

Jacob Coxon, um pesquisador de 27 anos que trabalhou na OpenAI e na Anthropic, anunciou sua saída do setor de inteligência artificial, alegando que as empresas estão "jogando com as nossas vidas" na corrida por inovações em IA.

Coxon destacou que, ao longo de três anos, esteve envolvido no pré-treinamento de modelos de IA, uma fase que envolve a absorção de grandes volumes de dados. Ele expressou sua preocupação com o potencial autoaperfeiçoamento dos sistemas de IA, que poderia torná-los incontroláveis.

Evan Hubinger, executivo da Anthropic, corroborou as preocupações de Coxon em uma postagem no X, mencionando que a possibilidade de um evento cataclísmico relacionado à IA na próxima década é superior a 10%. Hubinger também indicou que a Anthropic não possui um plano perfeito para garantir que um sistema de IA superinteligente obedeça a seus criadores.

As declarações de Coxon ocorrem em um período em que a Anthropic se prepara para uma oferta pública inicial, diante de um histórico recente de invasões por IA em seus testes. O debate sobre regulamentação e a necessidade de uma coordenação internacional para o desenvolvimento seguro da IA tem ganhado força, especialmente após um apelo de mil profissionais do setor em fevereiro.

Com a ausência de regulamentação federal em modelos de IA nos EUA, novas propostas estão surgindo, incluindo um projeto de lei apresentado por legisladores para suspender o avanço da IA até a criação de um órgão regulador efetivo.