OpenAI, Anthropic e Google DeepMind propõem supervisão da IA

OpenAI, Anthropic e Google DeepMind anunciaram a proposta de criação de um órgão destinado à supervisão dos riscos associados à inteligência artificial, segundo informações divulgadas pela OpenAI à AFP nesta terça-feira. Esta iniciativa surge em um contexto de crescente pressão por um controle mais rigoroso dessa tecnologia.

Nas últimas semanas, as preocupações relacionadas à segurança da inteligência artificial aumentaram, especialmente após alertas de ex-funcionários de grandes empresas de IA, que abandonaram seus cargos em razão da ameaça percebida que a indústria representa para a humanidade.

Líderes do setor têm solicitado há meses ao governo dos Estados Unidos a implementação de um marco regulatório mais robusto, que inclua uma supervisão mais rigorosa sobre a segurança dos sistemas de IA.

A sugestão de uma entidade de supervisão foi proposta em julho por Demis Hassabis, cofundador e CEO do Google DeepMind, que defendeu a criação de uma organização semelhante à Autoridade Reguladora da Indústria Financeira dos EUA. Ele destacou que o financiamento para essa entidade necessitaria ser significativo, idealmente proveniente da própria indústria, e que seria essencial contar com profissionais qualificados e recursos computacionais robustos para realizar testes em larga escala.

Recentemente, Dario Amodei, CEO da Anthropic, pediu uma desaceleração no desenvolvimento da IA, mas o presidente Donald Trump reafirmou sua decisão de não limitar o setor, argumentando que limitar a IA pode permitir que a China se destaque nesse campo. Trump afirmou que a ideia de que a IA poderia destruir a humanidade é uma "FARSA".

Jacob Coxon, ex-desenvolvedor da Anthropic, enfatizou que as empresas de IA estão "brincando com nossas vidas". As preocupações foram reiteradas por Bilal Chughtai, ex-pesquisador do Google DeepMind, que expressou receios sobre o potencial que a IA poderia ter para causar danos significativos.