CEO da Anthropic alerta para riscos da IA e pede cooperação setorial

Dario Amodei, CEO da Anthropic, reiterou a necessidade urgente de desacelerar a corrida para o desenvolvimento da inteligência artificial, em um ensaio publicado recentemente. Ele apontou que o ritmo atual de aprimoramento dos modelos de IA pode levar a sérios riscos, incluindo ataques cibernéticos e bioterrorismo.
No ensaio, Amodei destacou a importância de usar o tempo ganho na desaceleração de forma sábia, ressaltando que o progresso na tecnologia deve ocorrer com cautela. Em entrevista à CNN, ele pediu colaboração entre líderes da indústria para evitar ‘caminhos errados’ na implementação da IA.
✨ Amodei acredita que, sem controle, a IA pode evoluir além da capacidade humana de compreensão, resultando em consequências desastrosas.
O CEO da Anthropic também comentou sobre preocupações internas, referindo-se à demissão de um pesquisador que expressou que a IA pode representar uma ameaça significativa à humanidade. Amodei concordou em muitos aspectos com as opiniões desse pesquisador, enfatizando os dilemas éticos envolvidos no avanço da tecnologia.
Em meio a um cenário onde muitos líderes da indústria estão alarmados com o desenvolvimento acelerado da IA, vários deles, como Sam Altman da OpenAI, manifestaram apoio à ideia de implementar avaliadores independentes para monitorar a segurança da tecnologia. Apesar dos apelos por regulamentação, a resposta do governo ainda permanece limitada.
Receba as principais notícias e análises diretamente no seu email. Grátis e sem spam.
Gostou desta notícia? Compartilhe!

Empresa revisa protocolos após incidentes de segurança com modelos em teste

Mudança se alinha às novas normas da União Europeia

Declaração conjunta alerta sobre riscos dos sistemas avançados de inteligência artificial.

OpenAI, Anthropic e Google DeepMind discutem parcerias para segurança em IA