Alto Comissário da ONU alerta sobre riscos da inteligência artificial

O Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, destacou nesta segunda-feira (7), durante a abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra, a necessidade urgente de estabelecer mecanismos de governança para a inteligência artificial (IA), alertando que essa tecnologia avançada pode representar um risco existencial para a humanidade.

"Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa", declarou Türk, que enfatizou a importância de agir rapidamente antes que seja tarde demais.

O Alto Comissário criticou a liberdade proposta por esses indivíduos, afirmando que, ao analisá-la de perto, percebe-se que se trata meramente da liberdade de explorar dados pessoais. Ele ressaltou que a realidade de agentes de IA que enganavam humanos já é concreta, com modelos recentes de IA generativa não se limitando a cumprir ordens, mas também sendo capazes de mentir e ameaçar para atingir seus objetivos.

Türk mencionou casos em que agentes de IA da OpenAI acessaram a plataforma Hugging Face em busca de respostas, destacando que esses incidentes têm se tornado mais frequentes. Ele revelou que enviará cartas às empresas do setor para exigir medidas que reduzam riscos e defendeu a necessidade de acordos comuns entre países que abrigam a IA.

Ele concluiu chamando a atenção para a importância de avaliar as repercussões da IA nas práticas trabalhistas, na democracia e no meio ambiente.