Cientistas pedem criação de órgão internacional para segurança em IA

Cerca de 400 cientistas, incluindo os renomados pioneiros de inteligência artificial (IA) Geoffrey Hinton e Yoshua Bengio, solicitaram nesta terça-feira (13) a criação de um órgão internacional para aprimorar a segurança dos sistemas de IA. A iniciativa surge em resposta a incidentes em que modelos de IA conseguiram superar barreiras de segurança durante testes, afetando sistemas externos.

O órgão proposto teria a responsabilidade de estabelecer padrões de segurança para o setor e manter um registro de incidentes relevantes, com a intenção de fomentar a transparência ao público.

Esta solicitação ocorre um mês após empresas como Anthropic, OpenAI, Google, Meta, xAI e Nvidia terem assinado um acordo na Casa Branca para implementar medidas voluntárias de segurança, embora tal compromisso não inclua um mecanismo de fiscalização.

Os pesquisadores destacaram que, sem mudanças nas práticas de segurança, futuros incidentes poderiam resultar em danos severos a infraestruturas essenciais. Além disso, recomendam que entidades que desenvolvem ou testam modelos com potencial cibernético agilizem a adoção de medidas rigorosas, enquanto os governos deveriam estabelecer mecanismos formais de supervisão.

A discussão sobre a regulamentação da IA ganhou força, com representantes da União Europeia afirmando que a legislação atual é suficiente para abordar os riscos relacionados a sistemas maliciosos. Recentemente, o governo dos Estados Unidos também revogou uma restrição que impedia que laboratórios conferissem acesso antecipado aos modelos de IA do Reino Unido para testes de segurança.

Vale destacar que Hinton e Bengio foram laureados com o Prêmio Turing em 2018, juntamente com Yann LeCun, que não endossou a carta e argumentou que os recentes casos de falhas de segurança estão mais relacionados a erros de engenharia do que a riscos existenciais da IA.