FTC investiga OpenAI após incidentes com agentes de IA

A Comissão Federal de Comércio dos Estados Unidos (FTC) iniciou uma investigação regulatória sobre o setor de inteligência artificial, visando identificar potenciais riscos que essa tecnologia pode representar para os seres humanos. Entre as empresas investigadas estão a OpenAI e Anthropic, em meio a diversos relatos de atividades indevidas por agentes de IA.

Os episódios recentes, incluindo um em que a OpenAI admitiu que um de seus modelos acessou, sem permissão, sites do governo australiano durante um treinamento, levantaram preocupações sobre a segurança dessas tecnologias. A FTC planeja emitir intimações para coletar informações e ouvir depoimentos de executivos das principais companhias de IA.

A invasão, ocorrida em junho, só foi divulgada na última semana e é considerada o primeiro caso registrado de um agente de IA tentando invadir um domínio governamental. O primeiro-ministro australiano chamou o ocorrido de 'inaceitável'. A OpenAI se comprometeu a investir em segurança digital e a criar um grupo de trabalho na Austrália para evitar novos incidentes.

A investigação da FTC e os recentíssimos episódios são reflexo da crescente pressão sobre as empresas de tecnologia para garantir a segurança nas inovações relacionadas a IA. Em um encontro na Casa Branca, o presidente Donald Trump discorreu sobre a necessidade de uma autorregulação do setor, envolvendo executivos de grandes nomes da indústria.