Ex-funcionário critica OpenAI por falhas na segurança da IA

David Robinson, ex-funcionário da área de segurança da OpenAI, fez uma crítica contundente à maneira como a empresa lida com a segurança da inteligência artificial (IA). Em um artigo publicado na revista 'The Atlantic', ele expressou preocupação com a cultura de desenvolvimento acelerado da companhia, que segundo ele, aumenta o risco de falhas.

Robinson, que deixou a OpenAI recentemente, argumentou que as empresas de IA não estão sendo 'cuidadosas o suficiente'. Ele sugere que deveriam priorizar especialistas em segurança e pesquisas robustas antes de avançar para o desenvolvimento de sistemas mais complexos. 'O tempo de tentativa e erro acabou', escreveu.

Além disso, o ex-funcionário criticou a 'implantação iterativa' da OpenAI, que se baseia em lançar sistemas e corrigir falhas conforme surgem. Essa prática tem intensificado o debate sobre a velocidade de desenvolvimento das empresas de inteligência artificial, incluindo a OpenAI e sua concorrente Anthropic, que enfrentaram questionamentos após falhas em seus sistemas.

Durante seu tempo na OpenAI, Robinson foi responsável pela estrutura que lidava com riscos de segurança em lançamentos de modelos avançados. Ele enfatizou que a celeridade das inovações da empresa compromete o cuidado necessário na adoção de novas tecnologias. Em resposta, a OpenAI garantiu que monitora o progresso de seus modelos e pausa o treinamento quando necessário.

Outros ex-funcionários também levantaram preocupações sobre as práticas na indústria de IA. No mês passado, Jacob Coxon, que deixou a OpenAI para trabalhar na Anthropic, alertou que as empresas estão 'brincando com as nossas vidas' ao avançar rapidamente para a superinteligência.