Pai é detido no Espírito Santo após ameaçar filho no ChatGPT

Um homem foi detido no Espírito Santo após ser denunciado por planejar a morte de seu filho de 8 anos, uma situação que veio à tona através de conversas que ele teve com o ChatGPT. A empresa responsável, OpenAI, informou o FBI, que rapidamente repassou as informações para as autoridades brasileiras, resultando na prisão do pai em 19 de junho.

Detalhes do Planejamento do Crime

Nas mensagens enviadas ao ChatGPT, o homem confessou que tinha uma arma, corda e veneno, além de planejar assassinatos em locais públicos. Ele também tentou contratar um pistoleiro por R$ 50 mil, que se recusou ao saber que a vítima era uma criança.

A OpenAI reafirmou seu compromisso com a segurança e a importância de suas medidas de monitoramento. Ao detectar interações que sugerem risco a terceiros, a empresa pode alertar as autoridades competentes, conforme ocorreu nesse caso.

Publicidade

Como o ChatGPT Identifica Casos Suspeitos

A identificação de conversas potencialmente perigosas inicia-se com sistemas automatizados que avaliam o contexto das interações. Caso o sistema sinalize um risco, a conversa é revisada por moderadores humanos que determinam a necessidade de intervenção.

Essa abordagem pode variar conforme a gravidade do caso. O professor Álvaro Machado Dias, da UFSP, afirma que no cenário do pai, os fatores de risco foram claros devido à identificação da vítima, o método proposto e a proximidade da data do crime.

Investigação e Ação das Autoridades

Após receber a denúncia, o FBI enviou as informações ao Ministério da Justiça brasileiro, que direcionou o caso à Polícia Civil do Espírito Santo. A Delegacia Especializada de Repressão aos Crimes Cibernéticos conduziu a investigação, resultando na detenção do homem antes que o crime pudesse ser consumado.

"

O que conseguimos foi prevenir um ato grave que poderia ter causado grande sofrimento. Agradecemos a cooperação internacional que permitiu essa ação preventiva.”

O caso levanta questões sobre a eficácia do monitoramento de assistentes de IA e a responsabilidade das empresas em notificar as autoridades competentes em situações de risco.