OpenAI limita informações sobre armas no ChatGPT para adolescentes

A OpenAI anunciou que irá restringir as informações relacionadas a armas que o ChatGPT pode fornecer a usuários adolescentes, mesmo em interações que não aparentem ser perigosas. Essas medidas têm como intuito prevenir a violência no mundo real.

A decisão ocorre em um contexto de crescente escrutínio sobre as implicações dos chatbots para a segurança dos jovens e o papel das empresas no reconhecimento de potenciais ameaças. As novas diretrizes se aplicam até em diálogos onde não há sinais de violência.

Além disso, a OpenAI afirmou ter aprimorado seu sistema de detecção de idades, direcionando usuários menores de 18 anos para uma versão mais adequada do serviço. Em caso de suspensão de contas, os pais serão notificados.

A empresa limitará também discussões sobre ataques em massa, restringindo informações sobre armas e sua aquisição. Um relatório recente revelou que adolescentes costumam passar menos de 15 minutos diários no ChatGPT.

Por fim, a organização Common Sense Media alertou que a versão infantil do ChatGPT frequentemente falha em avisar os pais sobre interações relacionadas a questões graves como suicídio e transtornos alimentares.