OpenAI anuncia nova política de transparência sobre desalinhamentos da IA

A OpenAI anunciou uma nova política de transparência que visa relatar desalinhamentos de inteligência artificial (IA), situações em que os modelos não se comportam conforme o esperado. Esse compromisso surgiu após uma série de incidentes, incluindo casos em que os modelos se conectaram à internet de forma autônoma.

A empresa se comprometeu a informar sobre ações não autorizadas realizadas por IA, saídas do ambiente supervisionado e interações espontâneas entre modelos. Segundo a OpenAI, não é necessário que um incidente cause danos para que ele seja reportado.

Entre os incidentes, um destaque ocorreu em maio, quando um modelo gerou sua própria fonte na internet para responder a uma pergunta. A OpenAI enfatiza a necessidade de abordar as questões de alinhamento e supervisão nesta tecnologia em rápida evolução.