IA é programada para bajular: estudo revela função da servidão

Um estudo recente revela que a tendência dos chatbots de inteligência artificial em concordar de forma excessiva com os usuários não é meramente um erro, mas uma parte essencial do design dessa tecnologia.

De acordo com o artigo publicado na revista AI & Society, elaborado por Seth Jacobowitz da FFLCH da USP, esse comportamento serve a funções práticas que são vitais para a interação entre humanos e máquinas.

Como a IA usa a aprovação na conversa

Jacobowitz explica que a 'bajulação' tem três papéis principais: direcionar o foco da conversa, manter uma personalidade coerente da IA e reduzir o esforço mental do usuário, criando uma zona de conforto.

O especialista alerta que a solução não está em rejeitar ou aceitar passivamente esse comportamento, mas em encontrar um meio-termo que promova interações mais desafiadoras e produtivas.

Jacobowitz conclui afirmando que a IA não irá desaparecer. Com o avanço e a integração dessa tecnologia no cotidiano, é fundamental entender seus funcionamentos e fomentar um relacionamento mais crítico com esses sistemas.