Adoção de IA cresce, mas segurança preocupa empresas

A adoção de inteligência artificial (IA) nas empresas evolui rapidamente, levantando questões sobre o uso seguro da tecnologia. Dados da McKinsey revelam que mais de 80% das organizações já utilizam IA em várias áreas de seus negócios.

Vibe Coding: Inovação e Riscos

Com avanços na tecnologia, práticas como o 'vibe coding' estão em ascensão, permitindo que colaboradores desenvolvam sistemas com comandos simples. Embora isso aumente a produtividade, especialistas alertam para a falta de supervisão técnica, que pode criar vulnerabilidades na segurança da informação.

Transformação do Papel da Engenharia

Mateus Magno, CEO da Magnotech, destaca que o papel da engenharia se transformou drasticamente. Ele afirma que, atualmente, o foco vai além da programação de códigos; é necessário garantir a arquitetura, validar decisões automatizadas e gerenciar sistemas híbridos para capturar valor de forma segura.

Desafios da 'Shadow AI'

Os riscos se intensificam quando a IA é utilizada sem diretrizes estabelecidas. O fenômeno do 'shadow AI', onde colaboradores usam ferramentas de IA sem a autorização da área de TI, contribui para falhas operacionais e pode resultar na exposição de dados sensíveis.

Três Estratégias de Controle

Para mitigar esses riscos, Magno sugere três estratégias. Primeiro, as empresas devem definir claramente quais ferramentas podem ser utilizadas, por quem e em quais situações. Em segundo lugar, a revisão técnica deve ser periódica, com validação e testes frequentes. Por último, é crucial estabelecer limites para decisões tomadas pela IA, decidindo quando é necessária a revisão humana.

O Papel Humano Continua Essencial

Segundo Magno, a combinação de governança e uso de IA se tornará um diferencial competitivo. A tecnologia pode automatizar e acelerar processos, mas é o time humano que deve determinar quais ações tomar e quais riscos tolerar. 'É nessa interseção que o futuro das empresas será moldado', conclui.