Home IA Quando a IA erra, de quem é a culpa?
IA

Quando a IA erra, de quem é a culpa?

Especialista alerta que humanização da inteligência artificial pode reduzir a responsabilização de profissionais e equipes

Copiloto, parceiro, colega de trabalho. À medida que a inteligência artificial avança nas empresas, também cresce a tendência de atribuir características humanas à tecnologia. Em alguns casos, ela já ocupa até mesmo um espaço formal nas estruturas organizacionais. Um estudo da Boston Consulting Group (BCG), realizado com mais de 1.250 executivos de mais de 400 organizações ao redor do mundo, revelou que 31% afirmam que a liderança de suas empresas já considera a IA como um membro da equipe ou funcionário, enquanto 23% disseram que suas organizações possuem agentes de IA listados em seus organogramas.

Embora a estratégia pareça uma forma de aproximar colaboradores da tecnologia, especialistas alertam para possíveis efeitos colaterais. Segundo o mesmo estudo, a humanização da IA pode reduzir a responsabilização individual, aumentar a escalada desnecessária de problemas, reduzir a qualidade das revisões e corroer a identidade profissional e a confiança dos colaboradores.

Para Susana Azevedo, especialista em desenvolvimento de lideranças, coaching e sócia da Quantum Development, o principal risco está na perda de clareza sobre quem responde pelas decisões. “Isso é problemático, porque os sistemas de IA não podem ser responsabilizados. Na medida em que não há clareza de papeis, responsabilidade e limites entre humanos e agentes de IA, a tendência é que os humanos se desresponsabilizem dos resultados”, afirma.

 

Confiança na IA

 

A especialista explica que o problema vai além da tecnologia e alcança aspectos psicológicos e culturais das organizações. “Na medida em que simplesmente a IA aparece no organograma, surgem dúvidas sobre o futuro profissional na cabeça dos colaboradores humanos, assim como desconexão emocional com o significado do seu trabalho e como está agregando valor. Isto gera insegurança, mas também desengajamento e menor proatividade.” Segundo ela, existe ainda um efeito menos visível: “A forma como frequentemente executivos e a mídia no geral ‘idolatra’ a IA, faz com que as pessoas passem a ter menos confiança neles mesmos, por serem humanas, e inclusive na sua capacidade de ‘rever e corrigir o trabalho’ da IA.”

Na prática, isso pode criar um paradoxo. A promessa de produtividade existe, mas o excesso de confiança na tecnologia pode gerar mais revisões, mais escaladas de decisões e menos autonomia. Para Susana, o desafio das empresas não está em tornar a IA mais parecida com um ser humano, mas em definir claramente o papel de cada um na relação entre pessoas e tecnologia. “Para que a colaboração entre humanos e agentes de IA funcione, é preciso definir com clareza o que cada um faz e por quê. À medida que a IA assume execução e geração de conteúdo, o trabalho humano se concentra em supervisão, discernimento, gestão da ambiguidade e construção de relações.”

0 FacebookWhatsappEmail

APOIO

Portal Security Brasil

A Revista Security e o seu Portal de Notícias são publicações da Fiera Milano Brasil, dedicados aos setores de Segurança Eletrônica, IA, Cibersegurança e Conectividade.

CONTATO

Grupo Fiera Milano Brasil

Av. Angélica, 2491 – 20º andar
cjs 203/204 – CEP: 01227-200
São Paulo – Brasil

+55 (11) 5585.4355

+55 (11) 3159-1010

www.fieramilano.com.br

 

redacao@fieramilano.com.br

anuncio@fieramilano.com.br

NEWSLETTER

Copyright @2025  – Portal Security Brasil

Site por: Código 1 TI

NEWSLETTER

Ao assinar a newsletter, você aceita receber comunicações do Grupo Fiera Milano Brasil e de seus parceiros, e concorda com os termos de uso e com a Política de Privacidade deste serviço.