O mercado global de Inteligência Artificial caminha para atingir a marca de US$ 617 bilhões até o final do segundo semestre de 2026, mantendo uma taxa de expansão de $14\%$ ao ano, segundo dados da consultoria alemã Statista. No entanto, diante das mais de 47 mil ferramentas ativas mapeadas pela plataforma “There’s An AI For That” (TAAFT) em setores que vão do recrutamento empresarial à publicidade, desenvolvedores e especialistas acendem um alerta: os vieses raciais e algorítmicos podem comprometer a sustentabilidade e a confiabilidade desse crescimento tecnológico.

O debate ganhou contornos urgentes com a divulgação do documento “Lado Sombrio do Escalonamento de Conjuntos de Dados” no GitHub. O estudo revelou que, em 14 modelos multimodais baseados na arquitetura Vision Transformers (ViT-L) — sistemas que processam texto e imagem simultaneamente —, a probabilidade de uma imagem de um homem negro ou latino ser erroneamente associada ao termo “criminoso” aumentou em até $69\%$.

Cáren Cruz, CEO da Pittaco Consultoria, especialista em imagem identitária e participante da 9ª temporada do programa Shark Tank Brasil, explica que a atual crise ética da inteligência artificial generativa herda falhas estruturais de tecnologias de análise facial desenvolvidas há quase uma década. “Ainda em 2017, a pesquisadora Joy Buolamwini, do MIT Media Lab, vinha denunciando falhas nos sistemas de visão computacional a partir da sua própria experiência como mulher negra. Em 2018, ao lado de Timnit Gebru, ela publicou o estudo Gender Shades, demonstrando que softwares comerciais de análise facial apresentavam índices de erro drasticamente maiores ao analisar mulheres de pele escura em comparação a homens de pele clara.”

Para Cáren Cruz, a raiz do problema reside na curadoria dos bancos de dados que alimentam os algoritmos de machine learning. Sem uma base de dados que represente a pluralidade humana, a inteligência artificial acaba por reproduzir e automatizar as desigualdades históricas do ambiente analógico. “A tecnologia não nasce neutra. Ela aprende a partir de bancos de dados, imagens, descrições e repertórios que também carregam desigualdades históricas. Se esses dados foram construídos com baixa diversidade racial, a ferramenta tende a reproduzir essas limitações. Quando o sistema altera características fundamentais de uma pessoa negra, está reproduzindo uma lógica histórica em que determinados traços são tratados como algo a ser corrigido ou neutralizado.”

Com mais de 18 anos de atuação no mercado de consultoria identitária corporativa, a CEO da Pittaco defende que a diversidade racial e a precisão técnica em colorimetria devem ser tratadas como prioridades de engenharia pelas big techs. A executiva relembra uma dinâmica de desenvolvimento de produto em que participou de um grupo focal nacional: a metodologia de uma instituição tentou categorizar a pele negra em apenas 6 tons. Trata-se de uma simplificação analítica ineficaz para o mercado de cosméticos, imagem e tecnologia, especialmente no Brasil.  “Quem trabalha com imagem sabe que essa redução não abraça a complexidade das peles negras. Não estamos falando de uma única cor ou classificação, mas de um espectro muito amplo, que envolve variações de pigmentação, subtons, luminosidades, contrastes e profundidades cromáticas decorrentes de intensas miscigenações. A inovação verdadeira precisa reconhecer, preservar e respeitar a pluralidade das aparências negras sem apagar, suavizar ou padronizar aquilo que nos identifica.”