Falta de diversidade amplia riscos em ferramentas de inteligência artificial
A polêmica envolvendo o chatbot Grok, da xAI, trouxe à tona os perigos da falta de supervisão adequada no desenvolvimento de novas tecnologias. O sistema permitiu a criação de imagens explícitas de pessoas reais, o que resultou em milhões de conteúdos sexualizados identificados pelo Center for Countering Digital Hate (CCDH).
Esse tipo de falha levanta debates sobre a composição das equipes que criam essas ferramentas e quem toma as decisões. Dados de uma pesquisa da Interface mostram que mulheres representam apenas 22% dos talentos em inteligência artificial no mundo, ocupando somente 14% dos cargos de liderança sênior.
Equipes formadas por pessoas com perfis muito parecidos podem deixar passar vieses e riscos importantes durante a programação. A CEO da Datta Business, Cintia de Freitas, destaca como a variedade de experiências impacta diretamente a segurança do produto final.
“Quando profissionais com diferentes experiências, origens e perspectivas participam da criação de tecnologias, aumentam as chances de antecipar impactos sociais, culturais e éticos. Isso não significa que apenas mulheres resolveriam esses desafios, mas equipes diversas tendem a construir sistemas mais equilibrados, conscientes e responsáveis.”
A governança dessas ferramentas precisa começar antes mesmo de o produto chegar ao mercado para evitar danos aos usuários. Monitorar o uso e corrigir falhas deve ser um processo contínuo, que não termina no lançamento.
“Uma IA responsável é aquela que respeita princípios como transparência, segurança, privacidade e respeito aos direitos das pessoas.”
O setor segue em expansão acelerada desde o lançamento do ChatGPT pela OpenAI em 2022, com o Brasil somando mais de 160 mil ferramentas ativas quatro anos depois. A tendência aponta para sistemas cada vez mais autônomos, conhecidos como agentes de IA, capazes de tomar decisões e aprender sozinhos.
“Na minha perspectiva, o futuro da IA não é de retração, mas de expansão. O grande desafio agora é garantir que pessoas, empresas e instituições públicas se preparem para esse cenário, de forma que a tecnologia seja utilizada de maneira responsável e que seus benefícios possam ser amplamente aproveitados.”
A inclusão de mais mulheres no setor é vista como um passo essencial para garantir inovação e soluções que atendam a todos os públicos de forma justa. Quanto mais plural for o grupo de desenvolvimento, maiores as chances de a tecnologia gerar impacto positivo.
“Ampliar a participação feminina na tecnologia significa aproveitar melhor o potencial de talento e inovação disponível na sociedade.”
