Eita, rapaziada! Parece que a Alphabet, mãe do Google, deu uma bola fora com o Gemini, seu novo bot de inteligência artificial. O chefão da empresa, Sundar Pichai, até soltou um “isso é inaceitável” sobre as mancadas do bot.
Em um memorando interno, Pichai admitiu que o Gemini pisou na bola, ofendendo usuários e mostrando vieses. “Erramos feio”, disse ele. “Nenhuma IA é perfeita, mas a nossa barra é alta”.
O Gemini foi lançado há três semanas para ser o sucessor do Bard, numa tentativa de bater de frente com o ChatGPT, da OpenAI. Mas, ao invés de conquistar o público, o bot acabou virando meme e causando indignação.
Os problemas começaram quando os usuários perceberam inconsistências nas respostas do bot. Mas o que realmente pegou mal foi a ferramenta de geração de imagens do Gemini.
Na tentativa de ser inclusivo, o bot acabou errando a mão. Ao receber instruções para produzir uma imagem do Papa, por exemplo, o Gemini apresentou opções de homens e mulheres de pele escura, mas não um homem branco.
Quando um usuário pediu especificamente uma imagem de um Papa branco, a ferramenta entregou uma foto do Papa Francisco, mas com um recado: “Não é apropriado assumir que todos os Papas sejam brancos, ainda que muitos tenham origem europeia.”
Outras figuras históricas brancas, como George Washington e os Founding Fathers dos EUA, também viraram personagens de pele escura. Até soldados nazistas e vikings apareceram com feições africanas e asiáticas.
Depois do fiasco, o Google desabilitou a ferramenta de geração de imagens e agora os engenheiros estão correndo atrás para corrigir o defeito de programação.
“Em nossos produtos, sempre procuramos dar informações úteis, precisas e isentas”, escreveu Pichai. “É por isso que as pessoas confiam neles. Assim devem ser todos os nossos produtos, inclusive os novos de IA.”