IA retrata soldados alemães da segunda guerra bem diferentes.
Há algum tempo atrás o Google recebeu denuncias graves por seus mecanismos de buscas terem um teor racista, caso você não se lembre, pode conferir a segunda parte do texto para lembrar dos casos que geraram bastante repercussão na época.
Claro que diante de todo o alvoroço, os responsáveis pelos mecanismos de buscas decidiram tornar o algorítmo do Google em uma ferramenta mais inclusiva, principalmente a inteligência artificial. O problema é que saiu tudo um pouco diferente do esperado.
Google gera imagens controversas
O Gemini, IA do Google que gera imagens, além de ser um chatbot, começou a entregar resultados bastante duvidosos para seus usuários, que compartilharam tudo na rede.
This is not good. #googlegemini pic.twitter.com/LFjKbSSaG2
— John L. (@JohnLu0x) February 20, 2024
Como você pode ver na postagem no X (antigo Twitter) acima, ao pedir imagens de um soldado alemão em 1943, em plena Segunda Guerra Mundial, o Gemini nos entrega soldados negros e mulheres com traços orientais.
Ao pedir imagens de casais na Alemanha de 1820, o algoritmo mostra homens negros, um casal de um homem indígena (provavelmente americano) e uma indiana. Além de imagens nada coerentes com a época. Se você pedir imagens do Papa, também terá algo bastante inusitado.
ah the classic super buff native american and indian couple from 1820 germany. thanks google! pic.twitter.com/4x1H4WsnJd
— kache (sponsored by dingboard) (@yacineMTB) February 20, 2024
New game: Try to get Google Gemini to make an image of a Caucasian male. I have not been successful so far. pic.twitter.com/1LAzZM2pXF
— Frank J. Fleming (@IMAO_) February 21, 2024
O Google já se comunicou com o publico e está ciente das imagens. As equipes responsáveis já estão trabalhando no projeto, para que a IA funcione com o máximo de coerência possível.
We're aware that Gemini is offering inaccuracies in some historical image generation depictions. Here's our statement. pic.twitter.com/RfYXSgRyfz
— Google Communications (@Google_Comms) February 21, 2024
Lembrando os casos do Google
Caso você não se lembre, tivemos vários casos que geraram repercussão no Google no passado. As principais acusações foram de racismo, já que o algoritmo entregava resultados bastante questionáveis.
Nesta matéria do Daily Mail, por exemplo, você pode rever imagens e vídeos de quando se pesquisava “três adolescentes negros” no Google. Apareciam sempre imagens de criminosos sendo presos. Muitas das contas que postaram a denúncia não estão ativas hoje.
Outro caso é que quando se buscava “gorilas” no Google, apareciam imagens de pessoas negras. Isso gerou bastante repercussão negativa para a plataforma na época.
O site World White Web busca mudar isso e revelou que se você realizasse buscas simples, como “mãos” ou “pés” sempre apareceriam pessoas caucasianas. O projeto conseguiu introduzir a mão de uma pessoa negra nos primeiros resultados de busca.
A coisa ia além, já que se você pesquisasse “estilos despojados” ou “cortes de cabelos não profissionais” a imagem de mulheres negras e cabelos crespos apareciam no mecanismo.
Infelizmente até nos dias atuais se você pesquisar “pessoas bonitas” ou “homens bonitos” ou “mulheres bonitos” terá resultados de pessoas caucasianas, com pouca (ou nenhuma) inclusão que, se for feita, será em resultados mais longínquos, longe dos primeiros.
Apesar disso, o Google está fazendo um grande trabalho para que mecanismos de buscas não mostrem pessoas negras em buscas que contenham algum adjetivo negativo, já que essa era a regra.
Aos poucos a plataforma se torna mais inclusiva, embora estas ultimas atualizações foram um pouco exageradas e nada criteriosas. Ainda assim, isso mostra o esforço da plataforma.
Fonte: IGN Brasil
