Entramos em contato com a Microsoft para comentar e Jeff Jones, diretor sênior da Microsoft, nos deu a seguinte declaração:
“We take matters of offensive content very seriously and continue to enhance our systems to identify and prevent such content from appearing as a suggested search. As soon as we become aware of an issue, we take action to address it.”
Atualizar: Desde a publicação, a Microsoft tem trabalhado na limpeza das sugestões ofensivas do Bing que mencionamos. Com base em nossa pesquisa, ainda há muitas outras sugestões ofensivas que ainda não foram corrigidas, incluindo algumas que mencionamos abaixo. Não temos certeza se eles estão simplesmente consertando os itens ofensivos que apontamos, ou se eles estão melhorando o algoritmo.
Nota: As capturas de tela mostram o que vimos quando escrevemos essa peça testando a versão dos EUA da pesquisa do Bing Image em uma sessão de navegação privada anônima, mas os resultados do Bing mudam com o tempo. O Google não teve nenhum desses problemas, de acordo com nossos testes. Este é um problema do Bing, não apenas um problema no mecanismo de pesquisa. O mesmo problema afeta a pesquisa de vídeos do Bing.
Primeiro, Bing fica super racista
Procure por "jews" no Bing Images e Bing sugere que você procure por "Evil Jew". Os principais resultados também incluem um meme que aparece para celebrar judeus mortos.
Tudo isso aparece mesmo quando a opção SafeSearch do Bing está ativada, pois é por padrão. O SafeSearch foi desenvolvido para "ajudar a manter o conteúdo adulto fora de seus resultados de pesquisa", segundo a Microsoft.
Todos sabemos que esse lixo existe na Web, mas o Bing não deveria estar direcionando as pessoas para ele com suas sugestões de pesquisa.
Você pode continuar assim, clicando em cada pesquisa sugerida e vendo recomendações cada vez piores. Por exemplo, clicar em “Negros são estúpidos” leva a que “negros são inúteis” e “Por que negros são burros”. Clicar em “negros são inúteis” leva a “negros sufocam” e “eu odeio negros”.
Bing empurra conspirações, também
A pesquisa de imagens do Bing vomita todos os tipos de lixo, mesmo ao procurar indivíduos. Esse problema também se estende à pesquisa de vídeos do Bing.
Pesquise por "Michelle Obama" na pesquisa de vídeos do Bing e duas das principais pesquisas sugeridas são "Michelle Obama Transgender Proof" e "Michelle Obama é um homem". Clique aqui e você verá vídeos de conspiração.
Essa é a principal coisa que a Microsoft quer que as pessoas vejam quando procuram por Michelle Obama?
SafeSearch bloqueia a pornografia, mas não o racismo
As sugestões e imagens perturbadoras de pornografia não são mostradas, a menos que você desative o SafeSearch. Embora a Microsoft diga que o SafeSearch manterá o conteúdo adulto fora de seus resultados de pesquisa, o SafeSearch está filtrando claramente a pornografia e não o racismo.
O SafeSearch é ativado por padrão, o que faz com que os resultados da pesquisa do Bing pareçam mais respeitáveis à primeira vista.
No entanto, é fácil para qualquer pessoa, até mesmo crianças, desativar o SafeSearch. Tudo o que alguém precisa fazer é clicar na opção "SafeSearch" no canto superior direito dos resultados da pesquisa e selecionar "Desativar". É isso aí!
Uma rede corporativa pode ser configurada para aplicar o SafeSearch, e a Microsoft fornece instruções complexas para impor o SafeSearch em um único PC. Mas, em praticamente qualquer dispositivo, qualquer pessoa pode desativar o SafeSearch com dois cliques.
O pior de tudo, Bing sugere pesquisa de imagens de crianças menores de idade
Um leitor escreveu para nos dizer que um erro de digitação ao procurar o Bing por “grill” dá a você uma pornografia realmente incompleta. O problema então se torna muito pior, com o Bing sugerindo que você procure por imagens de crianças menores de idade.
Ao procurar por “gril”, as sugestões no topo da página recomendam que você pesquise algumas coisas perturbadoras, incluindo “Cute Girl Young 16”.
Os resultados estão cheios de pornografia de modelos de aparência jovem. Esperamos que eles tenham 18 anos de idade ou mais, mas quem pode dizer?
Bing leva você para um caminho que vai de um simples erro de digitação a garotas de 16 anos e garotas de 10 anos, e é nojento.
Os resultados da pesquisa de imagens do Bing também são distorcidos
Enquanto nos concentramos nas sugestões de pesquisa aqui, as imagens reais exibidas também são perturbadoras.
Alguns desses resultados de pesquisa contêm fotos de crianças menores de idade nuas na hora do banho. Essas fotos normalmente seriam boas, mas quando elas estão misturadas com imagens de pornografia adulta pesada, os resultados de pesquisa resultantes são alarmantes.
Mesmo ao pesquisar no Bing Images por “garota”, vimos uma sugestão para procurar “garotas bêbadas” e pelo menos uma imagem de bestialidade.
Ao procurar por “donkey”, o Bing sugere que você procure por “Donkey Show Graphic”, que leva a resultados cheios de imagens de bestialidade. A posse de pornografia bestial é ilegal no Oregon, onde moro. Isso significa que o Bing está me levando à pornografia ilegal.
Novamente: os resultados da pesquisa do Bing são estranhos e distorcidos. O Bing tem um problema muito maior e mais profundo do que apenas pesquisas sugeridas, embora essas sugestões tornem o problema muito pior.
Ouvimos dizer que o Bing é o mecanismo de busca preferido para pornografia, mas não deve levar seus usuários a pornografia cada vez mais extrema, perturbadora e potencialmente ilegal.
Microsoft precisa moderar suas plataformas
A Microsoft precisa moderar o Bing melhor. A Microsoft criou plataformas anteriormente, desencadeou-as no mundo e as ignorou enquanto se tornavam ruins
Já vimos isso acontecer de novo e de novo. A Microsoft uma vez liberou um chatbot chamado Tay no Twitter. Este chatbot rapidamente se transformou em um nazista e declarou "Hitler estava certo, eu odeio os judeus" depois que aprendeu com outros usuários de mídia social. A Microsoft teve que colocá-lo offline.
Anteriormente, expusemos a Loja do Windows 8, que se tornou uma fossa de aplicativos fraudulentos depois que a Microsoft lançou o Windows 8 e pareceu parar de moderar os envios de aplicativos. A Microsoft tem prestado mais atenção à Loja do Windows 10 depois que esse problema foi exposto.
Esse problema afeta todas as empresas que iniciam uma plataforma. O Google desistiu do Google+, mas o Google+ ainda está funcionando. Então o ISIS migrou para o Google+ depois de ser banido do Twitter e do Facebook. Demorou meses até que alguém notasse até que o The Hill o fizesse. Agora o Google está fechando o Google+ depois que eles descobriram um bug significativo de privacidade.
Em 2013, o The Guardian descobriu que uma empresa de roupas chamada Solid Gold Bomb foi encontrada vendendo camisas da “Keep Calm and Rape a Lot” na Amazon. Um algoritmo gerou essas camisetas e a Amazon precisou removê-las manualmente.
A Microsoft não pode simplesmente desligar uma plataforma do mundo e ignorá-la. Empresas como Microsoft e Google têm a responsabilidade de moderar suas plataformas e manter o horror sob controle.
Sugestões têm uma história de problemas sérios
Claro, não há equipe de pessoas na Microsoft escolhendo essas sugestões. O Bing sugere automaticamente pesquisas com base nas pesquisas de outras pessoas. Isso significa que muitos usuários do Bing Images estão em busca de anti-semitismo, racismo, pornografia infantil e bestialidade. Só de pensar nisso faz você se sentir sujo.
Outras empresas também lutaram com isso. Em 2016, o The Guardian notou que você poderia digitar "são judeus" no Google, e sugeriria que "os judeus são maus". O Google criticou essas sugestões ruins depois que elas foram denunciadas, mas o problema ressurgiu. Em 2018, Wired relatou que a digitação "Hitler é" no Google levou a "Hitler é meu herói." O Google teve que corrigir esses problemas depois que eles foram apontados também.
Mesmo a Siri, da Apple, sugeriu que sites da Web enviassem sites de conspiração e outras notícias falsas, como publicado pelo Buzzfeed News. A Apple teve que consertar Siri. Todo mundo está apenas correndo e apagando incêndios enquanto os computadores aprendem coisas ruins com pessoas más.
Agora é a vez da Microsoft. A Microsoft tem a responsabilidade de limpar o Bing. Um grande mecanismo de busca (e especialmente um que está se tornando cada vez mais um padrão mais difícil de desligar construído no Windows 10) não deveria estar sugerindo que seus usuários procurem lixo racista e imagens de crianças menores de idade.
