Por algum tempo, usuários do Twitter tem testado a função de recorte de imagens da plataforma e o aparente viés do algoritmo ao dar foco a pessoas brancas em relação a indivíduos de outras etnias.

Os testes foram desde figuras públicas, de imagens de acervo, e até mesmo personagens fictícios, como Lenny e Carl de Os Simpsons.

Sendo assim, após um pedido de desculpas, os desenvolvedores da rede social se pronunciaram prometendo mudanças a este sistema.

"Nós fizemos testes no sistema de machine learning já existente que determina de que forma as imagens serão cortadas antes que elas sejam publicadas no Twitter", escreveu o chefe de desenvolvimento Dantley Davis no blog da empresa. "Nós deveríamos ter compartilhado essa informação à medida que fizemos os testes para que a análise pudesse ser reproduzida externamente. Este foi um descuido."

"Embora nossas análises até o momento não tenham mostrado viés racial ou de gênero, reconhecemos que a maneira como cortamos as fotos automaticamente significa que há potencial para danos", continuou. "Deveríamos ter feito um trabalho melhor ao imaginar essa possibilidade quando estávamos projetando e construindo este produto."

O designer também testes mais rigorosos e compartilhamento de dados com o resto do público para a análise, e que pretendem reduzir o impacto do machine learning nestes cortes.

"Estamos priorizando o trabalho para diminuir a dependência do corte de imagens baseado em machine learning, dando às pessoas mais controle sobre como suas imagens ficarão em um Tweet. Começamos a explorar diferentes opções para ver o que funcionará melhor para a ampla gama de imagens que as pessoas Tweetam todos os dias."

"O viés no machine learning é um problema de todo o setor e, no Twitter, estamos empenhados em melhorar", declarou. "Estamos cientes de nossa responsabilidade e queremos trabalhar para tornar mais fácil o entendimento de como nossos sistemas funcionam. Embora nenhum sistema possa ser completamente isento de viés, continuaremos a minimizá-lo por meio de análises deliberadas e completas, e compartilharemos atualizações do nosso progresso."

Ainda não há uma previsão exata de quando estas mudanças e evolução no sistema de recorte de imagens serão implementados na rede social.