Twitter oferece recompensas a quem detectar algoritmos racistas
Competição para encontrar vulnerabilidades e falhas em plataforma pode render até R$ 18 mil a usuário
Tecnologia e Ciência|Do R7
O Twitter anunciou nesta sexta-feira (30) que irá oferecer recompensas em dinheiro a usuários e pesquisadores que descobrirem possíveis vieses sexistas ou racistas, por exemplo, nos algoritmos executados em sua plataforma.
Segundo o Twitter, essa seria "a primeira competição de recompensas desse tipo na indústria", com prêmios de até 3,5 mil dólares, cerca de R$ 18 mil.
A competição se baseia em programas de "recompensa por erros" oferecidos por alguns sites e plataformas para detectar falhas de segurança e vulnerabilidades, explicaram os executivos do Twitter Rumman Chowdhury e Jutta Williams. "Encontrar distorções em modelos de aprendizagem automática é difícil. Às vezes, as empresas tomam conhecimento de violações éticas indesejadas apenas depois que elas chegam ao público. Queremos mudar isso."
Os executivos consideraram promissor o modelo de oferecer recompensas a hackers para encontrarem distorções nos algoritmos: "É inspirador como a pesquisa e as comunidades de hackers ajudaram o campo da segurança a definir as melhores práticas para identificar e eliminar as vulnerabilidades, a fim de proteger o público. Queremos cultivar uma comunidade semelhante, para uma identificação pró-ativa e coletiva de danos de algoritmo."
A decisão foi tomada em meio à preocupação crescente gerada por sistemas de algoritmos que, apesar dos esforços para serem neutros, podem incorporar vieses raciais ou de outro tipo.