Por Cathy O’Neil.
Talvez não seja tão ruim ter algoritmos como mestres soberanos — pelo menos quando eles são estimulados a proteger as pessoas em vez de explorá-las.
No início desta semana, o Facebook declarou que já não permitirá que alguns tipos de anunciantes realizem seleções raciais. Especificamente, proibirá que anúncios de serviços de crédito, imobiliários e de emprego utilizem as categorias de “afinidade étnica” — perfis de marketing que se correlacionam fortemente com a etnia — para decidir a quem excluir de seu público.
A reforma não acontece da noite para o dia. Primeiro a rede social sofreu pressão de um experimento investigativo da ProPublica, realizado em outubro passado, no qual a organização de mídia conseguiu incluir no Facebook um anúncio imobiliário excluindo categorias afins às minorias. O ocorrido gerou uma ação judicial na qual o Facebook é acusado de violar leis federais dos EUA relativas à habitação justa e aos direitos civis.
O interessante é que os anúncios educacionais, como os de universidades privadas conhecidas por se concentrarem em afroamericanos pobres, foram deixados de fora da nova política. Isto ocorre possivelmente porque não existe uma lei federal contra esse tipo de seleção. Sendo assim, o Facebook está começando a atuar como um regulador privado, perseguindo e policiando atividades ilegais.
Uma história similar pode ser contada a respeito do Google, que em 2016 anunciou — depois de o Facebook já ter tomado uma decisão parecida — que eliminaria anúncios sobre empréstimos com desconto em folha, e desde então reportou a remoção de 1,7 bilhão desses chamados “anúncios ruins”, incluindo 5 milhões da categoria de empréstimos em folha. Ou seja, o Google também assumiu o papel de policiamento.
Este pode ser um avanço desejável, especialmente em meio ao crescente temor de que o governo do presidente Donald Trump possa frear o trabalho do Escritório de Proteção Financeira ao Consumidor, a agência federal encarregada de proteger a população americana de predadores financeiros. Mas o assunto também levanta algumas perguntas difíceis.
Primeiro, o Google e o Facebook usam algoritmos para selecionar os anunciantes. Eles impedirão que os maus anunciantes driblem seus sistemas de seleção?
As empresas que oferecem empréstimos consignados têm se mostrado astutas — por exemplo, cobrando taxas não reveladas ou infladas para parecerem qualificadas como credores de alto padrão. Eu me envolvi em um caso assim, trabalhando como consultora de dados do Escritório do Procurador-Geral de Illinois, que extraiu um acordo de US$ 3,5 milhões de uma empresa que anunciou juros baixos, mas que na verdade cobrou uma comissão de “seguro” exorbitante. Subterfúgios desse tipo poderiam facilmente driblar um algoritmo desenvolvido para filtrar credores que oferecem juros altos.
Outro possível problema: se o governo transferir a tarefa de regulação a empresas privadas, os órgãos federais poderiam se atrofiar, tornando-se incapazes de cumprir suas tarefas, mesmo que um novo governo queira ativá-los. Isto é problemático porque as empresas privadas, em última análise, não têm responsabilidade perante a população e oferecem pouca transparência. Elas estão atuando principalmente porque temem pela própria reputação.
Dito tudo isso, damos as boas-vindas às novas políticas do Facebook. Se Trump optar por reduzir a proteção aos consumidores, esta pode ser a melhor saída possível.
Essa coluna não reflete necessariamente a opinião do conselho editorial nem da Bloomberg LP e de seus proprietários.
Entre em contato conosco e assine nosso serviço Bloomberg Professional.