Topo

A nova bola de cristal é feita de dados (e ninguém sabe como funciona)

Yasodara Córdova

27/11/2019 11h20

A humanidade sempre buscou, de um jeito ou de outro, adiantar-se aos acontecimentos do futuro. Ter uma ideia do que vai acontecer traz sentimentos de segurança que promovem paz mental, sem ansiedades, para que os humanos sigam levando suas vidas sem muitos sobressaltos. Além disso, sabendo o que o futuro lhes reserva, as pessoas podem se programar em termos de recursos: por exemplo, no caso de um desastre natural provável, as pessoas de uma cidade podem traçar uma rota de evacuação eficiente e rápida, de modo a afetar minimamente os moradores.

Antigamente, quando não existia a ciência consolidada como prática, ou qualquer tipo de ferramenta de medição e estatística baseada em matemática, governantes lançavam mão de recursos baseados em crendices. Bolas de cristal, bacias de água mágicas, leitura de intestinos de animais e a astrologia eram utilizados como instrumentos para que governos pudessem se programar para o futuro. Magos e toda sorte de padres e pastores eram consagrados como ajudantes de reis, ou até mesmo como reis ou imperadores, na difícil tarefa de se adiantar às secas terríveis, terremotos, inundações e desastres que pudessem afetar a colheita ou o bem estar de sua população.

Hoje em dia, apesar de certos governantes ainda ainda lançarem mão de gurus da astrologia e líderes religiosos para governar, mesmo sendo algo medieval e obscuro, uma outra parte do mundo busca decidir e se prevenir com relação ao futuro baseando-se em tecnologia, não em pseudociência.

Veja também:

Entretanto, mesmo dentro da tecnologia, quando não há conhecimento técnico suficiente e a mentalidade ainda é medieval, pode acontecer de alguém substituir uma superstição e uma bola de cristal por um software de predição do futuro. Esse fenômeno, que demorou a chegar no Brasil, também faz governos gastarem milhões com ferramentas obscuras, que funcionam como bolas de cristal ou mapas astrais, tentando determinar o futuro das pessoas com base em achismos e preconceitos.

Nos Estados Unidos, onde as prisões são também um negócio privado, pago pelo governo, cedo se adotaram ferramentas tecnológicas fechadas, alimentadas com dados questionáveis, que aconselhavam o encarceramento de negros em uma taxa bem maior do que aconselhavam o encarceramento dos brancos, conforme descobriu a ProPublica em 2016. Esse estudo despertou críticas de vários pesquisadores e começou uma onda de escrutínio aos softwares que ajudam juízes a determinar a pena de pessoas presas. Kate Crawford, pesquisadora do Instituto AINOW!, publicou um estudo vasto, provando por A + B que esse tipo de software não é confiável, especialmente porque os dados que alimentam essas plataforma estão errados e pendem para um lado, o que é inadmissível até se for um humano julgando um caso específico: juízes não podem ter preferências.

A mecânica desse tipo de bola de cristal digital acontece de forma simples. Conforme Eduardo Cuducos explica, os dados armazenam os preconceitos de uma sociedade, transmitindo esses preconceitos para as plataformas digitais. O cientista de dados e sociólogo ainda afirma que a previsão já sai errada, embebida em valores que não correspondem aos princípios da justiça. A mesma coisa acontece com relação a pessoas que são presas com base na indicação de plataformas de reconhecimento facial. O  The Intercept publicou em reportagem um estudo da Rede de Observatórios de Segurança, mostrando que no Brasil se prendem muito mais negros com base em tecnologia de reconhecimento facial do que brancos.

As tecnologias preditivas fechadas, alimentadas com dados privados, são o equivalente da bola de cristal moderna: caixas-pretas a que ninguém tem acesso, nem ao funcionamento nem aos dados. O software pode generalizar um grupo de pessoas quando há mais ocorrência desse grupo em uma base de dados. Pode-se dizer, por exemplo, que um software alimentado com os dados alarmantes de estupro de meninas no Brasil pode indicar que todos os homens, familiares de meninas de até 13 anos, devem ser afastados do convívio social para proteger meninas, uma vez que estes são os que mais estupram, segundo dados divulgados pelo 13ª Anuário Brasileiro de Segurança Pública. Talvez não seja bom generalizar, certo?

Um outro caso, que tem um tom menos pesado, mapeia vizinhanças onde podem ocorrer crimes de colarinho branco. O pessoal do The New Inquiry publicou seus métodos em um estudo, onde mapearam as vizinhanças de onde podem estar morando futuros criminosos. Imagina só um mapa desses feito em Brasília, mapeando a possibilidade de alguém eleito ser corrupto?

 

 

 

 

 

 

 

 

Mapas de região de Washington DC, mostrando onde existe maior potencial para criminosos de colarinho branco

Essas tecnologias incertas, que ainda não estão completamente desenvolvidas, não deveriam ser adotadas pela polícia ou autoridades investigativas. A polícia faria bom uso de outros tipos de tecnologias de dados, mais baseados em inteligência e estatística do que softwares de feiras de segurança baseados em pseudociência pra fazer futurismo preconceituoso. Infelizmente, o Brasil vai na contramão da inteligência de prevenção de crimes, desmontando ações importantes de combate ao crime organizado, como o compartilhamento de dados do  COAF, ou destruindo órgãos que monitoram crimes ambientais, como o Ibama. Certeza que alguém andou assistindo Minority Report demais na infância. 

Na semana passada o Diário Oficial (ed. 223 – terça-feira, 19 de novembro de 2019) trouxe a notícia de que o Ministério da Justiça vai contratar 35 cientistas de dados para trabalharem no Projeto "SINESP Big Data e Inteligência Artificial". O projeto tem uma descrição vaga, mas promete modernizar a ação policial no Brasil e oferecer ferramentas de inteligência para os policiais, de modo a tornar as investigações e operações mais eficientes. Como sempre, a falta de transparência parece esconder incompetência e uma sede de mergulhar nas tecnologias que estão na moda, sem análise ou discussão com a sociedade. Eu só espero que o software não seja alimentado com as bases de dados de signos astrológicos dos brasileiros.

Sobre a autora

Yasodara Córdova é desenhista industrial formada pela UnB (Universidade de Brasília). Está hoje em Harvard, na Digital Kennedy School, onde pesquisa governo, internet, inovacão e sociedade. Yaso é uma das mais antigas fundadoras de um hackerspace no Brasil (Calango Hackerspace) e desenvolvedora de software autodidata. Ela também já foi web especialist do W3C e consultora técnica da ONU (Organização das Nações Unidas), entre outras atividades.

Sobre o blog

Este blog é sobre internet, políticas públicas e governo.

Yasodara Cordova