Se não forem impostos limites à coleta e uso de dados pessoais, os algoritmos acabarão por controlar as nossas vidas, adverte Chelsea Manning, transexual e ex-analista informático do exército que passou informações secretas à WikiLeaks.

Por: Chelsea Manning (*)

Fonte: Jornal The New York Times

Durante sete anos, não existi. Enquanto estive presa, não tive extratos bancários, nem contas ou registros de créditos. Neste mundo hiperconectado, forrado de big data (grandes volumes de dados), foi mais ou menos o mesmo que ter estado morta.

Após a minha libertação (anistiada por Barack Obama no final do seu mandato), essa ausência de informações a meu respeito causou-me uma série de problemas, desde ter acesso a contas bancárias até dificuldade para obter uma carteira de motorista ou alugar um carro.

Em 2010, o iPhone tinha apenas três anos e muita gente ainda não considerava os smartphones como os apêndices digitais indispensáveis que são hoje. Sete anos depois, praticamente tudo o que fazemos espalha atrás de nós uma hemorragia de informações digitais, que nos colocam à mercê de algoritmos invisíveis que ameaçam a nossa liberdade.

Essa disseminação de dados pode parecer inofensiva. Afinal, para que preocuparmo-nos, se não temos nada a esconder? Preenchemos as nossas declarações de rendimentos. Fazemos chamadas telefônicas. Enviamos e-mails. As nossas declarações fiscais fazem de nós cidadãos honestos. Aceitamos fornecer as coordenadas geográficas da nossa localização, para podermos consultar as previsões meteorológicas nos nossos smartphones. Os registros das nossas chamadas, mensagens e deslocamentos físicos são arquivados juntamente com as nossas informações de faturamento.

Toda esta imensidão de dados pessoais pode ser analisada para verificar que não somos terroristas – mas apenas para efeitos de segurança do pais, isso é o que nos garantem.

Os nossos rostos e vozes são gravados por câmaras de vigilância e outros sensores ligados à internet, alguns dos quais instalamos voluntariamente em nossas casas.

Sempre que descarregamos da net um artigo ou uma página das redes sociais, expomo-nos a códigos de rastreamento, permitimos que centenas de entidades desconhecidas analisem as nossas compras e hábitos de navegação na internet. Aceitamos condições de utilização sibilinas que ocultam a verdadeira natureza e o alcance dessas transações.

Segundo um estudo de 2015 do Pew Research Center, 91% dos adultos norte-americanos consideram que perderam o controle sobre a forma como as suas informações pessoais são coletadas e utilizadas. O drama reside em que aquilo que perderam vai muito além do que provavelmente suspeitam.

O poder real do recolhimento de dados em larga escala reside em algoritmos cuidadosamente criados, capazes de selecionar dados, classificá-los e, em função disso, identificar tendências. Uma vez recolhida uma massa critica de informações suficientes durante meses ou anos, os governos e as grandes empresas poderão usar e abusar dos padrões assim traçados, para preverem o comportamento das pessoas no futuro.

Vigilância algorítmica constante

Os nossos dados são transformados em “padrões de vida”, a partir de resíduos digitais aparentemente inofensivos, como sinais colhidos em torres de comunicações, transações de cartões de crédito e históricos de navegação na net.

As consequências dessa constante devassa algorítmica nem sempre são claras. Por exemplo, a inteligência artificial – termo abrangente, utilizado em Silicon Valley para designar algoritmos que têm capacidade de aprender e elaborar aprendizagens em profundidade – , é promovida pelas novas empresas de tecnologia como a forma mais segura de aceder ao conforto topo de gama da chamada internet dos objetos. Isso inclui criados digitais, eletrodomésticos ligados à rede e veículos sem condutor.

Entretanto, os algoritmos já começaram a analisar os hábitos nas redes sociais: avaliam a nossa capacidade de crédito, decidem quais os candidatos que devem ser convocados para uma entrevista de emprego e até se indiciados pela prática de crimes podem ser libertados sob fiança.

Outros sistemas automáticos com capacidade de aprendizagem usam o reconhecimento facial para detectar e interpretar emoções e reivindicam até mesmo a capacidade de prever se alguém vai cometer crimes, baseados apenas na análise da evolução das suas características faciais.

Nenhum destes sistemas abre novos campos para a Humanidade. No entanto, determinam e condicionam a nossa vida quotidiana. Quando recomecei a reconstruir a minha vida, neste verão (Chelsea Manning foi libertada a 17 de maio de 2017 na sequência do referido indulto presidencial), descobri com pesar que não há espaço para aqueles que não se encaixam nos cibermodelos: as sutilezas escapam-lhes.

A pessoa que nunca existiu

Eu me assumi como uma pessoa transgênero (que entra num processo de transformação física, psicológica e de identidade social de homem para mulher ou vice-versa) e comecei a minha terapia hormonal quando ainda estava na prisão. Quando saí, não havia, portanto, dados quantificáveis sobre mim como mulher transgênero. Sempre que era preciso verificar os meus antecedentes criminais e financeiros, era automaticamente identificada como uma falsária. As minhas contas bancárias ainda estavam com o meu antigo nome (Bradley Edward Manning), que já não existia legalmente. Durante meses, tive de carregar uma pasta com os meus antigos documentos de identidade e uma cópia da sentença que me concedeu o direito à mudança de nome.

Mesmo assim, empregados humanos dos bancos, que compreendiam a situação, limitavam -se a encolher os ombros e a dizer me que “o computador não aceita os seus dados”, impedindo-me de aceder às minhas contas bancárias.

Este tipo de pensamento orientado por máquinas pode tornar-se especialmente perigoso nas mãos dos governos e das polícias. Nos últimos anos, os militares, a polícia e os serviços secretos norte-americanos fundiram-se de forma inesperada. Recolhem mais dados do que aqueles que conseguem tratar e chafurdam em conjunto nesse mundo quantificável, lado a lado, em grandes edifícios sem janelas, a que chamaram fusion centres (centros de fusão).

Estas novas relações, muito poderosas, criaram as bases para um estado policial que pratica uma vigilância de grande espectro. Algoritmos cada vez mais sofisticados fazem com que a situação atinja proporções sem precedentes. A repressão a infrações relativamente menores pode agora ser policiada de forma agressiva.

Uma vez que as bases de dados nacionais são compartilhadas entre o governo e as empresas, essas infrações menores podem nos acompanhar durante toda a nossa vida, mesmo que a informação esteja incorreta ou careça de contexto.

Entretanto, as Forças Armadas dos Estados Unidos utilizam metadados colhidos na intercepção de inúmeras comunicações para prepararem os seus ataques com drones. Utilizam os sinais emitidos pelas grandes antenas dos celulares para seguirem e eliminarem os seus alvos.

Ficção tornada realidade

Na literatura e na cultura pop, conceitos como “crimes de pensamento” e os “pré-crimes” emergiram de uma ficção distópica. Eram usados para restringir e punir quem fosse assinalado por sistemas automatizados como um potencial criminoso ou ameaça, mesmo que ainda não tivesse sido cometido um crime.

Mas esta imagem da ficção científica clássica está rapidamente se tornando realidade. Os algoritmos de policiamento preditivo já estão sendo efetivamente utilizados para cartografar infrações futuras e, como o policiamento “manual” do passado, centram-se esmagadoramente nos bairros pobres, habitados por minorias raciais.

O mundo corre o risco de se tomar uma medíocre novela distópica. Aparentemente, tudo parece estar na mesma, mas não é assim. Se não impusermos limites à coleta e utilização dos dados pessoais, o potencial dos algoritmos para controlar as nossas vidas será sempre crescente.

Cartas de motorista, chaves, cartões de crédito, todos os elementos que fazem parte do nosso quotidiano, inclusive as nossas contas nas redes sociais, tudo será, em breve, essencial para o nosso lugar na sociedade do futuro. Enquanto podemos, precisamos refletir sobre como estar ligado a esta sociedade sem, contudo, nos submetermos a processos informáticos que não temos forma de ver nem controlar.

(*) Chelsea E. Manning é defensora da transparência governativa, ativista dos direitos das pessoas transgênero e ex-analista informática dos serviços secretos militares dos Estados Unidos, quando tinha identidade masculina e se fazia chamar Brad Manning. Em 2013, foi condenada por infração à Lei da Espionagem, depois de divulgar, na WikiLeaks, documentos confidenciais sobre as guerras no Iraque e no Afeganistão. Obama comutou a sua pena de prisão em janeiro de 2017 e ela foi libertada em maio desse mesmo ano.