Ainda não são policiais pre-cogniscentes pelados em jacuzzis brilhantes, mas o Departamento de Justiça Juvenil do Estado da Flórida vai usar análises de um software para prever atividades criminosas por jovens delinquentes, e colocar potenciais criminosos em programas específicos de prevenção e educação. Tchau, direitos humanos!
O software será usado em delinquentes juvenis, utilizando uma série de variáveis para determinar o potencial dessas pessoas para cometer novos crimes. Dependendo da probabilidade, eles serão colocados em programas de re-educação específicos. Deepak Advani, vice-presidente de análises preditivas na IBM, diz que o sistema faz "projeções confiáveis" para que os governantes possam "agir em tempo real" para "prever atividades criminosas".
Sério? "prpjeções confiáveis"? "Agir em tempo real"? "Prever atividades criminosas"? Eu não sei o quão confiável é o seu sistema, IBM, mas vocês já ouviram falar da 5a., 6a., e 14a. emendas da Constituição dos Estados Unidos? E que tal o artigo 11 da Declaração Universal dos Direitos Humanos? Não? Vamos facilitar: vocês não assistiram o maluco da cientologia em "Minority Report"?
Claro. Alguns vão argumentar que esses delinquentes já foram condenados por outros crimes, então não há mal nenhum. Esse software vai ajudar a prever novos crimes. Todos vamos ficar mais seguros? Mas vamos? Qual é a garantis? Por que o estado assume que comportamento criminoso é garantido? E por que o governo decido quem vai para um programa de prevenção e quem não vai baseado na opinião de um computador? O fato é que mesmo que o programa seja 99.9% confiável, sempre haverá um inocente que vai se ferrar. E é exatamente por isso que temos o devido processo legal e a presunção de inocência. E é por isso que essas coisas não estão só na Constituição dos Estados Unidos, mas também na Declaração Universal dos Direitos Humanos.
Outras pessoas dirão que os agentes do governo já tomam essas decisões baseados em cadastros e no seu próprio julgamento. Verdade. E parece que um programa de computador pode ser mais justo que um humano, certo? Talvez. Mas no final das contas a interpretação do que diz o computador está sempre nas mãos dos humanos (e o próprio programa é escrito por humanos).
Mas o que realmente me preocupa é que esse é o primeiro grande passo para uma coisa maior e mais negra. Na verdade, a segunda: A IBM diz que o Ministério da Justiça do Reino Unido, que tem um histórico impecável de não prejulgar seus cidadãos, já usa esse sistema para prever atividades criminosas. Na verdade, pode ser até o terceiro grande passo, porque já há softwares posicionados para listar pessoas como potenciais terroristas, embora muito provavelmente não tão sofisticados como esse.
E a IBM claramente quer que esse sistema se espalhe. Eles gastaram $12 bilhões com sua divisão analítica. De novo, uma citação de Deepak Advani:
Análises preditivas dão às organizações governamentais em todo o mundo uma fonte altamente sofisticada e inteligente para criar comunidades mais seguras ao identificar, prever, responder e prevenir atividades criminosas. Elas dão ao sistema de justiça criminal a habilidade de buscar no mar de informações disponíveis para detectar padrões, fazer projeções confiáveis e daí tomar as atitudes apropriadas em tempo real para combater o crime e proteger os cidadãos.
Se parece assustador, é porque é mesmo. Primeiro são os criminosos condenados-mas-potencialmente-reincidentes. Depois são potenciais terroristas. Depois será todo mundo, em um grande banco de dados, sendo marcado porque uma combinação de fatores – padrões de viagem, atividade em cartão de crédito, relacionamentos, mensagens de texto, atividades sociais e tudo o mais – indicam que nós podemos estar pensando em fazer alguma coisa contra a lei. Potencialmente, um sistema de previsão de crimes pode evitar assassinatos, assaltos, ou um ato terrorista.
Até parece uma boa idéia. Por exemplo, há certos padrões que podem identificar psicopatas e potenciais assassinos, abusadores de crianças ou pessoas que batem nas esposas. Faz sentido instalar um sistema que possa identificar criminosos em potencial e colocá-los sob vigilância.
Mas na verdade não é uma boa idéia: Apesar de tudo parecer ser direcionado pelo desejo de mais segurança, um único falso positivo faria todo o sistema ser injusto. E isso para nem falar em potenciais abusos. Como na última vez que a IBM entrou em um negócio vagamente semelhante, por uma boa causa, nos anos 30. Eles enviaram um lote de máquinas catalogadoras para um país na Europa, para um sistema avançado de censo. Uma boa causa. Censos podem melhorar as sociedades ao identificar necessidades e problemas que o governo pode resolver. No final, porém, mais de 11 milhões de pessoas não tiveram final feliz.
Sim, a comparação é um exagero extremo. Mas uma coisa é clara: Não importa de que ângulo se olhe, catalogar pessoas, qualquer pessoa, baseado em um software de previsões estatísticas, e daí tomar medidas preventivas, é um jeito errado de melhorar nossa sociedade. Concordar com esse rumo nos levará inevitavelmente a um caminho potencialmente fatal.
http://gizmodo.com/5517231/crime-prediction-software-is-here-and-its-a-very-bad-idea?skyline=true&s=i
Valeu Ota!!