Por Edson Pontes Pinto
Vivemos em um mundo imerso em dados. Big data já não é mais um termo da área de tecnologia, mas dita os rumos do cotidiano, afinal, em todos os momentos nós recebemos e entregamos dados. Esse, por sua vez, são processados em sistemas gerando novos insights decisionais em uma trama de informações que nos traz uma gama de produtos e serviços sem os quais não conseguimos mais viver sem. O mundo é online, e não mais está online.
Nesse contexto, algoritmos ditam as regras, recebem dados (inputs) e nos entregam soluções (outputs), hoje escolhem nossas músicas em uma sequência no nosso gosto, nos mostram um lançamento de filme que não podemos perder, e advinham o melhor caminho de casa ao escritório.
Parece banal, mas algoritmos já decidem situações jurídicas em diversos países. Nos Estados Unidos já fazem análise de presos (v.g. COMPAS), reduzem a burocracia judicial na Argentina (v.g. Prometea) e a Estônia já fala em juízes-robôs.
No Brasil não é diferente, os tribunais do país em todos os níveis começam a desenvolver e aplicar algoritmos em suas atividades, Tribunal de Justiça de Rondônia (com o CODEX), STJ (com o Sócrates) e o Victor do STF que faz análise de repercussão geral em Recurso Extraordinário.
Percebemos então que os algoritmos passam a fazer trabalhos triviais, burocráticos, dantes feitos por pessoas, mas ao mesmo tempo realizam escolhas, mesmo que em um menor nível de complexidade, o que traz uma carga ética no agir das máquinas.
A grande questão é que todos esses algoritmos são sistemas desenvolvidos por pessoas, e processam dados (casos) de pessoas, e devolvem um resultado que por muitas vezes ditam regras a elas, e determinam consequências, simples ou complexas, mas que mudam a sua realidade.
Imagine, pois, uma pessoa que teve seu crédito negado? Ou a parte que teve negada a admissibilidade de seu recurso? Mas agora imaginemos que o resultado desses sistemas estava viciado por um viés nos dados coletados, ou no modelo criado para processá-lo que foi treinado com dados “preconceituosos”, por exemplo?
Logo, a responsabilidade no desenvolvimento de tais tecnologias impõe uma necessidade clara de se discutir a ética na mineração, tratamento e utilização dos dados, bem como nos resultados trazidos por tais algoritmos
A internet é permeada por situações como essas, a sua segurança depende então do elemento ético nos algoritmos que são nela processados. Não há internet segura sem ética de algoritmos.
FONTE
