O que é um algoritmo?
Não é exagero afirmar que os algoritmos, considerando a dependência tecnológica da sociedade contemporânea, controlam o mundo. Mas, afinal de contas, o que é um algoritmo? Ele é a base do funcionamento de um sistema computacional. Em matemática e ciência da computação, refere-se a uma sequência finita de ações ordenadas logicamente e possíveis de serem executadas com o objetivo de resolver um problema.
Os algoritmos são a essência dos programas de computadores e são escritos em linguagens formais, que podem ser diagramas, linguagens naturais estruturadas, linguagens de programação, modelos, entre outras notações. A partir dessa construção inicial, eles são testados para verificar se as saídas (resultado ou informação) estão de acordo com as entradas (dados). Se o algoritmo usa técnicas de Inteligência Artificial (IA), dele pode ser “treinado”, fazendo uso de grandes quantidades de dados (Big Data). Esse treinamento pode ser automatizado (machine learning – aprendizado de máquina) ou auxiliado por um agente humano, sempre com o objetivo de otimizar seus resultados.
Essa definição genérica, encontrada na literatura clássica, que relaciona os algoritmos à essência dos programas de computadores, não é mais adequada para definir o seu real poder. Além de estar presente em todos os lugares, dos smartphones até os robôs presentes nas linhas de produção automatizadas, ele exerce grande influência em diversos domínios, principalmente quando emprega técnicas de IA. Assim, surgem discussões que vão muito além do aspecto tecnológico.
Por exemplo, em dezembro de 2020, o Stanford Medical Center enfrentou um episódio de má distribuição de vacinas contra a covid-19. O algoritmo de distribuição usado favoreceu administradores do alto escalão, em detrimento dos médicos que atuavam na linha de frente no atendimento dos pacientes.
A definicão genérica de ALGORITMO, encontrada na literatura clássica, relacionando-os à essência dos programas de computadores, não é masi adequada para definir o real poder dessa tecnologia
J. L. Gregório
Um outro fato curioso que pode ser interpretado como “enviesamento algorítmico”, aconteceu com a rede social Twitter em setembro de 2020. Na ocasião, vários usuários perceberam que o algoritmo projetado para otimizar a visualização de imagens no feed de notícias estava priorizando rostos de pessoas brancas em detrimento dos de pessoas negras.
Episódios como esses devem se tornar mais comuns à medida que mais empresas adotem a automação como solução para seus problemas e, principalmente, para melhorar seus processos. Há um forte movimento no mundo corporativo chamado de “cultura orientada a dados”, que remete ao uso massivo de algoritmos em todos os departamentos de uma organização.
Aqui cabe destacar que os algoritmos são escritos por seres humanos, logo, é possível fazer com que reproduzam as crenças e valores dos seus autores. Ademais, os algoritmos inteligentes, que aprendem com o ambiente em que estão inseridos, podem reproduzir o comportamento dos seus usuários. Acredito que o episódio do Twitter tem mais a ver com o processo de aprendizagem de máquina do que com a concepção.
Portanto, culpar um algoritmo de ser racista ou acusá-lo de excluir pessoas deficientes em processos de recrutamento ou de avaliar erroneamente o desempenho de um profissional é demonizar a tecnologia e livrar os verdadeiros culpados. Nesse sentido, são cada vez mais necessárias discussões sobre transparência, auditoria e regulamentação, considerando os impactos éticos e sociais, sejam os algoritmos empregados na iniciativa pública ou privada. A responsabilidade algorítmica deveria ser uma das principais pautas daqueles que ditam os rumos da legislação neste país.
Texto publicado originalmente no Jornal de Jales, coluna Fatecnologia, no dia 31/10/2021.
