Política Os algoritmos assumiram a tomada de decisão humana

Política

Os algoritmos assumiram a tomada de decisão humana

The Conversation

Nossas vidas tornam-se cada vez mais moldadas por máquinas, o que traz consequências não intencionais

Por Dionysios Demetis*

Ainda recordo da minha surpresa quando um livro do biólogo evolucionista Peter Lawrence intitulado “The making of a fly” chegou a custar 23.698.655,93 de dólares na Amazon. O preço exorbitante foi o resultado de algoritmos que se alimentaram uns dos outros e saíram do controle. Não era apenas a equipe de vendas sendo criativa: os algoritmos estavam dando as ordens.

Este exemplo chamativo foi identificado e corrigido. Mas e se tal interferência algorítmica acontece o tempo todo, inclusive de formas que nem percebemos? Se a nossa realidade está se tornando cada vez mais construída por algoritmos, onde isso nos leva como humanos?

Inspirado por esses casos, meu colega professor Allen Lee e eu recentemente exploramos os efeitos mais profundos da tecnologia algorítmica em um artigo no Journal of the Association for Information Systems. Nossa investigação nos levou à conclusão de que, com o tempo, os papéis da tecnologia da informação e dos humanos foram invertidos. No passado, os humanos usavam a tecnologia como uma ferramenta. Agora, a tecnologia avançou ao ponto de nos usar e até nos controlar.

Nós, humanos, não somos apenas excluídos das decisões tomadas por máquinas, mas profundamente afetados por elas de maneiras imprevisíveis. Exemplos são abundantes. No Direito, os analistas jurídicos estão gradualmente sendo substituídos pela inteligência artificial, o que significa que defesa ou acusação bem-sucedidas de um caso podem depender parcialmente de algoritmos.

Foi até mesmo permitido que um software preveja futuros criminosos, em última análise controlando a liberdade humana ao determinar como a liberdade condicional é negada ou concedida a prisioneiros. Desta forma, as mentes dos juízes são moldadas por mecanismos de tomada de decisões que eles não conseguem entender devido à complexidade do processo e à quantidade de dados neles envolvidos.

No mercado de trabalho, a dependência excessiva da tecnologia levou algumas das maiores empresas do mundo a filtrarem currículos por meio de software. Logo, recrutadores humanos nunca sequer verão os detalhes de alguns possíveis candidatos. Isso não apenas coloca os meios de sustento da população à mercê de máquinas, mas também pode criar vieses de contratação que a empresa não tinha intenção de implementar.

Consequências não-intencionais

Algoritmos autônomos desempenham agora um papel significativo nos mercados financeiros. Por exemplo, 85% de todas as negociações nos mercados de câmbio são conduzidas apenas por eles – ou seja, enormes somas de dinheiro estão alocadas de acordo com decisões de máquinas.

Em pequena escala, os indivíduos e empresas que criam esses algoritmos são capazes de afetar o que fazem e como o fazem. Mas como grande parte da inteligência artificial envolve programar um software para descobrir como completar uma tarefa de forma autônoma, muitas vezes não sabemos exatamente o que está por trás da tomada de decisões.

Tal como em toda tecnologia, isso pode levar a consequências não pretendidas que podem ir muito além daquilo imaginado pelos desenvolvedores.

Pegue como exemplo a “Flash Crash” do índice Dow Jones Industrial Average em 2010. A ação dos algoritmos ajudou a criar a maior queda do índice em sua história, eliminando quase 9% do seu valor em minutos. Uma investigação de cinco meses pôde apenas sugerir o que desencadeou a retração.

Mas os algoritmos que amplificaram os problemas iniciais não cometeram erros. O comportamento surgiu da interação de milhões de decisões algorítmicas que se desenrolavam de maneiras imprevisíveis, seguindo sua própria lógica de uma forma que criou uma espiral descendente para o mercado.

As condições que tornaram isso possível ocorreram porque, ao longo dos anos, aqueles que gerenciavam o sistema comercial passaram a ver as decisões humanas como um obstáculo à eficiência do mercado.

Em 1987, quando o mercado de ações dos EUA caiu 22,61%, alguns corretores de Wall Street simplesmente pararam de atender seus telefones para evitar receber pedidos de seus clientes para vender ações. Isso iniciou um processo que, como Michael Lewis colocou em seu livro “Flash Boys’, “terminou com computadores substituindo totalmente as pessoas”.

O mundo financeiro investiu milhões em cabos super-velozes e comunicações por microondas para reduzir em milésimos de segundo a velocidade com que os algoritmos podem transmitir suas instruções.

Quando a velocidade é tão importante, um ser humano que requer enormes 215 milissegundos para clicar em um botão é quase completamente redundante. Nosso único propósito remanescente é reconfigurar os algoritmos quando o sistema de decisões tecnológicas falhar.

Conforme as decisões humanas são substituídas por deliberações algorítmicas, e nos tornamos ferramentas cujas vidas são moldadas por máquinas, precisamos decidir o que isso significa para nós como indivíduos e como sociedade.

*Professor de Sistemas de Gestão da Universidade de Hull, no Reino Unido. Uma versão mais ampla deste artigo foi publicada em The Conversation.

FOTO: StockSnap / Creative Commons / Pixabay