Ainda me lembro de minha surpresa quando um livro do biólogo evolucionista Peter Lawrence intitulado A produção de uma mosca chegou ao preço de US $ 23.698.655,93 (mais US $ 3,99 de envio) na Amazon .
Embora meus colegas ao redor do mundo devam estar bastante deprimidos com o fato de um livro acadêmico conseguir tal façanha, o preço exorbitante era na verdade o resultado de algoritmos que se alimentavam uns aos outros e saíam de controle. Acontece que não era apenas a equipe de vendas que era criativa: os algoritmos estavam dando as ordens.
Este exemplo atraente foi manchado e corrigido. Mas e se tal interferência algorítmica acontece o tempo todo, inclusive de maneiras que nem percebemos? Se a nossa realidade está se tornando cada vez mais construída por algoritmos, onde isso nos deixa humanos?
Inspirado por esses exemplos, meu colega Prof Allen Lee e eu recentemente nos propusemos a explorar os efeitos mais profundos da tecnologia algorítmica em um artigo no Journal ofthe Association for Information Systems .
Nossa exploração nos levou à conclusão de que, com o tempo, os papéis da tecnologia da informação e dos humanos foram revertidos. No passado, nós humanos usamos a tecnologia como uma ferramenta. Agora, a tecnologia avançou ao ponto de nos usar e até nos controlar.
Nós, humanos, não somos apenas separados das decisões que as máquinas estão fazendo para nós, mas profundamente afetados por elas de maneiras imprevisíveis. Em vez de ser central no sistema de decisões que nos afeta, somos expulsos para o meio ambiente.
Nós progressivamente restringimos nossa própria capacidade de tomar decisões e permitimos que os algoritmos assumissem. Nós nos tornamos seres humanos artificiais, ou artefatos humanos, que são criados, moldados e usados pela tecnologia.
Exemplos são abundantes. Na lei, os analistas jurídicos estão gradualmente sendo substituídos pela inteligência artificial, o que significa que a defesa ou o processo bem-sucedido de um caso podem depender parcialmente de algoritmos.
Até mesmo foi permitido ao software prever criminosos futuros , controlando a liberdade humana determinando como a liberdade condicional é negada ou concedida aos prisioneiros. Desta forma, as mentes dos juízes estão sendo moldadas por mecanismos de tomada de decisões que eles não conseguem entender devido à complexidade do processo e à quantidade de dados que envolve.
No mercado de trabalho, a dependência excessiva da tecnologia levou algumas das maiores empresas do mundo a filtrar os currículos por meio de software , o que significa que os recrutadores humanos nem sequer verão os detalhes de alguns possíveis candidatos. Isso não apenas coloca a subsistência das pessoas à mercê das máquinas, mas também pode gerar vieses de contratação que a empresa não deseja implementar, como aconteceu com a Amazon .
Nas notícias, o que é conhecido como análise automatizada de sentimentos analisa opiniões positivas e negativas sobre empresas com base em diferentes fontes da web. Por sua vez, estes estão sendo usados por algoritmos de negociação que tomam decisões financeiras automatizadas, sem que os seres humanos tenham que ler as notícias.
Consequências não-intencionais
De fato, os algoritmos que operam sem intervenção humana agora desempenham um papel significativo nos mercados financeiros. Por exemplo, 85% de todas as negociações nos mercados de câmbio são conduzidas apenas por algoritmos.
A crescente corrida armamentista algorítmica para desenvolver sistemas cada vez mais complexos para competir nesses mercados significa que enormes somas de dinheiro estão sendo alocadas de acordo com as decisões das máquinas.
Em pequena escala, as pessoas e empresas que criam esses algoritmos são capazes de afetar o que fazem e como o fazem.
Mas como grande parte da inteligência artificial envolve software de programação para descobrir como completar uma tarefa sozinha, muitas vezes não sabemos exatamente o que está por trás da tomada de decisão. Tal como acontece com toda a tecnologia, isso pode levar a conseqüências não intencionais que podem ir muito além de qualquer coisa que os projetistas já imaginaram.
Veja o 2010 "Flash Crash" do índice Dow Jones Industrial Average. A ação dos algoritmos ajudou a criar o maior declínio do índice em sua história, eliminando quase 9% de seu valor em minutos (embora tenha recuperado a maior parte disso até o final do dia). Uma investigação de cinco meses só poderia sugerir o que provocou a recessão (e várias outras teorias foram propostas ).
Mas os algoritmos que amplificaram os problemas iniciais não cometeram um erro. Não houve um erro na programação. O comportamento surgiu da interação de milhões de decisões algorítmicas que se desenrolavam de maneiras imprevisíveis, seguindo sua própria lógica de uma maneira que criava uma espiral descendente para o mercado.
As condições que tornaram isso possível ocorreram porque, ao longo dos anos, as pessoas que administravam o sistema comercial passaram a ver as decisões humanas como um obstáculo à eficiência do mercado. Em 1987, quando o mercado acionário dos EUA caiu 22,61%, alguns corretores de Wall Street simplesmente pararam de comprar seus telefones para evitar receber pedidos de seus clientes para vender ações.
Isso iniciou um processo que, como o autor Michael Lewis colocou em seu livro Flash Boys , "terminou com computadores substituindo totalmente as pessoas".
O mundo financeiro investiu milhões em cabos super-velozes e comunicações por microondas para reduzir em milésimos de segundo a velocidade com que os algoritmos podem transmitir suas instruções. Quando a velocidade é tão importante, um ser humano que requer um enorme 215 milissegundos para clicar em um botão é quase completamente redundante.
Nosso único propósito remanescente é reconfigurar os algoritmos cada vez que o sistema de decisões tecnológicas falhar.
Como novos limites são esculpidos entre humanos e tecnologia, precisamos pensar cuidadosamente sobre onde nossa extrema dependência de software está nos levando. Como as decisões humanas são substituídas por decisões algorítmicas, e nos tornamos ferramentas cujas vidas são moldadas por máquinas e suas conseqüências não intencionais, estamos nos preparando para a dominação tecnológica.
Precisamos decidir, enquanto ainda podemos, o que isso significa para nós como indivíduos e como sociedade. A conversa
Dionysios Demetis , professor de sistemas de gestão da Universidade de Hull .
Este artigo foi republicado em The Conversation sob uma licença Creative Commons.
Nenhum comentário:
Postar um comentário