Vou ficar aqui sentado, ouvindo Bill Evans e Chet Baker, enquanto as notícias sobre erros da IA se multiplicam, em diversos lugares do mundo, em diferentes áreas, como medicina e bolsa de valores. De solução futurista para tudo, a inteligência artificial (IA) — um nome mal colocado — mostra seu lado deletério. A inteligência é uma capacidade humana complexa e analógica, não computável, capaz de identificar nuances, contradições e incertezas em situações reais, sem que essas informações necessariamente estejam armazenadas na memória. Está ligada ao futuro e pode construir cenários de decisão. Afinal, o que é a IA?
Decisões Algorítmicas (DAs), baseadas em softwares criados por colaboração humana, e que são abstecidos por dados e conteúdos criados por seres humanos. Mas este processo foi equivocadamente batizado de Inteligência Artificial. As DAs são softwares, sistemas computacionais e informacionais, muitos diferentes uns dos outros, que se abastecem de séries históricas de eventos padronizáveis, para serem utilizados em tomadas de decisão, seja escolher a melhor rota entre dois bairros na cidade de São Paulo no dia de hoje, ou com base nos sintomas observados de uma doença, apresentar possíveis tratamentos.
As DAs fazem apostas estatísticas para prever o próximo movimento baseado no passado, tentando adaptá-lo ao futuro. Em matemática, dizemos que uma tendência em um conjunto de dados segue a tangente à curva que melhor representa o comportamento desses dados. Infelizmente, ou felizmente, a realidade é muito mais complexa do que curvas lineares de dados cujas as respostas são tangentes ao problema analisado.
O truque está na velocidade sobre-humana com que uma solução simples é encontrada para um problema complexo — mas que frequentemente está errada. Como "tempo é dinheiro" na economia neoclássica, não se pode perder tempo até que uma avaliação mais criteriosa seja feita. Assim, a velocidade se torna a prova dos nove: o leopardo é melhor que o leão porque é mais rápido.
Dessa forma, a IA deve ser renomeada como DA, pois se baseia em imensas simplificações para resolver problemas complexos, que frequentemente não são triviais nem padronizáveis. Os erros, e alucinações, como os observados no ChatGPT, que utiliza seus usuários para treinamento, podem parecer hilários e jocosos inicialmente, mas, com o tempo, podem se tornar graves, especialmente quando aplicados a questões como a crise ambiental.
É fascinante observar como uma solução errada, ofertada em milésimos de segundo, pode ser chamada de "inteligente". Enquanto isso, no mundo real, os problemas humanos e planetários se amplificam. Quando usamos DAs para enfrentar os problemas complexos e reais da sociedade, há o risco de agravarmos as crises, que ja estamos vivendo. Frente aos erros das DAs, as redes de humanos, que as criaram, podem argumentar que estamos apenas aperfeiçoando essas ferramentas, ou, em termos schumpeterianos, estamos engajados em um processo de "destruição criativa".
Ainda não percebemos que estamos fazemos parte de um grande experimento global. Quando as sementes transgênicas foram lançadas no mercado, sem benefícios claros para os consumidores, algumas vozes denunciaram, que aquilo era um laboratório a céu aberto, conduzido sem o consentimento das pessoas. Com as DAs, treinamos estas ferramentas, através de decisões que impactam a vida das pessoas, muitas vezes sem que elas saibam. Isso é ainda mais sério do que o caso do hackeamento de dados eleitorais norte-americanos pela Cambridge Analytica durante a eleição de Donald Trump.
Problemas complexos não têm soluções simples, especialmente os problemas ambientais. Participei de dois cursos oferecidos por uma agência de cooperação europeia sobre um tipo de software, que faz parte das ferramenta de uma DA, a Análise Multiagentes, aplicada a um problema ambiental: o desmatamento na Amazônia. Durante um dos cursos, solicitei ao engenheiro europeu, que mostrasse as linhas de programação do módulo de percepção humana do algoritmo usado para modelar decisões dos agentes envolvidos no desmatamento de uma região no sul da Amazônia.
O módulo continha apenas três linhas de código. Tendo trabalhado com percepção ambiental no meu mestrado, sabia que, desde Aristóteles até Carl Jung, a percepção humana é considerada um dos maiores desafios para a compreensão da psique e dos processos de decisão. Mas no algoritmo em questão, três linhas de código eram consideradas suficientes. Só que não e a coisa era mais grave: eu havia visitado a área em estudo, e o desmatamento previsto para acontecer dois anos no futuro já estava acontecendo.
O que precisamos compreender que existem várias inteligências humanas por trás das DAs, coordenando o trabalho cooperativo, dos que constroem e treinam os algoritmos: a inteligência híbrida (IH). Exercida por algumas poucas empresas globais eseus CEOs, a IH captura dados e informações em massa para criar módulos de resolução de problemas, a maioria das vezes sem o consentimento explícito dos usuários. Cria-se um ambiente que reforça os poderes "sobre-humanos" das DAs, atraindo milhões de pessoas em busca de soluções rápidas e baratas para seus problemas: um "deus ex-machina", ou seja, um deus criado pela máquina.
Mas, afinal, que magnetismo é esse que as DAs exercem sobre os humanos? Essa é a segunda geração das DAs. A primeira foi o "surfar na rede", a "navegação grátis", que gerou enormes bancos de dados sobre comportamentos dos consumidores e seus conteúdos, vendidos para empresas. A segunda geração vai mais fundo: armazena processos de decisão e vende informações sensíveis sobre padrões sociais de decisão, capturados pelos algorítmos das DAs, para governos e blocos econômicos. Como as pessoas decidem? Quais padrões estão por trás das perguntas que fazem? Tudo isso é fruto de inteligências humanas, que não são remuneradas para serem usadas.
David Ricardo, economista do século XIX, se reviraria no túmulo ao saber disso. Para ele, o valor de um produto depende dos insumos usados em sua produção. Já as DAs perpetuam o passado ao tentar projetá-lo como se fosse o futuro, criando uma "santificação científica" que alimenta falsos profetas.
O que as DAs podem fazer de útil para resolver problemas humanos? Primeiro, é preciso evitar seu uso para prever eventos futuros em problemas não lineares e complexos. Segundo, identificar onde as DAs e seus softwares podem trazer riscos à sociedade. Com controle social, As DAs podem organizar dados padronizados de utilidade pública, como medicina virtual, tráfego, tarefas domésticas e controle de acidentes, liberando os humanos para atividades criativas.
É essencial, porém, regulamentar o uso das DAs. Profissionais das universidades, que estudam a inteligência humana em suas váriadas expressões, podem ajudar a criar um aparato normativo que fortaleça a justiça social, a democracia e a liberdade de expressão para proteger a sociedade dos efeitos deletérios das DAs.
Mas é possivel através da colaboração humana criar softwares que ajudam a captar dados e conteúdos, remunerá-los, e gerar resultados positivos para a sociedade nos mais diferentes setores, e áreas que precisam escalar e automatizar o tratamento e a análise da informação.