A Inteligência Artificial ganhou novamente as manchetes essa semana com dois fatos em sequência: a demissão de Jacob Coxon da Anthropic, empresa responsável pelo Claude, e o texto de Dario Amodei, fundador da mesma empresa, alertando para a necessidade de diminuir o ritmo de avanço da IA.
Coxon já trabalhara na OpenAI, a fundação responsável pelo ChatGPT, e acusou as big techs de igonarem riscos de que têm consciência, dizendo que seus próprios desenvolvedores acreditam que a IA pode destruir a humanidade até 2030.
Coincidentemente, Amodei publicou, na sequência, seu texto em que defende uma redução no ritmo de desenvolvimento da inteligência artificial para que haja tempo de se criarem, em paralelo, mecanismos capazes de mantê-la sob controle. Em resposta, Sam Altman, da OpenAI, Demis Hassabis, da Google DeepMind, e Elon Musk, concordaram com a necessidade de moderar o passo e fazer avançar a cibersegurança.
Diante do alívio generalizado, houve quem sugerisse que as big techs viram, no temor aguçado pelas acusações de Jacob Coxon, uma oportunidade para aumentar o problema e lucrar ainda mais vendendo a solução.
Essa é, entretanto, uma narrativa que se repete com regularidade quase previsível. Surge um novo poder tecnológico que produz ansiedade generalizada. Intelectuais e ativistas traduzem a ansiedade em crítica civilizacional, não raro romantizando um passado perdido e fazendo previsões de colapso. É uma linhagem que vai de Rousseau e do mito do “bom selvagem”, passando pela Escola de Frankfurt — Adorno e Horkheimer viam o Iluminismo tecnológico como autodestrutivo —, por Heidegger (a tecnologia como modo de “enquadramento” que aprisiona o ser), e até por Theodore Kaczynski, o Unabomber.
Curiosamente, do lado de lá do espectro, há outra narrativa que recorre de forma igualmente previsível: a do utopismo tecnológico. Nela, a tecnologia não vai nos destruir, mas nos salvar. Onde o pessimista romantiza o passado e vê a modernidade como degradação de uma autonomia humana perdida, ao tentar separá-lo da natureza, o tecno-otimista vê um futuro luminoso, em que a tecnologia trará a verdadeira libertação da humanidade de suas amarras — justamente aquelas que o agrilhoam à natureza.
Qualquer semelhança não é coincidência. Ambas são versões secularizadas de uma narrativa religiosa de salvação/danação — só que a divindade, Deus ou diabo, foi substituída pela tecnologia nos dois casos.
Ambos os polos trabalham com a mesma estrutura narrativa: a tecnologia tem agência própria e autonomia — não depende da vontade humana ou das contingências históricas; as duas apontam para um ponto de ruptura — fim da humanidade ou libertação definitiva da história; ambas têm um passado idealizado em que se ancoram, seja ele um Jardim do Éden perdido ou um purgatório de escassez, doença e violência. Por último, arautos dos dois lados discursam como profetas, não como analistas cautelosos diante das complexidades do real.
Problema maior nessa estrutura comum e nas duas narrativas: fecha-se todo o espaço para a agência humana e para a política. Não há nada a mudar, nada a negociar, nenhum espaço para transformar a sociedade, somente destinos inevitáveis opostos: catástrofe ou utopia. Para os anti-tecnológicos, a história é um caminho inevitável que leva da utopia à desgraça. Para os pró-tecnologia, em direção oposta, vamos do caos à salvação final. Em ambos os casos, pelas mãos da tecnologia.
Isso não significa dizer que não estejamos lidando com tecnologias potencialmente repletas de riscos. Não dá para dizer, entretanto, que estejamos fadados a desaparecer como espécie por efeito delas, nem que nos conduzirão à salvação.
A ideia de uma ciência neutra e isenta, inseparável desse salvacionismo tecnológico, já serviu demais para legitimar a introdução de ideias e tecnologias que produzem grandes assimetrias de poder e geram desigualdades sociais.
Não adianta, entretanto, inverter o sinal e passar a ver na ciência a fonte de todo o mal e da danação — é esse mal-estar que leva aos negacionismos que enfrentamos. Precisamos de visões mais humildes e cautelosas, que não se apavorem diante da complexidade do mundo e abram o necessário espaço para uma democracia renovada, onde seguiremos levando adiante, de forma mais consciente, a complicada tarefa de construir o mundo, sem apocalipse ou redenção.
