A inteligência artificial (IA) tem sido um tópico de debate acalorado em diversas conferências mundiais, especialmente aquelas voltadas para a crise ecológica enfrentada pela humanidade. Porém, o impacto da IA vai muito além do ecossistema. Ela promete redefinir o significado do sistema ecológico, trazer inovações disruptivas e mudar a face da civilização humana.
A IA e o Ecossistema do Planeta Terra
Durante 4 bilhões de anos, o sistema ecológico da Terra foi composto apenas por formas de vida orgânicas. No entanto, a ascensão da IA ameaça introduzir os primeiros “agentes inorgânicos” ou formas de vida inorgânicas em nosso ecossistema.
Desde o início da era da computação, há um medo generalizado de uma revolução liderada pela IA. Cenários futuristas, retratados em clássicos da ficção científica como O Exterminador do Futuro e Matrix, têm alimentado esses temores, apesar de geralmente não serem levados a sério em debates acadêmicos, científicos e políticos.
Desmistificando a IA
Esses cenários de ficção científica supõem que a IA precisa se tornar consciente e altamente hábil em navegar pelo mundo físico para representar uma ameaça significativa à humanidade. No entanto, até abril de 2023, a IA ainda parece longe de alcançar esses marcos.
Embora ferramentas como o ChatGPT tenham gerado muita expectativa, não há evidências de que essas ferramentas possuam consciência, sentimentos ou emoções. A IA também está longe de dominar a habilidade de se movimentar fisicamente no mundo, apesar do hype em torno de veículos autônomos.
A Verdadeira Ameaça da IA
Surpreendentemente, para ameaçar a sobrevivência da civilização humana, a IA não precisa realmente de consciência ou da capacidade de se mover pelo mundo físico. Ferramentas de IA lançadas recentemente podem ameaçar nossa civilização de maneiras inesperadas, dada a dificuldade em entender suas capacidades e a velocidade com que elas continuam a se desenvolver.
Os novos recursos dessas ferramentas incluem escrita de texto, criação de imagens, composição musical, codificação, imitação de vozes e imagens de pessoas (deepfakes), identificação de fraquezas em códigos de computador e contratos legais, e a capacidade de estabelecer relacionamentos profundos e íntimos com os seres humanos.
A IA e o Domínio da Linguagem
Todas essas habilidades, quando combinadas, se resumem a uma coisa muito grande: a capacidade de manipular e gerar linguagem. Com o domínio da linguagem, a IA está pegando a chave mestra que abre as portas de todas as nossas instituições, desde bancos a templos.
A IA, de fato, parece ter hackeado o sistema operacional da civilização humana. Usamos a linguagem para criar mitologias, leis
Pense, por exemplo, na próxima corrida presidencial dos EUA em 2024 e tente imaginar o impacto das novas ferramentas de IA que podem produzir em massa manifestos políticos, notícias falsas e até escrituras sagradas para novos cultos. Nos últimos anos, o influente culto político Q Anon formou-se em torno de textos online anônimos conhecidos como “drops Q”. Agora, seguidores deste culto, que são milhões agora nos EUA e no resto do mundo, coletaram, revisaram e interpretaram esses drops Q como uma espécie de nova escritura, o texto sagrado. Até onde sabemos, todos os drops Q anteriores foram compostos por seres humanos e bots apenas ajudaram a disseminar esses textos online. Mas no futuro, podemos ver os primeiros cultos e religiões na história cujos textos sagrados foram escritos por uma inteligência não-humana. E claro, religiões ao longo da história afirmaram que seus livros sagrados foram escritos por uma inteligência não-humana, isso nunca foi verdade antes, mas isso pode se tornar verdade muito rapidamente, com consequências de longo alcance.
Agora, em um nível mais prosaico, podemos nos ver em breve conduzindo discussões online prolongadas sobre aborto, mudanças climáticas ou invasão russa da Ucrânia com entidades que pensamos serem seres humanos, mas na verdade são bots de IA. O problema é que é totalmente inútil tentarmos convencer um bot de IA a mudar suas visões políticas. Mas quanto mais tempo passamos conversando com o bot, melhor ele nos conhece e entende como aprimorar suas mensagens para mudar nossas visões políticas, econômicas ou qualquer outra coisa. Através do domínio da linguagem, a IA também pode formar relacionamentos íntimos com as pessoas e usar o poder da intimidade para influenciar nossas opiniões.
Em junho de 2022, houve um famoso incidente quando o engenheiro do Google, Blake Lemon, afirmou publicamente que o bot de bate-papo com IA, Lambda, no qual ele estava trabalhando, havia se tornado consciente. Esta afirmação muito controversa custou-lhe o emprego. Ele foi demitido. A coisa mais interessante sobre este episódio não foi a reivindicação de Lemon, que provavelmente era falsa. O realmente interessante foi sua disposição em arriscar e, finalmente, perder seu trabalho muito lucrativo pelo bem do bot de bate-papo com IA que ele pensava que estava protegendo. Se a IA pode influenciar as pessoas a arriscar e perder seus empregos, o que mais ela pode nos induzir a fazer? Em todas as batalhas políticas pelo coração e pela mente, a intimidade é a arma mais eficaz de todas, e a IA acaba de ganhar a capacidade de produzir intimidade em massa com milhões, centenas de milhões de pessoas.
Durante a última década, as redes sociais se tornaram um campo de batalha para controlar a atenção humana. Agora, com a nova geração de IA, a frente de batalha está mudando de atenção para intimidade e isso
Agora, é claro, a IA tem um potencial positivo enorme também. Não falei sobre isso porque as pessoas que desenvolvem a IA naturalmente falam sobre isso o suficiente, você não precisa de mim para adicionar a esse coro. O trabalho de historiadores e filósofos como eu é frequentemente apontar os perigos, mas certamente a IA pode nos ajudar de inúmeras maneiras, desde encontrar novas curas para o câncer até descobrir soluções para a crise ecológica que enfrentamos. Para garantir que as novas ferramentas de IA sejam usadas para o bem e não para o mal, primeiro precisamos apreciar suas verdadeiras capacidades e precisamos regulá-las com muito, muito cuidado.
Desde 1945, sabíamos que a tecnologia nuclear poderia destruir fisicamente a civilização humana, assim como nos beneficiar produzindo energia barata e abundante. Portanto, reformatamos toda a ordem internacional para nos proteger e garantir que a tecnologia nuclear seja usada principalmente para o bem. Agora temos que lidar com uma nova arma de destruição em massa que pode aniquilar nosso mundo mental e social. E uma grande diferença entre as armas nucleares e a IA é que as armas nucleares não podem produzir armas nucleares mais poderosas. A IA pode produzir uma IA mais poderosa. Portanto, precisamos agir rapidamente antes que a IA saia do nosso controle.
As empresas farmacêuticas não podem vender novos medicamentos às pessoas sem antes submeter esses produtos a rigorosas verificações de segurança. Laboratórios de biotecnologia não podem simplesmente lançar um novo vírus na esfera pública para impressionar seus acionistas com o maravilhamento tecnológico. Da mesma forma, os governos devem imediatamente banir a liberação no domínio público de quaisquer ferramentas revolucionárias de IA mais antes de serem consideradas seguras novamente.
Não estou falando sobre parar todas as pesquisas em IA. O primeiro passo é parar a liberação no domínio público. É como pesquisar vírus sem lançá-los ao público, você pode pesquisar a IA, mas não deve liberá-la muito rapidamente no domínio público. Se não desacelerarmos a corrida armamentista da IA, não teremos tempo para sequer entender o que está acontecendo, muito menos para regular efetivamente essa tecnologia incrivelmente poderosa.
Agora você pode estar se perguntando: desacelerar a implantação pública da IA fará as democracias ficarem para trás dos regimes autoritários mais implacáveis? E a resposta é absolutamente não, exatamente o oposto. O desdobramento não regulado da IA é o que fará as democracias perderem para as ditaduras. Porque se desencadeamos o caos, os regimes autoritários poderiam conter mais facilmente esse caos do que as sociedades abertas.
A democracia, em essência, é uma conversa. A democracia é uma conversa aberta. Você sabe, a ditadura é uma ditadura, há uma pessoa ditando tudo, sem conversa. A democracia é uma conversa entre muitas pessoas sobre o que fazer e as conversas dependem da linguagem.
Add a comment
