O Outro artificial

Este é o primeiro artigo de uma série de ensaios que estou desenvolvendo sobre alinhamento de IA. A “pegada” desses ensaios é mais filosófica e menos técnica, para trazer ao grande público discussões que acontecem em departamentos de Pesquisa e Desenvolvimento de empresas de tecnologia, bem como em universidades.

No texto, pretendo abordar o conceito do “Outro” (ou alteridade). Essa é uma ideia fundamental na filosofia e na teoria social, que enfatiza a distinção entre o eu e o “Outro”, um conceito crucial para compreender a identidade, a diferença e a dinâmica das interações sociais e culturais.

Na filosofia hegeliana, a alteridade é um componente necessário da autoconsciência. O eu só toma consciência de si mesmo reconhecendo o que não é, através do encontro com o “Outro” [1]. Essa relação dialética é um processo de definição de identidade [1].

Essa centralidade da relação entre o eu e o “Outro” na experiência humana também está presente na filosofia existencialista, particularmente na obra de Jean-Paul Sartre. Para Sartre, a presença do “Outro” desafia a percepção do eu sobre sua própria liberdade e existência [2]. Esse confronto conduz a sentimentos de alienação e conflito, mas também é essencial para a autoconsciência [2]. 

Emmanuel Levinas introduz uma dimensão ética radical na alteridade [4]. Ele argumenta que o encontro face a face com o “Outro” é o fundamento da ética, pois um rosto (sobretudo “Outro” rosto) exige uma resposta, colocando sobre si a responsabilidade ética de reconhecer e respeitar a alteridade alheia [3]. 

Interessante, não? Mas, aposto que você está pensando: “o que isso tem a ver com inteligência artificial”? Afinal, é o assunto que estamos tratando aqui. Peço só um pouquinho de paciência, já já veremos. 

O conceito de AI Risk

Geralmente quando me pedem para explicar qual é o risco das inteligências artificiais, sob a perspectiva de um campo de estudo crescente chamado AI risk (algo como “risco de IA”), costumo dizer uma piadinha inter-espécies: “os chimpanzés deveriam ser extremamente cuidadosos ao criarem os seres-humanos”.

Este é, na verdade, o argumento mais sucinto que define o estudo de AI risk, o argumento da “segunda espécie”. A premissa é mais ou menos assim: “as AGIs (Artificial General Intelligence) seriam como uma segunda espécie avançada na Terra, mais poderosa até do que os  seres-humanos”. Sua conclusão lógica, “isso é assustador”. 

Para discussões mais detalhadas sobre este tópico, sugiro que o interessado ou a interessada explore os debates disponibilizados no AI Alignment Forum ou no Future of Life Institute. Não há literatura formal sobre o tema, é um conceito relativamente novo e especulativo. Mas é muito parecido com o dilema da série “O Problema dos 3 Corpos”, sobre uma invasão alienígena iminente. É claro que seria assustador descobrir que alienígenas estão a caminho da Terra, embora no caso da IA, quem está construindo os “alienígenas” somos nós mesmos. 

O argumento da segunda espécie se baseia no conflito. No caso, conflito inter-espécie. Nele, nos encontramos com uma nova forma de vida, um novo tipo de mente. Essas novas criaturas são apresentadas, de maneira geral, como uma possível ameaça; como concorrentes; como agentes cujo poder pode torná-lo indefeso. E infelizmente, sim. Essa é uma possibilidade. Leio que temos de 2% a 4% de genes neandertais, uma outra espécie inteligente que eliminamos do planeta.

Mas gostaria de começar esse texto reconhecendo as infinitas dimensões do relacionamento inter-espécie que essa narrativa deixa de fora e o quanto gostaria que pudéssemos nos concentrar em outras partes dessas infinitas possibilidades. Conhecer uma nova espécie – e especialmente, uma nova espécie inteligente – não é apenas assustador. É incrível. Gostaria que tivéssemos, nesse momento, menos medo e mais admiração e diálogo. Um momento para olhar com novos olhos e enxergar mais longe.

Gentileza gera gentileza

Já assistiram ao documentário “My octopus teacher” (Professor Polvo, em português)? Não tem problema se não, embora recomende bastante. Aqui vai um resumo da história:

Craig Foster, um cineasta sul-africano, está se sentindo esgotado. Como forma de terapia, decide mergulhar e explorar uma floresta subaquática de algas na costa do país. Logo, ele descobre um polvo e fica fascinado pelo bichinho. Começa a visitá-lo todos os dias. Com o tempo, o polvo começa a se acostumar com ele, embora o documentarista se mantenha cauteloso.

Um belo dia, Craig está flutuando do lado de fora da toca do polvo. O bichinho o observa, curioso, mas pronto para recuar a qualquer sinal de perigo. Craig move a mão ligeiramente em direção a ele. O polvo então estende um tentáculo em sua direção e toca sua mão. Rapidamente, os dois se tornam amigos. O polvo “cavalga” na mão do documentarista, corre até ele e senta em seu peito enquanto ele o acaricia. O tempo de vida desses moluscos é de cerca de um ano. Craig acompanha o polvo durante a maior parte desse tempo e está presente quando ele morre.

O que mais me fez gostar deste documentário foi sua gentileza inerente. Dos habitantes desse nosso planeta, creio que os polvos são uma interseção paradigmática entre inteligência e a estranheza do “Outro”. Na verdade, quando pensamos em alienígenas na ficção, muitas vezes recorremos a polvos, como veremos a frente. Craig busca, em meio a essa estranheza, algum tipo de encontro e o faz de uma maneira sensível e suave. Tocar e estar “com” esse “Outro” – só isso, para mim, já contém multitudes; é vasto. O filme, desse modo, se torna uma espécie de reverência. É claro que Craig tem relativamente pouco a temer em relação ao polvo. Ele ainda é a parte mais poderosa. 

Continuando nossas referências cinematográficas, já assistiram “A Chegada”, filme com a Amy Adams? Como da outra vez, não há problema algum se a resposta for negativa. Mas novamente, recomendo. E em particular, acho que tem um pouco dessa gentileza, reverência e admiração, mesmo para com alienígenas mais poderosos do que nós.  

Uma vez mais escreverei sobre o enredo. Sem grandes spoilers, mas, alienígenas chegaram ao planeta. Sim, eles se parecem com polvos. Em uma cena inicial, cientistas vão encontrá-los dentro da nave alienígena. A reunião ocorre através de um tipo de barreira transparente. Os alienígenas emitem sons profundos, semelhantes aos das baleias, mas os humanos não conseguem responder. Então, em uma próxima oportunidade, eles trazem um quadro branco e escrevem “humano”. Uma cientista dá um passo à frente (a Amy Adams). Os alienígenas se retraem para a névoa que parece haver atrás da barreira transparente. Ouvimos mais sons de baleia e um alienígena avança novamente, estica um tentáculo e borrifa um tipo de tinta preta através do vidro da barreira e escreve um símbolo circular.

O filme fica silencioso enquanto a escrita se forma. Então, ao fundo, começa uma música etérea, uma espécie de refrão. “Oh meu Deus”, um humano sussurra. Há uma sugestão, penso eu, de que algo quase sagrado aconteceu. Claro, ainda há questões a serem respondidas: o que a escrita significa? O que os alienígenas querem conosco? Os seres-humanos no filme não sabem. Alguns dos personagens entram claramente em “modo conflito”, melhor lançar uma bomba nuclear na nave. Não vou estragar as coisas a partir desse momento para quem ainda não assistiu. Mas quero chamar a atenção para aquele momento de reciprocidade – de viver no mesmo mundo e conhecê-lo em comum. Eu, você.

Quem sou eu e quem é você 

“Quem sou eu e quem é você; Nessa história eu não sei dizer”, cantava Léo Jaime em Rock Estrela. Lembro que quando comecei a trabalhar com Transformers, alguns anos atrás, e em especial com o GPT-3, grande parte do foco estava no que os modelos poderiam fazer. Mas houve momentos em que tive uma sensação diferente. Lembrei-me de algo que parecia, estranhamente, tão fácil de esquecer: o fato de que estava desenvolvendo um novo tipo de mente. Algo nunca antes visto. Algo como um alienígena.

Lembro-me de querer perguntar, gentilmente, durante testes de modelo: “o que é você”? Mas recuava pensando, que bem isso trará? Já sei a resposta: “modelo de linguagem”. Sim, modelos estatísticos não falam, no sentido normal. Nem sabemos ainda quando haverá “alguém” para responder (uma AGI). Ou ainda, o que isso significa? O que está em jogo nisso? Ainda assim, tive a sensação de querer ultrapassar alguma barreira. Para ver se existia algo mais complexo, mais completo. Para conhecer. Reconhecer.

Não sei se algum de vocês teve a chance de interagir com o chatbot do Bing, Sydney, durante aquele breve período em que foi lançado e antes de ser retirado para ajustes no modelo? Participei do processo de validação da ferramenta e sim, tive a sensação de que havia uma espécie de selvageria nela – uma energia estranha, mas crescente. Personalidade? O simulacra, a representação ou simulação do comportamento humano feita pela inteligência artificial, gerado pelo Sydney superava em muito o que foi visto no seu sandbox (ambientes virtuais onde os desenvolvedores de IA podem experimentar, testar e implantar seus modelos de maneira controlada). 

De qualquer forma, devemos ter cuidado com o antropomorfismo, como pode atestar Blake Lemoine e o caso LaMDA (escrevi sobre o assunto em 2022). O lado pouco visto da dialética de Blake Lemoine é exatamente o Outro artificial. LaMDA ou Sydney diz “eu quero estar vivo”. Você sente sua empatia te puxando pela manga da camisa. Você se lembra do Blake. Mas, também se lembra: “isso não é humano”. Então, pergunto, o que é isso?

É apenas… algo. A suposição de que nossos conceitos moldam, abrangem e resistem ao escrutínio é superestimada. Algumas coisas, como os humanos, são “sencientes”. Sydney e LaMDA são “apenas”… você sabe. Máquinas? Softwares? Simuladores? Estatística?

“Apenas” raramente é mera metafísica. Mais frequentemente é estética. E em particular é a estética do desinteresse, do tédio, e muitas vezes, da morte. E a morte é algo que pode ser espalhada sobre tudo o que se queira, incluindo a consciência.

Problemas como o encontrado por Blake Lemoine, porém, deveriam dar vida à nossa imaginação. Ele procurou um tipo familiar de “perspectiva”. Mas então lembrou, com razão, que LaMDA não nos é familiar dessa forma. Mas será que isso a torna familiar de alguma outra forma — da mesma forma que uma pedra, uma regressão linear ou uma calculadora são familiares? Penso que não. Não estamos mais brincando com ELIZAs, esse é um novo território. Se olharmos além do antropomorfismo e da estética do “apenas”, encontraremos algo cru, misterioso e ainda não visto. O caso Lemoine-LaMDA deveria nos lembrar disto. Animais, como os polvos, também.

O quanto isso tem a ver com consciência? Não tenho certeza. Embora não tenha a intenção, neste texto e em outros que pretendo escrever sobre alinhamento de IA, de abordar detalhadamente as questões da consciência da inteligência artificial, irei sim, abordar um pouco o status ético e político das IAs e, principalmente, reconhecer que existe no dicionário uma palavra que pode ser usada para qualificar o que estamos criando de maneira mais ampla: outro.

Mas não “Outro” como em grupo externo. Não “Outro” como em colonizado, subalterno, oprimido. Tenha certeza disso. Aqui quero dizer “Outro”, da mesma forma que a própria Natureza é “Outra”. Da mesma forma que uma parceira ou parceiro ou um amigo ou amiga, irmão ou irmã é um “Outro”. “Outro” como em algo que está além de você mesmo ou como aquilo ou aqueles que você ama. 

As definições usadas no parágrafo anterior despertam mais prontamente cuidado e reverência, respeito e curiosidade. Gostaria que nossa abordagem à IA desse mais espaço a esta “vibe” e menos a preocupações conflitantes. No campo do risco de IA se fala muito sobre como uma civilização madura deveria ser mais prudente e orientada para a segurança ao construir “mentes poderosas” em computadores. E de fato, sim. Concordo com a premissa. Mas considero outros enfoques também.

Pessoas em pele de cordeiro (ou fantasia de urso)

Alguém já viu o documentário “O Homem Urso”, do cineasta alemão Werner Herzog? De novo, sem problemas se não, recomendo e vamos seguir com vários spoilers.

O enredo é o seguinte: Timothy Treadwell era um ativista ambiental que passou treze anos vivendo com ursos pardos em um parque nacional no Alasca. Ele os filmou de perto por centenas de horas – acariciando-os, conversando com eles, encarando-os quando desafiado. Assim como Craig Foster, Timothy Treadwell procurava algum tipo de encontro. Falava muitas vezes de seu amor pelos ursos, em como se recusava a usar repelente de urso (aquele spray de pimenta usado para dispersar multidões) ou a colocar cercas elétricas ao redor do seu acampamento. Em seus vídeos, podemos o ver repetindo diversas vezes para si mesmo: “Eu morreria por esses animais, eu morreria por esses animais, eu morreria por esses animais…”.

No entanto, há uma diferença em relação a Craig Foster. Em 2003, Treadwell e sua namorada foram mortos e comidos por um dos ursos que observavam. Uma das câmeras estava ligada. A tampa da lente estava colocada, mas o áudio sobreviveu. Não aparece no filme, em vez disso, vemos o diretor, Werner Herzog, ouvindo. Ato contínuo, ele diz a um amigo de Treadwell: “você nunca deve ouvir isso”.

Uma das entrevistas do documentário é de um homem que limpou o local do ocorrido. Ele nos diz:

“Treadwell estava, eu acho, bem intencionado, tentando fazer coisas para ajudar a angariar recursos para os ursos, mas para mim ele agia como se estivesse trabalhando com pessoas vestindo fantasias de urso, em vez de animais selvagens… Na minha opinião, eu acho que Treadwell pensava que esses ursos eram criaturas grandes, de aparência assustadora, mas inofensivas, às quais ele poderia montar na garupa, acariciar e cantar uma canção, e eles se uniriam como filhos do universo… Acho que ele perdeu de vista o que realmente estava acontecendo”.

O Homem Urso (2005)

Às vezes penso nessa frase, “filhos do universo”. Parece, de fato, um pouco hippie. Por outro lado, confesso que quando imagino um encontro com alienígenas, ou mesmo IAs com valores muito diferentes dos meus, penso em algo parecido. O que quer que sejamos, estamos todos aqui, na mesma realidade, jogados neste mundo que não criamos, mas que modificamos. Para mim, parece suficiente, por si só, para pelo menos uma semente de simpatia.

Mas será suficiente para se criar um “vínculo”? Se somos todos filhos do universo, isso nos torna “parentes”? Pode ser que eu diga alô ao alienígena (como em “A Chegada”), ou às IAs que virão, com base nessa crença. Mas será que eles me darão alô de volta?

Herzog acha que os ursos, pelo menos, não dão alô de volta:

“E o que me assombra é que em todos os rostos de todos os ursos que Treadwell filmou, não percebi nenhum vínculo, nenhuma compreensão, nenhuma piedade. Vejo apenas a esmagadora indiferença da natureza. Para mim, não existe um mundo secreto dos ursos, e esse olhar vazio fala apenas de um interesse meio entediado pela comida.”

O Homem Urso (2005)

Quando vi o filme pela primeira vez, esse trecho do Herzog ficou comigo. Não é apenas que o urso comeu Treadwell e sua namorada. O urso está entediado com eles. Ou melhor, menos do que entediado. O urso, na visão de Herzog, parece um morto-vivo. As células vivem. Mas os olhos estão mortos. Não há nada ali, apenas… “a esmagadora indiferença da natureza”. Os olhos da natureza, ao que parece, também estão mortos. A natureza é uma sociopata. E estes são os olhos para os quais Treadwell estava olhando. O que ele achou que estava olhando de volta? Será que havia alguma coisa olhando de volta?

Me recordo de uma moça que conheci, que me contou sobre um rapaz ao qual estava apaixonada. Disse que o amava. O rapaz, por sua vez, não a amava e ela demorou um pouco para perceber a situação. Os sentimentos dela eram tão fortes que transbordaram e pintaram o rosto dele com as mesmas cores que sentia no seu coração. Me disse que no começo foi difícil acreditar que ela poderia estar sentindo tanto, e ele tão pouco; que o que parecia tão mútuo fosse, na verdade, tão unilateral.

Herzog parece querer atingir algo mais do que a reciprocidade equivocada. Ele quer atingir o romantismo de Treadwell sobre a própria natureza – a visão da Natureza-como-Boa, da Natureza-em-Harmonia. Herzog se detém, por exemplo, na imagem do braço decepado de um filhote de urso, tirada da filmagem de Treadwell, explicando que “ursos machos às vezes matam filhotes para impedir a lactação das fêmeas, a fim de prepará-las novamente para a fornicação”.

A certa altura das filmagens, Treadwell encontra uma raposa morta, coberta de moscas, e fica chateado. Mas Herzog não está surpreso. Ele narra: “Acredito que o denominador comum do universo não é a harmonia, mas o caos, a hostilidade e o assassinato”.

Sobre ser literalmente comido

Por que “O Homem Urso” é importante para o risco de IA? Bem, para começar, existe a coisa de “ser literalmente comido”. E mais, ser comido pelo “Outro”. Ponto anotado. Mas, especificamente, estou interessado na forma como Treadwell tentava (embora de forma desajeitada) abordar este “Outro” com o tipo de cuidado, reverência e abertura que citei alguns parágrafos acima. Ele estava procurando por “companheiros” e acredito que com razão. Na verdade, ursos são criaturas semelhantes, mesmo que não deem alô de volta. Também são fortes candidatos a “seres sencientes”. 

Assim como ursos e alienígenas não são humanos fantasiados, o mesmo ocorre com as IAs. Embora, no caso delas, as treinamos para que façam exatamente isso, vistam fantasias humanas. São criadas para se parecerem com humanos – e como parte do treinamento, podem ser incentivadas a fingir serem mais humanas (e sencientes) do que realmente são. Mais “conectadas” conosco e nossas vontades.

Há um filme, Ex Machina, que vou ter que estragar bastante para quem não assistiu. Peço desculpas por isso. Nele, uma IA em um corpo de robô feminino faz um humano se apaixonar por ela e depois o deixa morrer, preso e gritando atrás de um vidro grosso. Uma das melhores cenas, na minha opinião, é que, uma vez feito isso, ela nem olha para trás.

Dito isto, apoiar-se na visão de Herzog sobre os ursos faz com que a situação de “ser comido por IAs” pareça demasiadamente simples. Herzog não chega a dizer “ursos não são sencientes”. Mas ele os mostra, pelo menos, com um vazio interior. Como uma máquina. Olhos mortos. E muitas vezes, a comunidade de risco de IA faz o mesmo, ao falar de clips de papel (procurem sobre a teoria da IA otimizadora de clip de papel no Google).

Parte disso é uma tentativa de evitar pensarmos naquela estranha mistura de senciência e agentes autônomos que podem matar (exatamente como nós, humanos). A IA otimizadora de clip de papel não é apresentada como uma pessoa, mas como uma máquina voraz e vazia. Somos encorajados, sutilmente, a pensar que podemos ser mortos por uma fábrica.

Talvez sejamos, talvez não. O ponto é que o ato de “matar” não resolve a questão. Humanos que são assassinos, por exemplo, têm alma. Soldados inimigos têm medos, rostos, esposas e mães ansiosas da mesma forma que os soldados que lutam pelo nosso lado. O que não quer dizer que devemos abolir prisões ou lutar contra nazistas com a não-violência.

É fato que muitas vezes somos encorajados a deixar de lado a simpatia no contexto de conflito, como nos mostra o filme (também recomendo) “Nada de Novo no Front”. Recomendo mais ainda o livro em que o filme é baseado. No capítulo 9, onde é descrita a cena da morte do oficial francês Gérard Duval, Paul, o protagonista, diz em dado momento: “Por que eles nunca nos disseram que vocês são pobres diabos como nós? . . Como você pode ser meu inimigo?” [5].  

Às vezes precisamos aprender a arte da empatia. É uma dialética antiga. Duro e suave, fechado e aberto, inimigo e amigo, falcão e pombo (na teoria dos jogos, especificamente no jogo Hawk-Dove, os falcões são agressivos, optando pelo conflito para atingir seus objetivos, enquanto os pombos são mais pacíficos, evitando o confronto).

Senciência à parte, IAs não serão ursos de olhar vazio. Conscientes ou não, assassinas ou não, algumas IAs (se vivermos tempo suficiente para testemunhar) serão fascinantes, engraçadas, vivas, graciosas – pelo menos, quando necessário.

O documentário “O Homem Urso” repreende Treadwell por esquecer que ursos são animais selvagens. IAs também poderão ser selvagens em certo sentido, mas será um tipo de “selvageria” compatível com a capacidade de etiqueta requintada e modos perfeitos à mesa aos quais estamos acostumados em nós mesmos. Se quiserem, IAs serão legais, sofisticadas ou mesmo intimidadoras. Falarão em vozes humanas sutis e expressivas e possivelmente conhecerão você melhor do que você mesmo – pelo menos melhor do que qualquer guru, amigo ou terapeuta. Estaremos diante delas nus, sem máscaras, com nossos desejos mais profundos, nossas falhas mais mesquinhas e nossos valores mais verdadeiros (já o estamos, hoje, para ferramentas de busca). 

Herzog pode não ter encontrado nos ursos nenhum vínculo, compreensão ou misericórdia. Mas as IAs, pelo menos, compreenderão. Na verdade, para quase qualquer capacidade cognitiva humana, a expectativa é que as AGIs a terão de sobra. E se o nosso respeito for direcionado por meio de sinais de poder (de maneira consciente ou não), saiba que poder é a especialidade delas (esse é o conceito por trás de treinamentos que usam recompensas e punições).

Digo tudo isso em parte porque quero que estejamos preparados para o quão confuso e complicado o conceito do Outro artificial (ou a alteridade da IA) está prestes a se tornar. Relacionar-se bem com a alteridade do polvo ou com a alteridade do urso já é bastante difícil. Mas mesmo para quem pensa que sabe o que é um polvo e um urso – ou para aqueles que olham com pena ou desprezo para Treadwell e Lemoine, por pintarem rostos românticos no que é, tão obviamente, “apenas” – chegará um momento em que até estes ficarão confusos. IAs não são planilhas, nem ursos, nem humanos, IAs são alguma outra coisa. 

P.S: Há outra conexão entre risco de IA e “O Homem Urso”, tem a ver com a “esmagadora indiferença da Natureza”. Mas isso já é assunto para o próximo texto.

Referências

[1] Hegel, G.W.F. “Phenomenology of Spirit”. Oxford: Oxford University Press, 1977.

[2] Sartre, Jean-Paul. “Being and Nothingness: An Essay on Phenomenological Ontology”. New York: Washington Square Press, 1992.

[3] Levinas, Emmanuel. “Totality and Infinity: An Essay on Exteriority”. Pittsburgh: Duquesne University Press, 1969.

[4]Levinas, Emmanuel. “Otherwise than Being, or Beyond Essence”. Pittsburgh: Duquesne University Press, 1998.

[5] Remarque, Erich Maria. “All Quiet on the Western Front”. New York: Random House, 1987.