Longe de querer fomentar uma postura ludista, o objetivo deste texto não é criar uma dicotomia infantil entre faça isso ou não faça isso absolutos (ou entre a tecnofilia e tecnofobia), mas, sim, gerar reflexões sobre uma lógica produtivista que transformou o desenvolvimento de ideias em objetivos de volume, não de qualidade.
Com o avanço das IAGens, os grandes modelos de linguagem e seus GPTs têm se mostrado capazes de gerar conteúdo textual de forma cada vez mais estruturada, quer dizer, estabelecendo relações de causa e consequência, movimentos que vão do amplo ao específico, seguindo uma mecanização da linha do pensamento humano.
Tal estruturação também contribui para uma pretensa credibilidade percebida do que é dito. É realmente fácil (ou confortável mentalmente) acreditar no que tais ferramentas dizem, pois o discurso é construído de forma persuasiva e envolvente (apenas para usar alguns termos frequentemente escolhidos pelas LLMs), o que não significa que há veracidade ou correta relação lógica nas referências usadas (alow, alucinações de IA). Costumo brincar que o ChatGPT é “aquela pessoa na empresa que não sabe o que está falando, mas fala com uma autoconfiança que…nossa, só pode saber o que está falando!”, uma versão maquínica de Dunning-Kruger.
Recortando para as ferramentas geradoras de texto e considerando que são modelos de linguagem, posso dizer que, embora ferramentas de detecção de conteúdos criados por IA Generativa ainda não tenham alcançado o mesmo nível de eficiência de quem os gera, modelos treinados baseados em carbono (humano 🙋🏻♂️), que convivem diariamente com a leitura de textos e mais textos, passaram a identificar, quase que naturalmente, conteúdos resultantes de um prompt. Fazendo breve uma longa história, “seu/sua professor/a sabe quando algo foi escrito por IA Generativa” 🙂.
É um sentimento, um feeling (para quem quer anglicizar a sensação) explicável em partes.
De forma clara, nunca se viu tanta adjetivação nos textos descritivos. Um crescimento exponencial de causos “impactantes”, “inovadores” e “cruciais”.
O mesmo pode se dizer de uma estrutura recorrente, que abre com um sumário da explicação (como um lide jornalístico), passando por parágrafos independentes sem conexão transicional de ideias entre eles, fechando com um sumário replicando as ideias do lide; blocos independentes de texto, cujo último parágrafo é exatamente o reforço do primeiro.
A facilidade em se gerar textos (vou diferenciar texto de conteúdo) resultou em uma avalanche de publicações pasteurizadas em blogs e websites corporativos que não exprimem ideias e/ou não concluem, instigam ou inspiram, apenas descrevem (com MUITOS adjetivos) ou replicam apenas descritivamente um conceito.
O impacto desta GPTização também é refletida na produção acadêmica, o que é ainda mais grave, graças a uma visão produtivista (“hay que publicar!”), obscurecendo o real aprofundamento e impulsionamento da ciência.
Um artigo escrito pelo Dr. Kentaro Matsui, do National Center Hospital, em Tokio, identificou considerável crescimento de alguns termos em artigos apresentados na literatura médica, com 117 termos potencialmente influenciados por IA, comparados a frases acadêmicas mais comuns.
Outro estudo, de um extenso grupo de pesquisadores, também notou um aumento exponencial em termos como “intrincado” e “louvável” após o ano de 2023, tendo como base, ironicamente, artigos publicados em congressos sobre inteligência artificial – Monitoring AI-Modified Content at Scale: A case study on the impact of ChatGPT on AI Conference Peer Reviews (em tradução livre, do ChatGPT: Monitoramento de Conteúdo Modificado por IA em Escala: Um Estudo de Caso sobre o Impacto do ChatGPT nas Revisões por Pares em Conferências de IA).
Caso, este, contado por este creator do TikTok, @Steve_boots em vídeo que tomei a liberdade de legendar (e replicar o jogo de palavras na argumentação deste texto).
Os paradoxos da tecnologia
Em 1998, David Mick and Susan Fournier apresentaram o que chamaram de paradoxos da tecnologia, contradições inerentes da interação das pessoas com tecnologias, como, por exemplo, o fato de a tecnologia poder dar aos usuários mais controle sobre suas vidas enquanto também pode trazer o caos quando há falha ou quando se torna complexa demais.
Vale citar também o paradoxo entre Cumprimento vs. Criação de Necessidades. Enquanto uma tecnologia pode satisfazer necessidades existentes, também cria novas necessidades e dependências. Neste caso, como se tornou mais fácil produzir textos, mais textos precisam ser produzidos; e passamos a tratá-los sob a perspectiva industrial e fordista. Se antigamente você poderia escolher qualquer cor de carro, desde que fosse preto, hoje, tem que conviver com textos “impactantes”, “inovadores” e “cruciais”.
Para quem ficou curioso/a, esta é a lista completa de seus paradoxos:
A terceirização do pensar
Outro paradoxo de Mick e Fournier que gostaria de destacar, diz respeito à liberdade vs. enclausuramento, ou, o fato de uma tecnologia oferecer liberdade de comunicação e acesso à informação, mas que pode levar ao enclausuramento devido à dependência ou vigilância.
Para quem tem interesse sobre aspectos da vigilância e, em particular, como isto impacta as relações de poder entre empresas e sociedade, deixo como dica o livro A Era do Capitalismo de Vigilância, de Shoshana Zuboff.
Na dependência, contudo, voltarmos à pressão produtivista (quantidade vs. qualidade) e a como grande parte do conteúdo literário, tanto técnico quanto lúdico, perdeu sua vitalidade, aquilo que o tornava vivo, a humanidade vinda da intencionalidade emocional na escolha de palavras e construção de ideias.
Indo no cerne desta discussão, trago o aspecto dos textos sem alma e seu consequente impacto na perda da utilidade, unicidade e, por que não dizer, prazer da leitura e do aprendizado – válido comentar que alma, aqui, não é um aceno ao metafísico, mas uma representação simbólica daquilo que nos torna únicos.
Escrever é uma arte, e também uma técnica e uma habilidade. Como a música, pode-se aprender as técnicas necessárias para uma composição musical que atendam aos padrões e expectativas culturais da época, tornando-se tão mais palatável, aceitável, e, porque não dizer, consumível para seus públicos.
Sua vertente arte, contudo, se veria refletida na maneira como o/a musicista faz sentir a partir de sua performance. Ou, voltando aos textos, como um/a escritor/a imprime sua personalidade na escolha das palavras e conexões de ideias, tanto em textos funcionais – com objetivos utilitários, como ensinar tecnicidades – como em obras literárias de ficção – cujo objetivo é atingir altos níveis de transporte narrativo, fenômeno psicológico cunhado pelo professor de Ciências Cognitivas da Stony Bruck University, Richard Gerrig, que descreve aquele estado mental quando estamos absortos em uma narrativa.
Esta divisão entre utilitário e literário, aliás, é, por si só, ficcional. Mesmo os textos mais técnicos constrói percepções a partir das mesmas escolhas de palavras e construções de ideias.
Esta introdução ao livro “States of Matter”, do físico David Goldstein, é um lúdico exemplo do sentimento por trás de uma (pretensa) lógica nos estudos da termodinâmica e mecânica estatística.
O impacto da pasteurização dos textos, resultantes de IAs generativas, funcionaliza ao extremo os textos ao ater-se aos aspectos ortogramaticais do conteúdo – para o desenvolvimento de peças criativas, ainda pior!
Ainda que se tente imprimir aspectos humanos em um prompt – “no papel de um escritor épico” ou “assumindo que você é um doutor ou uma doutora em alguma coisa” -, a ferramenta irá fazer um pout-pourri de personalidades e estilos, por vezes conflitantes, das incontáveis referências dos modelos de aprendizagem, ou reduzindo a um traço mínimo os elementos que se convergem dentro de uma gama de humanos com aquela característica.
Ao transformar todos os textos em funcionais, quer dizer, ao utilizar padrões de escrita nivelados pelas similaridades dos modelos de aprendizagem, as características únicas do autor ou autora desaparecem da comunicação.
O que nos torna humanos não são nossas similaridades, senão as trilhões de conexões possíveis nos neurônios que compõem quem somos. As cosmovisões únicas permitindo estabelecer correlações e projeções imaginárias que, potencialmente, nenhum dos outros ~8 bilhões de indivíduos da espécie poderia fazê-lo, ainda mais considerando que essas conexões e cosmovisões são frutos da experiência empírica de cada um, que, como é fácil deduzir, é um atributo altamente individual e subjetivo.
Novamente, não espero, conclamo ou sugiro que queimem deixem de lado as IAs generativas, mas que a relação hierárquica entre ser humano e máquina, neste caso, seja estabelecida.
Se a palavra final (figurativa e literalmente) vem de um ser sem alma, os textos que lemos, para aprender ou imergir em mundos fantásticos, seguirão sendo cada vez menos “impactantes”, “inovadores” e “cruciais”.
