A IA e a Era dos Novos Iluminados — Parte II
Parte II da série para desmistificar a Inteligência Artificial: dos autômatos de Jaquet-Droz aos modelos de linguagem, por que uma LLM não compreende as palavras como um ser humano, e o risco de substituir o pensamento pela velocidade de execução.
Desmistificando a Inteligência Artificial — Parte II
Eu tinha muita vontade de escrever esta segunda parte.
Na verdade, vinha preparando-a havia semanas. Tinha lido sobre os autômatos do século XVIII, procurado livros, assistido a documentários e reunido anotações. Minha intenção era falar daquelas extraordinárias máquinas que maravilharam a Europa a ponto de fazer muitos acreditarem que a humanidade havia alcançado uma nova forma de inteligência. Queria contar como um conjunto de engrenagens, cames e molas foi capaz de convencer uma sociedade de que uma máquina podia pensar.
Se nunca viram o Escritor de Jaquet-Droz ou o Desenhista, recomendo dedicar-lhes alguns minutos. Não é tempo perdido. São peças fascinantes de engenharia e, ao mesmo tempo, um lembrete de que os seres humanos costumamos superinterpretar aquilo que ainda não compreendemos.
Essa era a ideia original deste ensaio. Queria utilizá-los como analogia para explicar por que um modelo de linguagem não entende as palavras da mesma forma que nós. No entanto, enquanto preparava o texto, aconteceu algo que acabou mudando por completo o tema sobre o qual eu realmente precisava escrever.
Chegou uma nova normalidade.
Não só no meu trabalho, mas em praticamente toda a indústria tecnológica. E suspeito que não tardará a se estender ao restante das profissões.
De repente começou a se assumir que, porque agora existe a Inteligência Artificial, tudo deveria ser feito mais rápido. Cinco vezes mais rápido. Dez vezes mais rápido. Até vinte vezes mais rápido. O curioso é que ninguém parece capaz de explicar o que esse número realmente significa. Quando um automóvel viaja a cem quilômetros por hora, existe uma unidade que permite medi-lo. Quando uma fábrica duplica sua produção, existem indicadores objetivos para demonstrá-lo. Mas quando alguém afirma que uma equipe desenvolve software dez vezes mais rápido graças à IA, quase nunca existe um parâmetro equivalente. É uma sensação convertida em estratégia empresarial.
Não culpo a Inteligência Artificial.
Seria injusto fazê-lo.
A IA cumpre exatamente a função para a qual foi projetada. Com um bom planejamento, pode converter-se em uma executora extraordinária. Resume documentos, gera código repetitivo, organiza informação, redige rascunhos e acelera inumeráveis tarefas. Seria absurdo negar sua utilidade.
O problema aparece quando deixamos de vê-la como uma ferramenta de execução e começamos a utilizá-la como substituta do pensamento.
Durante séculos, as ferramentas ampliaram nossas capacidades físicas. A roda nos permitiu transportar mais peso do que nossos braços podiam suportar. O motor percorreu distâncias impossíveis para nossas pernas. A escavadeira moveu montanhas que jamais teríamos conseguido deslocar com nossas mãos.
A Inteligência Artificial representa algo distinto.
É talvez a primeira ferramenta de uso massivo que tenta substituir uma parte do nosso trabalho intelectual. Não porque pense por nós, mas porque cada vez dedicamos menos tempo a fazê-lo nós mesmos.
E pensar raramente foi a parte mais rápida do trabalho.
Planejar é lento.
Entender um problema é lento.
Questionar uma decisão é lento.
Descobrir as implicações de uma arquitetura, de uma lei, de um design ou de uma estratégia exige deter-se. Exige conviver com a incerteza antes de escrever a primeira linha de código, antes de redigir o primeiro documento ou antes de tomar a primeira decisão.
A IA pode executar com enorme velocidade.
Mas nunca deveria decidir qual é o problema correto.
Porque aí aparece uma diferença que costuma se perder em meio a tanto fascínio tecnológico.
Uma IA não compreende a linguagem.
Compreender a linguagem não consiste em encadear corretamente umas palavras atrás de outras. Compreender implica relacioná-las com o mundo.
Quando uma pessoa escuta a palavra mar, não ativa apenas outras palavras relacionadas. Surgem lembranças, cheiros, sons, experiências, emoções e até silêncios. A palavra deixa de ser um conjunto de letras e se converte em uma experiência vivida.
Um modelo de linguagem não faz isso.
Para uma LLM, uma palavra não é uma experiência. É uma relação matemática com milhões de outras palavras. Não conhece o significado do mar porque nunca sentiu a água, nem compreende o medo porque nunca temeu perder algo. Não sabe o que significa uma promessa, uma despedida ou um luto. O que possui é uma representação estatística extraordinariamente sofisticada de como nós, seres humanos, utilizamos essas palavras.
Isso não a torna menos impressionante.
Torna-a diferente.
No ensaio anterior falávamos de sistemas probabilísticos. Dizíamos que um modelo de linguagem não produz respostas porque as conheça de antemão, mas porque estima qual sequência resulta mais provável a partir de padrões aprendidos durante seu treinamento. Hoje podemos acrescentar uma segunda ideia: tampouco compreende aquilo que escreve. Relaciona-o estatisticamente.
E, no entanto, produz textos capazes de nos emocionar.
É aí que voltam os autômatos.
Quando o Escritor de Jaquet-Droz molhava a pena na tinta e traçava cuidadosamente uma frase, muitos espectadores acreditavam estar observando uma mente presa dentro de uma máquina. Na realidade, contemplavam uma obra-prima da engenharia mecânica. O erro nunca esteve no autômato. O erro consistia em projetar sobre ele capacidades que jamais possuíra.
Três séculos depois, continuamos fazendo exatamente o mesmo.
Só trocamos as engrenagens por redes neurais.
Confundimos a capacidade de produzir linguagem com a capacidade de compreendê-la.
E essa confusão tem consequências muito mais profundas que uma simples discussão técnica.
Quando uma organização assume que a IA já pensa por nós, começa a valorizar menos o tempo que dedicamos a pensar. Espera-se que documentemos mais, que escrevamos mais, que produzamos mais páginas, mais apresentações, mais linhas de código, como se a quantidade fosse uma medida de inteligência. Pouco a pouco deixamos de nos perguntar se todo esse conteúdo traz clareza ou simplesmente aumenta o ruído.
Paradoxalmente, quanto mais fácil se torna gerar informação, mais valiosa se torna a capacidade de deter-se a pensar antes de produzi-la.
Talvez esse seja o verdadeiro risco da nossa época.
Não que as máquinas aprendam a escrever como nós.
Mas que nós esqueçamos por que escrevíamos.
Porque escrever nunca foi unicamente uma forma de produzir texto. Era uma forma de ordenar as ideias, de descobrir contradições, de enfrentar nossos próprios argumentos e, muitas vezes, de compreender algo que ainda não entendíamos quando começávamos a primeira frase.
Se delegarmos esse processo por completo, não estaremos ganhando tempo.
Estaremos renunciando ao lugar onde ocorre o pensamento.
E então a pergunta deixará de ser se a Inteligência Artificial compreende a linguagem.
A verdadeira pergunta será se nós continuamos a utilizá-la para compreender o mundo ou unicamente para pedir a uma máquina que o faça por nós.