E se a sintática for boa a ponto de desistirmos de qualquer pretensão semântica?

Um dos argumentos mais poderosos contra a possibilidade de surgimento de uma inteligência artificial “geral” (que emularia o cérebro humano) foi formulado pelo filósofo e linguista John Searle em 1980.

O experimento mental ganhou o nome de “O Quarto Chinês”. Imagine uma pessoa que fala somente português trancada dentro de um quarto. Nesse quarto, há um computador capaz de interpretar e responder em chinês. Uma pessoa que domina o idioma oriental está do lado de fora da sala. Por debaixo da porta ela passa caracteres chineses. A pessoa dentro da sala mostra os caracteres para o computador que, então, retorna com respostas a eles, devolvidas também por debaixo da porta.

A pessoa que está do lado de fora conclui então —erroneamente— que há uma pessoa que fala chinês dentro da sala.

O argumento de Searle é importante para os dias atuais. Já escrevi aqui na coluna sobre o surgimento do GPT-3, uma ferramenta de inteligência artificial que é capaz de escrever artigos e livros inteiros, compor músicas, completar formas geométricas e outras façanhas, bastando para isso que seu usuário insira alguns poucos parâmetros. Em outras palavras, funciona como o mais poderoso “autocompletar” já criado. Alcançou esses status por ser uma inteligência artificial treinada com volumes impressionantes de dados.

É como se tivesse lido todos os livros do mundo (e músicas, filmes, imagens etc.). Com base neles, essa IA consegue “adivinhar” o que vem depois. Se você colocar palavras como “Harry Potter” e “Brasil”, provavelmente vai gerar uma aventura nova do bruxo visitando terras brasileiras.

Tanto é que acaba de ser publicado o primeiro livro que foi escrito em co-autoria com o GPT-3, chamado “Pharmako-AI”. A autora K Allado-Macdowell descreve o processo de escrita como parecido com a jardinagem: você insere alguns conceitos e ideias, a inteligência artificial desenvolve aqueles conceitos. E então a autora volta polindo, revisando, podando a criação feita pela IA. E nessa simbiose do humano com a máquina que leu todo o conhecimento humano o livro vai sendo escrito.

O título não é por acaso. A palavra phármakon em grego significa ao mesmo tempo remédio e veneno. Termo que se aplica bem às aplicações de AI.

É aqui que o argumento de Searle se materializa. A GPT-3 é excelente em sintática (a relação das palavras entre si). Mas não sabe nada de semântica (o significado que as palavras têm para cada um de nós). A inteligência artificial tornou-se ótima em concatenar e organizar as palavras, mas não tem nenhuma ideia sobre seu significado, individualmente ou coletivamente.

É como a pessoa trancada no quarto chinês. Não tem a menor ideia do que está sendo dito, mas consegue retornar os inputs nessa língua de forma coerente.

A pergunta que temos de fazer é: e se a sintática ficar tão boa que simplesmente desistiremos de qualquer pretensão semântica? E se começarmos a ser governados por algoritmos que não têm a menor ideia do que estão falando? O que perdemos se houver uma vitória definitiva da sintática sobre a semântica?

Essas perguntas podem parecer esotéricas, mas devem ser feitas com urgência neste momento em que as inteligências artificiais estão se convertendo em novos oráculos.

Reader

Já era Coreografia só nos palcos

Já é A moda das coreografias de dança na internet

Já vem A moda das coreografias de expressões faciais no TikTok