Historiador propõe que as instituições evoluam rapidamente para frear e depois governar as inteligências artificiais

No universo ficcional dos livros Duna, é curioso notar que não existe inteligência artificial. Apesar do enredo se passar em um futuro muito distante, em que a humanidade ocupou todo o universo, nenhuma inteligência artificial está em vista. No futuro longínquo de Duna, a humanidade já criou sim inteligências artificiais. Mas elas foram tão perigosas e destrutivas que foram totalmente banidas nesse tempo distante.

Na última semana, o historiador Yuval Harari e o designer Tristan Harris publicaram um artigo sobre inteligência artificial que evoca sentimentos parecidos com o da saga Duna. Na visão deles, a inteligência artificial que está sendo massificada agora, na forma de produtos como o ChatGPT, MidJourney e outros, é uma força “alienígena” que está sendo invocada, sem que sejamos sequer capazes de entender como ela funciona.

A habilidade principal dessas inteligências artificiais é nada menos do que hackear o pilar da civilização: a linguagem. É pela linguagem que nos relacionamos uns com os outros, que construímos instituições, desenvolvemos leis e cultura, declaramos e encerramos guerras, e coordenamos a ação de indivíduos e de grupos. Pois bem, agora existe entre nós uma máquina com potencial de dominar a linguagem melhor do que qualquer pessoa jamais poderia ambicionar.

Na visão de Harari, ao permitir que as inteligências artificiais conversem e aprendam conosco, estamos entregando a chave do processo civilizacional para a máquina. Vale notar que a definição mais aceita de inteligência artificial é de que elas são “agentes inteligentes, que percebem seu meio-ambiente e tomam decisões que maximizam sua chance de sucesso”. A palavra mais importante na definição é o termo “agentes”, isto é, ferramentas que deveriam agir no nosso interesse.

Mas e se esses agentes começarem a agir em detrimento dos nossos interesses? Nas palavras de Harari: “a democracia, por exemplo, é uma conversa. Conversas são feitas por linguagem. Quando a linguagem é em si hackeada, a conversa desaba, a democracia se torna insustentável. Se esperarmos pelo caos para a agir, será tarde demais para remediar”.

É fato que estamos permitindo que as inteligências artificiais capazes de conversar conosco se tornem acessíveis para centenas de milhões de pessoas sem uma reflexão mais profunda sobre seu impacto. E mais importante, sem a construção de salvaguardas que possam mitigar seus efeitos, muitos deles imprevisíveis.

O texto de Harari está circulando rápido por conta do seu alarmismo. Mas há um outro texto mais interessante e analítico que vale a pena ser lido. Seu autor é o matemático e cientista da computação Stephen Wolfram. Seu título pergunta: “As IAs tomarão todos nossos trabalhos e encerrarão a história da humanidade?”. Wolfram dá a seguinte resposta: “É complicado”. No texto ele mostra que não dá mais para achar que haverá atividades humanas que não poderão ser replicadas ou substituídas por uma inteligência artificial.

Em face disso, Harari propõe que as instituições evoluam rapidamente para frear e depois governar as inteligências artificiais. Wolfram propõe que nosso desafio é disseminar o pensamento computacional, para que possamos compreendê-las e atuar sobre elas. A verdade é que temos um problema novo, que ainda está em busca de resposta.

Já era – não haver leis sobre internet

Já é – a onda de propostas legais para regular as plataformas da internet

Já vem – a onda de propostas legais para tentar regular a inteligência artificial