Convicções da área permitem justificar concentração econômica em níveis inimagináveis

Se você acha que a disputa ideológica atual é exagerada, prepare-se. No campo da inteligência artificial há várias ideologias em conflito. Elas ajudam a explicar a demissão e o retorno de Sam Altman à Open AI, empresa criadora do ChatGPT. São ideologias tecnocêntricas com consequências para todos nós.

O nome do seu aglomerado é: Tescreal (pronuncia-se tésque-real). O acrônimo refere-se a: transumanismo, extropianismo, singularitarianismo, cosmismo, racionalismo, efetivo altruísmo e longo prazismo. O termo foi criado por Émile Torres e Timnit Gebru, esta última, cientista especializada em ética para inteligência artificial que trabalhou para o Google mas foi demitida.

Você pode dizer: nunca ouvi falar de nada disso. No entanto, essas ideologias capturaram um segmento importante da população do planeta: os bilionários. Nesse circuito, têm exercido grande influência, como exemplifica a demissão e a recontratação de Sam Altman.

Vale falar rapidamente de cada uma. O transumanismo quer redesenhar os humanos usando a tecnologia, criando pessoas superiores (os “pós-humanos”). Isso incluiria inteligência aumentada, controle de emoções e até imortalidade (por meio de digitalização da consciência).

Extropianismo, singularitarianismo e cosmismo têm pontos em comum. O primeiro quer que a tecnologia seja usada para padronizar os valores humanos por meio de uma convergência tecnológica. O segundo quer criar uma forma de inteligência externa que seja muito maior que a nossa (momento conhecido como “singularidade”).

Já o cosmismo prega que “humanos fundam-se com a tecnologia”, levando a mente a habitar mundos virtuais que permitam “realizar as promessas das religiões e outras que nenhuma religião sequer sonhou”.

O racionalismo por sua vez leva a um utilitarismo radical. Quer que a tecnologia suprima as deficiências morais humanas fazendo cálculos absolutos e universais. Ele aceita que alguém seja “torturado por 50 anos para que milhões de pessoas não tenham de lidar com o desconforto de ter um cisco no olho”.

Já o altruísmo efetivo (EA) prega que a melhor forma de alguém fazer o bem é enriquecer sem limites e então usar seu dinheiro para materializar sua ideia de bondade. Um dos seus adeptos mais famosos é Sam Bankman-Fried, condenado a cem anos de prisão por fraude envolvendo criptomoedas.

Por fim o longoprazismo prescreve que a humanidade se multiplique pelos planetas, levando à existência de trilhões de humanos no longo prazo. Para que isso aconteça, é aceitável fazer sacrifícios no presente.

Algumas dessas visões entendem que a inteligência artificial é uma ameaça aos seus objetivos. Outras acham o contrário, que ela é essencial. Elon Musk e Altman, por exemplo, estão em campos opostos nessas visões, apesar de ambos participarem do Tescreal.

Removendo o verniz teórico, essas são ideologias do dinheiro. Permitem justificar concentração econômica em níveis inimagináveis, externalidades negativas ou desigualdades crescentes em nome de miragens como “conquistar as galáxias”.

São também ideologias ocidentais. Respondem ao fato de o Ocidente estar perdendo protagonismo para o Oriente. Seu espalhafato consegue chamar a atenção de volta, sobretudo para os EUA.

Comentei com o filósofo Yuk Hui sobre essas ideologias e ele disse: “Infelizmente, agora vivemos nesse tipo de ficção messiânica. É como a afirmação feita pelo Grande Inquisidor no livro ‘Os Irmãos Karamazov’ de que é satã que nos salvará”.

*

Já era – Ficar impressionado com o GPT 3.5

Já é – Ficar impressionado com o GPT 4 Turbo

Já vem – A chegada do Q-Learning, anunciado como prenúncio de uma inteligência artificial geral