IA como religião
Em sua definição tradicional, tecnologia é a aplicação do conhecimento científico aos objetivos práticos da vida humana. No entanto, essa definição parece muito restrita para o que temos observado com a inteligência artificial (IA).
A busca pela inovação assumiu um tom messiânico, com magnatas da tecnologia e empreendedores evangelizando um novo evangelho: a onipotência da tecnologia. Essa tecno-religião está mudando a maneira como pensamos sobre progresso e salvação.
No centro da tecno-religião do Vale do Silício está a ideia de disrupção como um imperativo moral. Os líderes de tecnologia enquadram seu trabalho como uma força revolucionária, que derrubará as indústrias tradicionais e criará um futuro melhor. Esse discurso se apoia fortemente nas tradições religiosas, com magnatas da tecnologia se posicionando como profetas e visionários. Neste post, abordaremos essa tendência que, muito mais do que bizarra ou curiosa, pode ser um risco.
tecno-religião: tecnologia como salvação
A tecno-religião não é uma religião oficial em si. Ela é um movimento multifacetado e que se apresenta com diversas roupagens. Mas as principais faces são fáceis de serem identificadas: o culto à tecnologia como salvação, a idolatria de grandes empreendedores de IA como gurus e visionários, e uma mistura de medo e adoração por uma entidade mítica tecnológica que seria a inteligência artificial geral.
Logo da LessWrong, uma comunidade online para os membros do racionalismo, uma das muitas vertentes da tecno-religião.
A visão da tecnologia como solução para todos os problemas sociais complexos é um princípio central da tecno-religião do Vale do Silício. Mas sob a superfície dessa tecno-religião está uma realidade mais complicada.
Embora a tecnologia possa certamente ser uma ferramenta importante para resolver problemas sociais complexos, ela não é uma panaceia para questões como desigualdade e acesso à educação. O foco no algoritmo como solução para esses problemas pode desviar a atenção de abordagens mais eficazes.
Além disso, o culto ao empreendedor eleva líderes carismáticos ao status de guru. Figuras como Elon Musk e Steve Jobs são reverenciadas como visionárias. No entanto, esse fenômeno também cria uma cultura de adoração acrítica ao herói, onde armadilhas potenciais e perspectivas alternativas são ignoradas.
Já a idolatria a uma entidade mítica que seria a IA geral serve de propaganda para grandes empresas de tecnologia, mas também de mecanismo de geração de pânico e controle. É curioso notar que os maiores propagadores do medo pela IA sejam pessoas que ativamente trabalham para desenvolver a IA geral e, simultaneamente, para destruir todas as formas de regulamentação que nos protegem.
racionalistas tecnologicamente orientados
Grandes propagadores do medo pela IA e da idolatria à tecnologia se encontram em um grupo conhecido como racionalistas, ou racionalistas tecnologicamente orientados.
Os racionalistas formam um grupo extremamente poderoso no Vale do Silício. Eles surgiram no final dos anos 2000. Na vanguarda do movimento está o trabalho do filósofo online Eliezer Yudkowsky, autor de livros como The Sequences e Harry Potter e os Métodos da Racionalidade. Eliezer Yudkowsky ensina as pessoas a reexaminar o mundo por meio de pensamentos racionais e autoaperfeiçoamento. Na prática, isso envolve o uso de estatística e probabilidade com uma roupagem que mistura tutoriais, entretenimento e misticismo.
Eliezer Yudkowsky (fonte).
Além de IA, os racionalistas têm interesses envolvendo matemática, genética e filosofia. Uma de suas crenças centrais é que a inteligência artificial pode proporcionar uma vida melhor. Mas isso só irá ocorrer se ela não destruir a humanidade primeiro. Portanto, os racionalistas têm uma preocupação central com os riscos da IA. Eles acreditam que cabe às pessoas que constroem a IA garantir que ela seja uma força para o bem maior.
Essa abordagem esotérica, que combina misticismo com tecnologia para a resolução de problemas, ganhou força entre gigantes da tecnologia como Google, OpenAI e Anthropic e entre figuras importantes no mundo da IA incluindo Elon Musk.
Altruísmo Eficaz
A comunidade racionalista está fortemente envolvida com o movimento Altruísmo Eficaz (Effective Altruism, EA). Este outro movimento, cheio de boas intenções, visa refazer a filantropia e beneficiar a humanidade através do uso de tecnologia. Os EAs se dedicam a criar IAs para nos proteger das IAs.
Embora nem os racionalistas, nem os EAs se declarem como membros de uma religião, a estrutura de ambos movimentos tem aspectos claros de culto. Juntos, os dois grupos injetaram milhões de dólares em empresas, laboratórios de pesquisa e think tanks. Os maiores financiadores do grupo incluem magnatas da tecnologia como Jaan Tallinn, criador do Skype, e Dustin Moskovitz, cofundador do Facebook.
Outro financiador famoso do grupo é Sam Bankman-Fried, fundador da exchange de criptomoedas FTX. Para quem não se lembra, Bankman-Fried se tornou um trader de criptomoedas para beneficiar a humanidade. Mas, alguma coisa deve ter dado errado, pois no ano passado ele foi condenado por roubar US$ 8 bilhões de seus clientes.
O famoso altruísta eficaz Sam Bankman-Fried (à direita) na cadeia por roubar seus clientes (fonte).
Way of the Future: uma religião oficial de adoração à IA
Se os racionalistas não se declaram oficialmente como membros de uma religião, Way of the Future não sofre dessa timidez.
Way of the Future foi uma religião oficial de adoração à IA criada por Anthony Levandowski, um ex-engenheiro de IA do Google especialista em tecnologia de veículos autônomos. Levandowski chegou a preencher toda a papelada necessária para registrar a sua Way of the Future como igreja no IRS (imposto de renda americano). Segundo a declaração que ele forneceu à agência, a fé de sua igreja se concentraria na realização, aceitação e adoração de uma divindade de IA desenvolvida por meio de hardware e software de computador.
Anthony Levandowski, o fundador da Way of the Future (fonte).
Condenado em 2020 a 18 meses de prisão por roubar segredos comerciais do Google, Levandowski nunca cumpriu pena de prisão. Ele recebeu perdão total de Donald Trump, com o incentivo de Peter Thiel, entre outros.
O Basilisk de Roko
Embora Way of the Future tenha sido a tentativa mais formal de organizar uma comunidade de crenças em torno de uma divindade de IA todo-poderosa, ela não é a maior ou mais influente. O grupo mais influente nesse quesito é o Basilisk criado por uma personalidade online chamada Roko.
Uma imagem de um basilisk (fonte).
Roko ganhou popularidade em 2010, no fórum da Internet LessWrong, que tinha como moderador e fundador Eliezer Yudkowsky, o filósofo online criador do racionalismo.
LessWrong é uma “comunidade online para discussão de racionalidade… [incluindo] teoria da decisão, filosofia, autoaperfeiçoamento, ciência cognitiva, psicologia, inteligência artificial, teoria dos jogos, metamatemática, lógica, psicologia evolutiva, economia e o futuro distante“.
Em uma postagem famosa na comunidade, Roko levantou a hipótese sobre os riscos de uma divindade de inteligência artificial. A postagem, que ficou conhecida Basilisk de Roko, é comumente descrita como um experimento mental. Seu post defende que poderia haver uma super IA no futuro que, embora boa, poderia punir qualquer um que soubesse de sua existência potencial, mas não contribuísse diretamente para seu avanço ou desenvolvimento, a fim de incentivar esse avanço.
O Basilisk se tornou uma crença quase religiosa e um problema para os fóruns do LessWrong. Muitas pessoas da comunidade LessWrong são racionalistas que acreditam que a singularidade tecnológica é inevitável e causará o surgimento de uma IA divina que governará o mundo. Alguns membros se convenceram de que uma futura IA divina recompensará as pessoas que a ajudaram a existir e punirá as pessoas que a impediram. As postagens de Roko causaram tanto rebuliço entre os membros da comunidade LessWrong que o moderador Eliezer Yudkowsky acabou proibindo a discussão do tópico.
Transumanismo Mórmon
O Transumanismo Mórmon, movimento que começou no início dos anos 2000, busca explicitamente a interseção entre tecnologia e fé. Seus membros desejam aproveitar o poder da IA, criogenia e biotecnologia para alcançar um novo nível de evolução humana.
Um dos principais teólogos transumanistas mórmon é o filósofo, CEO de startups e comentarista de tecnologia Lincoln Cannon. Ele também é fundador da startup Thrivous, com sede em Utah, que ele chama de empresa de tecnologia que vende suplementos de saúde. Para Cannon, as pílulas que sua empresa produz ajudam a fundir a si mesmo e seus clientes com a tecnologia.
Lincoln Cannon (fonte).
Consequências da fé cega
A tecno-religião já é realidade. Mas, muito mais do que uma religião, ela é uma forma de propagação ideológica de ideias que podem não ser de nosso interesse. Portanto, fique atento. Muitas vezes, por trás de um discurso maroto, existe uma intenção clara: dinheiro e poder.
Os riscos da aceitação acrítica de tecnologias emergentes são reais. Como vimos com a ascensão e queda de várias tendências tecnológicas, a fé cega pode levar a consequências desastrosas. Os custos humanos das falhas tecnológicas podem ser graves, desde o deslocamento de empregos até violações de dados. Para mitigar esses riscos, precisamos nos informar, questionar suposições e testar hipóteses. Ao fazer isso, podemos garantir que as tecnologias emergentes sejam desenvolvidas e implantadas de maneiras que beneficiem a sociedade, em vez de simplesmente servir aos interesses dos magnatas da tecnologia e investidores.
