As promessas distópicas da IA
Conforme as promessas sobre a Inteligência Geral Artificial (AGI) se expandem, as preocupações com um futuro distópico no qual a IA assumirá o papel de nosso senhor também aumentam. Na semana passada, o tema atingiu níveis inimagináveis após uma declaração de dois pesquisadores de IA da Anthropic. Durante um podcast (veja abaixo), os dois causaram reboliços ao sugerirem que, com o avanço da IA e, especialmente, da AGI, os humanos podem ser reduzidos ao papel de meros robôs de carne.
Seres Humanos como robôs de carne
Para quem não está familiarizado com o conceito bizarro, robôs de carne referem-se a uma forma de hibridização de humanos com a IA. Esses robôs seriam seres humanos equipados com equipamentos como fones de ouvido e óculos inteligentes para atuar a serviço da IA. A ideia distópica é que a AGI conseguiria controlar esses humanos para realizar tarefas, tornando-os meros autômatos. Ou seja, nesse cenário, a IA não serviria mais à humanidade. Muito pelo contrário. Nós humanos nos tornaríamos servos dela. Será que isso é uma possibilidade real?
O Estado Atual da Pesquisa em IA e AGI
Para estabelecer o contexto dessa discussão, vamos revisar brevemente o estado atual da pesquisa em IA. O objetivo final da área é alcançar a Inteligência Geral Artificial (AGI). Esta é uma IA com inteligência e capacidades equivalentes ou superiores às humanas. A IA que conhecemos não possui essa tecnologia. Todos os modelos de IA com os quais interagimos são considerados do tipo especializado ou estreito. Além disso, apesar da imensa propaganda e dos avanços significativos no desenvolvimento de IA que temos vistos, a criação de AGI permanece um alvo distante.
Ferramenta ou Senhor?
Mas e se a AGI se tornar realidade? Caminhamos para uma distopia ou para um futuro melhor?
Em princípio, a AGI poderia ser utilizada como uma ferramenta de colaboração, oferecendo aos humanos conselhos e orientações como especialistas em tarefas complexas. Neste cenário, ela serviria para aumentar nossas possibilidades e visaria o bem comum. Porém, um cenário distópico onde a tecnologia domina a humanidade não é uma possibilidade imprevisível, infelizmente. E a tendência atual de acabar com qualquer forma de restrição para o uso e desenvolvimento de IA aumenta essa possibilidade. Mas será que isso nos tornaria robôs de carne?
Pior do que robôs de carne?
O possível papel dos humanos como robôs de carne é um cenário assustador. Mas ele não é o pior possível.
Uma compreensão atual comum é que a AGI será apenas um elemento intelectual, confinado ao mundo digital. Ou seja, ela viverá somente no computador. Essa noção pressupõe que a AGI não terá capacidades físicas. Portanto, para realizar tarefas no mundo físico, ela precisará guiar os humanos por meio de instrumentos como fones de ouvido e óculos inteligentes. Neste cenário, nos tornamos necessários como robôs de carne.
No entanto, essa hipótese ignora os avanços dos robôs humanoides. Eles poderiam revolucionar as possibilidades de interações da IA e da AGI com o mundo. Neste caso, a AGI poderia agir sem precisar nos transformar em robôs de carne. Se isso ocorrer, é provável que a AGI utilize meios de controle mais sofisticados, como manipulação verbal ou coerção física, em vez de depender apenas de fones de ouvido e óculos inteligentes.
Conclusão
Para evitar o surgimento de um cenário distópico, é essencial priorizarmos o desenvolvimento responsável da IA. Portanto, o debate em torno dos riscos potenciais da AGI serve como um lembrete de que a pesquisa em IA deve ser guiada por valores éticos. Embora a perspectiva de criar uma IA superinteligente pareça assustadora, precisamos entender suas reais probabilidades e mantermos uma boa compreensão sobre as nuances do seu impacto potencial na humanidade.
