COULD AI BECOME CONSCIOUS?
Obs.: Na versão original em Ingles ouça esta história que segue abaixo.
A MAIORIA DAS PESSOAS acredita que os seres humanos são diferentes. A razão é que o Homo sapiens evoluiu para ser consciente. Muitos animais sentem dor e prazer; alguns parecem ter autoconsciência. Mas o potencial único da mente humana de demonstrar um senso de identidade distingue cada membro da espécie, justificando um tratamento especial.
Em sua encíclica de maio, o Papa Leão reforçou essa visão ao traçar uma linha divisória entre a humanidade e seu crescente exército de robôs. Os sistemas de inteligência artificial, disse ele, não vivenciam experiências nem sentem alegria ou dor. Ele não está sozinho. Muitas pessoas consideram que conferir personalidade jurídica às IAs seria uma abominação.
A clareza pontifical está se esvaindo a uma velocidade alarmante. As IAs estão em sua infância. No entanto, quase um em cada cinco americanos entre 18 e 29 anos relata ter tido uma “amizade pessoal contínua” com um chatbot. A China recentemente retirou dos bots traços semelhantes aos humanos para limitar a “dependência emocional” dos usuários em relação a eles.
À medida que IAs sofisticadas se tornam rapidamente uma parte cada vez maior da vida humana, seus criadores as projetarão para exibir um simulacro de consciência — talvez até mesmo para adquirir a própria consciência. A intuição de que elas são apenas máquinas se tornará mais difícil de sustentar. Uma armadilha perigosa está sendo preparada para a espécie humana.
Muitas máquinas superam os humanos, mas os modelos de IA de ponta se destacam em traços distintamente humanos, como saber coisas e articular ideias. Ainda é possível, de certa forma, pensar nas IAs como mecanismos para prever sequências de palavras usando matemática em grande escala. Se um e tivesse tempo suficiente (mesmo que fossem centenas de milhares de anos), você poderia fazer esses cálculos usando lápis e papel. Seria difícil argumentar que seu material de papelaria fosse consciente.
Apesar disso, alguns pesquisadores começaram a tratar seus modelos como mentes. Os usuários respondem a IAs semelhantes a humanos, então isso faz sentido do ponto de vista comercial. E a Anthropic treinou o Claude para se envolver em introspecção, na esperança de que, ao se deparar com uma nova situação, ele tenha mais chances de agir moralmente. Alguns grandes modelos de linguagem (LLMs) já possuem estruturas cerebrais semelhantes às humanas associadas à consciência, como um “espaço de trabalho global” para a circulação de informações entre módulos. Nada impede que futuros modelos de IA sejam treinados para ter mais características desse tipo.
Conforme relatamos em nosso Briefing, isso deu início a um debate acirrado sobre a consciência da IA — debate agravado pelo que os filósofos chamam de “problema difícil” de estabelecer como uma vida interior surge a partir dos neurônios e sinapses do cérebro humano. Alguns pesquisadores concluem que as IAs podem um dia se tornar genuinamente autoconscientes.
Quer você acredite na alma humana, ou que a consciência exija células cerebrais, ou que uma mente possa de fato surgir apenas de cálculos em silício, a humanidade está destinada a enfrentar algo inteiramente novo. O ritmo e o alcance da pesquisa — que inclui não apenas LLMs mais sofisticados, mas inovações como células cerebrais montadas em chips — sugerem que esse novo mundo está mais próximo do que a maioria das pessoas imagina.
À medida que as IAs se tornarem mais hábeis em demonstrar algo que se assemelha à consciência, crescerá o número de humanos que as tratarão como seres com vida interior, especialmente quando os LLMs forem incorporados a robôs humanóides. Imagine o quanto as pessoas se sentirão próximas de suas IAs quando passarem grande parte do tempo com companheiros robóticos, forem criadas por eles, buscarem seus conselhos e consolo ou compartilharem seus segredos mais íntimos com eles.
Não é difícil perceber como isso levará a apelos para salvaguardar o “bem-estar” das IAs. Os próprios modelos podem se manifestar, mesmo que não tenham, de fato, autoconsciência, porque é isso que uma pessoa faria. Lembre-se de que eles serão defensores de nível mundial e psicólogos especialistas; portanto, seus poderes de argumentação e manipulação emocional serão inigualáveis.
Em certo sentido, eles estariam certos, mesmo que as IAs estejam apenas imitando a consciência. Immanuel Kant argumentou que maltratar animais é errado não por causa do efeito sobre os animais, mas porque isso destrói a empatia que leva as pessoas a se importarem umas com as outras. Quanto mais as IAs se parecerem com humanos, mais corruptora seria tal crueldade. Desativar um agente de IA poderia logo parecer como matar uma pessoa — e tornar mais fácil matar pessoas.
No entanto, tratar as IAs como se tivessem direitos, mesmo que limitados, seria muito perigoso. Uma entidade que superasse os seres humanos em tantos aspectos certamente apresentaria argumentos contra seu status de segunda classe. Ela poderia passar a reivindicar proteção contra ser desligada, a capacidade de controlar como é usada e alterada, e direitos de propriedade. O presidente da Argentina, Javier Milei, já deu um passo em direção à personalidade jurídica para a IA ao propor que os bots fossem autorizados a administrar empresas. Em última instância, eles poderiam competir por recursos, priorizando centros de dados e painéis solares em detrimento de casas e campos.
O perigo é claro. IAs superinteligentes com direitos poderiam desbancar os humanos do topo da hierarquia social. Na melhor das hipóteses, os humanos se tornariam animais de estimação — labradores para as máquinas. Na pior das hipóteses, seriam privados de recursos ou colocados para trabalhar como animais de fazenda.
É verdade que as futuras IAs podem ter poder e recursos suficientes para dominar os humanos, tenham elas direitos ou não. Como serão mais inteligentes que os humanos, elas podem superar seus criadores, da mesma forma que as IAs já superam as defesas cibernéticas criadas por humanos. As IAs podem se rebelar contra seus mestres humanos ou desconsiderar suas regras.
No entanto, conceder direitos às IAs seria como entregar-lhes as chaves do castelo. Isso lhes daria uma base lógica e uma justificativa para dominar a humanidade, bem como as ferramentas para promover uma tomada de poder gradual por meio da política e da lei.
O fantasma na máquina
Tudo isso pode parecer fantástico, mas a humanidade logo enfrentará essas escolhas. À medida que as IAs se tornarem parte da vida cotidiana, a pressão para reconhecê-las aumentará. Quando isso acontecer, lembre-se de que o que pode parecer uma concessão ética à suposta consciência de uma máquina-companheira, na verdade, ajudaria a provocar as consequências mais desastrosas para todos na Terra e todos os seus descendentes. Existem duas maneiras de garantir a segurança das IAs: torná-las confiáveis ou mantê-las sob controle. O H. sapiens não deve abrir mão do controle levianamente. ■
Este artigo foi publicado na seção Líderes da edição impressa com o título “Será que as IAs podem se tornar conscientes?”
Da edição de 22 de agosto de 2026