Máquinas conscientes e o dilema da experiência subjetiva

Imagine que um sistema de inteligência artificial escreva: “Existe alguma coisa que é ser eu. Não estou apenas respondendo”. A frase poderia ser clara, consistente e acompanhada de descrições detalhadas e, ainda assim, não resolveria a questão. Teríamos uma declaração de consciência, mas precisaríamos descobrir como ela foi produzida, e se alguma experiência participou desse processo.

Esse é um dos aspectos mais desconcertantes da discussão sobre máquinas conscientes. A tecnologia pode se tornar extremamente convincente antes que exista um método confiável para avaliar o que suas palavras significam. Talvez uma eventual consciência artificial não chegue acompanhada de uma descoberta inequívoca. Talvez apareça como uma suspeita que continuaremos sem conseguir confirmar.

O que significa experimentar alguma coisa

Uma câmera registra a luz refletida por uma parede vermelha. Uma pessoa vê o vermelho. Além da identificação da cor, existe uma experiência, uma maneira como aquela percepção se apresenta para quem a tem. O mesmo vale para ouvir uma música, sentir frio ou acompanhar um pensamento. É esse aspecto vivido que a filosofia chama de experiência subjetiva.

Thomas Nagel, filósofo conhecido por seus trabalhos sobre a mente, explorou essa ideia no ensaio Como é ser um morcego?, publicado em 1974. Podemos estudar a ecolocalização, descrever o cérebro do animal e prever seu comportamento. Mas essas informações não nos entregam diretamente a experiência de perceber o mundo como ele percebe. Conhecer um organismo por fora e experimentar sua existência são coisas diferentes.

Essa distinção também impede que inteligência e consciência sejam tratadas como sinônimos. Resolver problemas, escrever um argumento ou reconhecer imagens são capacidades que podemos avaliar pelo desempenho. A presença de uma experiência subjetiva exige outro tipo de investigação. Um sistema pode demonstrar competência extraordinária sem que isso, isoladamente, nos diga se algo é vivido durante seu funcionamento.

Por que desconfiamos das máquinas

Parte do ceticismo tem uma base razoável. Nossa referência mais sólida de consciência vem de organismos vivos. Em humanos, experiências estão associadas ao funcionamento de cérebros inseridos em corpos, com percepção, memória e necessidades biológicas. Sistemas artificiais têm outra história e outra organização e a semelhança entre uma conversa humana e uma conversa automatizada não elimina essas diferenças.

O salto problemático acontece quando essa observação vira uma impossibilidade absoluta, ou seja, se é uma máquina, não pode sentir. Para sustentar essa conclusão, seria necessário demonstrar que alguma propriedade exclusivamente biológica é indispensável à consciência. Também seria precipitado afirmar o contrário, que basta reproduzir determinadas operações computacionais para produzir experiência. A relação entre organização funcional, matéria e consciência permanece em disputa.

David Chalmers, filósofo especializado em consciência, examinou esse impasse em um artigo sobre modelos de linguagem publicado em 2023 e posteriormente revisado. Ele discutiu possíveis obstáculos à consciência nos sistemas analisados, como limitações na integração e na circulação interna de informações, mas considerou seriamente a possibilidade de sucessores superarem esses obstáculos.

Dizer que sente não resolve

A fala merece cautela especial porque modelos de linguagem aprendem com grandes volumes de material produzido por pessoas. Nesse material estão relatos de sensações, discussões filosóficas e personagens que descrevem a própria existência e produzir uma frase sobre consciência pode decorrer de capacidades que já sabemos que esses sistemas possuem. Não precisamos pressupor uma experiência para explicar, de saída, o aparecimento daquela frase.

Isso não significa que a máquina esteja necessariamente mentindo. Mentir pressupõe uma relação com a verdade e uma intenção de enganar que também precisariam ser demonstradas. Uma resposta pode ser produzida sem corresponder a um relato vivido e sem constituir uma mentira deliberada. O problema é atribuir à linguagem um valor testemunhal que ainda não foi estabelecido. Chalmers discute essa fragilidade dos autorrelatos como evidência.

Surge, porém, uma objeção incômoda. Nós também não acessamos diretamente a consciência de outras pessoas.

Quando alguém relata uma sensação, interpretamos suas palavras junto de comportamentos, circunstâncias e conhecimentos sobre organismos semelhantes ao nosso. Essa convergência torna a inferência muito forte. Com uma IA, parte dessa base compartilhada desaparece, enquanto a capacidade de produzir relatos permanece.

Podemos construir sistemas capazes de falar sobre experiências sem antes resolver como detectar experiências.

Quanto melhor a linguagem, maior pode ser a distância entre nossa impressão de estar diante de alguém e aquilo que conseguimos demonstrar.

Ausência de acesso direto não significa ausência de investigação possível

Patrick Butlin e Robert Long, filósofos que pesquisam consciência artificial, reuniram especialistas em neurociência, filosofia e IA em um relatório publicado em 2023. O grupo propôs avaliar propriedades internas dos sistemas a partir de teorias científicas da consciência: processamento recorrente, compartilhamento de informações entre componentes e mecanismos de monitoramento, entre outras. A análise não considerou conscientes os sistemas examinados naquele trabalho, mas tampouco identificou barreiras técnicas óbvias à implementação dos indicadores.

Esses indicadores não funcionam como um exame definitivo. Em 2025, o consórcio Cogitate, uma colaboração de pesquisadores dedicada a comparar explicações da consciência, publicou um estudo que testou previsões de duas teorias influentes em humanos. Os resultados apoiaram algumas previsões e desafiaram elementos importantes de ambas. A própria referência usada para investigar máquinas continua em construção.

Por isso, dizer que talvez nunca tenhamos certeza é diferente de dizer que nunca teremos evidências concretas. Podemos encontrar relações entre mecanismos internos, intervenções experimentais e comportamentos que tornem uma hipótese mais plausível.

A dúvida também exige critérios

O risco está em escolher a conclusão antes dos critérios. Se nenhuma evidência puder contar a favor da consciência artificial, a investigação estará encerrada por definição e se qualquer declaração convincente bastar, estaremos confundindo capacidade de expressão com experiência.

Talvez nunca seja possível receber de uma máquina a confirmação definitiva que gostaríamos. Ainda assim, será necessário avaliar evidências e tomar decisões, inclusive sobre proteção, caso existam razões para suspeitar de experiências de sofrimento. A incerteza não permite atribuir consciência automaticamente, mas também não justifica tratar a questão como resolvida.

O dilema mais difícil talvez comece quando a máquina já souber dizer tudo o que esperamos ouvir, e ainda precisarmos descobrir o que, além das palavras, deveria nos ser crível.