Não é prova de nada. É apenas apelo a incredulidade.
E acho que há uma confusão aí entre um programa com instruções definidas, que não poderia ser consciente, e o programa em execução num computador (ou ainda, o programa em execução "isolado" do computador, consciente de um "ambiente" definido no computador -- mas não de estar em execução num computador*), que teoricamene talvez possa, talvez dependendo do hardware permitir quaisquer operações necessárias, ou ainda, disso que se atribui ao hardware poder ser simulado de maneira suficientemente "isomórfica", sem ele.
Apelo a incredulidade é quando alguém considera que algo é muito difícil de entender, ou então não é capaz de conceber como funciona, e a partir disso conclui equivocadamente que seja impossível a ocorrência de tal fenômeno.
Você está subestimando imensamente a Ciência da Computação. O problema da parada do programa é formalmente demonstrável como um destes problemas não computáveis por qualquer sistema equivalente a uma máquina de Turing. Assim como existem outros problemas também demonstravelmente não computáveis.
Contudo um programador é capaz de identificar se um programa pára ou entra em loop. Se partirmos do pressuposto que é unicamente a atividade cerebral do programador a responsável por solucionar este problema podemos inferir disso que o cérebro humano não pode ser inteiramente simulado pelo atual paradigma de computadores eletrônicos.
Por paradigma atual entenda qualquer máquina, sistema ou dispositivo lógico-equivalente a uma máquina de Turing.
Não importa o quanto esta tecnologia evolua e se sofistique, não importa que em algum futuro você tenha máquinas com trilhões de terabytes que operem milhões de vezes mais rápidas que as mais rápidas máquinas atuais; ainda continuaria sendo uma máquina de Turing.
E uma máquina de Turing continuará, eternamente, sendo um modelo para o qual se demonstra a impossibilidade de simular a completa potencialidade do cérebro humano. Porque teoremas uma vez provados são eternos.
Logo, se partirmos também do pressuposto ( e atualmente não pode ser mais que um pressuposto ) de que a consciência é unicamente o produto da atividade de um sistema nervoso não há nenhuma garantia de que máquinas de Turing possam ser conscientes.
Quanto a diferença entre o programa em si e o processo de executar o programa ela existe, obviamente. Mas é preciso tentar entender com mais clareza o que seria o programa e o que seria atividade de executar o programa, e como esta entidade abstrata ( o programa ), e atividade concreta da execução do programa ocorrendo no mundo físico podem ou não se relacionar com o que chamamos de consciência.
Um programa pode ser entendido como uma sintaxe ou uma semântica. Se você enxerga o programa como uma sintaxe este então é uma sequência finita de instruções de máquina, que por sua vez também pertencem a um conjunto finito ( de instruções ). Esta sequência de instruções ( juntamente com os dados ) pode estar escrita em papel, gravada em pedra ou codificada de forma binária nos micro-capacitores da memória de um computador. Não importa, a realidade física de uma codificação de um programa é apenas um objeto inanimado, em todas as formas físicas que você seja capaz de codificar um programa.
Porém o programa visto como uma semântica é um substantivo abstrato. A semântica é a funcionalidade do programa, que tarefa realiza, para que serve, a sua função. A semântica não pode ser identificada com nada físico, não tem existência em si mesma, mas é a forma como a mente interpreta e atribui um significado àquela sequência de instruções. A semântica é a experiência necessariamente consciente da interpretação do programa.
Agora, se refletirmos com um pouco mais de cuidado sobre em que consistiria a execução de um programa, percebemos que a execução não tem nenhuma relação com o programa em si a não ser aquela atribuída pela semântica. Ou seja, o "link" entre o processo que executa o programa e a realização de uma determinada atividade com significado é feito pela mente consciente do observador que observa o programa em execução.
Tente atentar para um detalhe importante ao qual eu já havia aludido implicitamente: o
MESMO programa pode ser executado por infinitos processos físicos diferentes. O mesmíssimo programa, exatamente da mesma forma, pode ser executado por um computador eletrônico, por um dispositivo mecânico como o que Babbage concebeu, por um computador hidráulico, ou até mesmo por um macaco treinado para reconhecer símbolos e realizar tarefas simples relativas a cada simbolo.
Agora tentamos responder á questão: " A consciência é resultante do programa, dos fenômenos físicos que concorrem para a execução do programa, ou de uma combinação entre ambas as coisas? "
Intuitivamente muitos parecem achar que é resultante da interação entre programa e máquina. Que se aprendermos a escrever o programa certo este despertaria a consciência no hardware, ou alguma consciência surgiria de alguma forma, não necessariamente localizada em alguma coisa.
Mas se assim fosse poderíamos inferir que esta sofisticada implementação de inteligência
artificial seria capaz de produzir o fenômeno da experiência subjetiva em qualquer meio
que a estivesse executando: fosse um desktop da IBM, um dispositivo hidráulico ou por meio de um chimpanzé executando tarefas por reflexo condicionado.
Não parece nem de longe ser uma hipótese razoável a se considerar.
Especialmente quando se percebe que o sistema executor é absolutamente indiferente ao que está sendo executado. Da mesma forma que uma máquina de lavar é indiferente ao que você coloca dentro dela.
Se você carregar a memória do computador com uma sequência aleatória de instruções de máquina e apontar o registrador de instruções com o endereço da primeira instrução ele vai começar a executar este programa que não faz absolutamente nada; e um programa que não faz absolutamente nada obriga a máquina a realizar os mesmos processos físicos de um programa que performe alguma função específica, identificável. Porque a identificação da função do programa, ou seja, a identificação da sua semântica, só existe para o usuário, não para a máquina.
Por outro lado o mesmíssimo programa sendo executado em outro hardware com tecnologia inteiramente diferente ( mas seguindo ainda o mesmo paradigma lógico ) estaria desencadeando fenômenos físicos absolutamente diversos.
Então temos a questão de se a consciência é real ou é uma ilusão. Se é um fenômeno concreto deve ter como causa algum fenômeno, ou conjunto de fenômenos, intrínsecos à natureza do universo. Assim como gravidade ou a força elétrica, embora não totalmente compreendidas, devem estar relacionadas com algo da própria estrutura do universo. De outra forma teríamos que atribuir uma condição sobrenatural a estes fenômenos.
Se assim for não há nenhuma razão para se conjecturar que a execução de um programa é capaz de originar o fenômeno da experiência subjetiva. Porque a execução de nenhum programa está necessariamente condicionada a nenhum fenômeno físico específico, sendo possível executar qualquer programa de uma máquina equivalente a de Turing, por meio de infinitos processos físicos diferentes. Como já mencionei.
Contudo se a consciência é uma ilusão me parece dificil explicar o que é que está experenciando esta ilusão sem incorrer em lógica circular. Porque a ilusão em si é uma forma de experiência subjetiva; não faz sentido dizer que um tijolo ou um toco de pau está tendo ilusões. Ilusão também é um substantivo abstrato e portanto suposta, ela própria, como experiência subjetiva.