Tópico: O domínio das máquinas

[Gilson]

Inteligência artificial
O domínio das máquinas

Cientistas temem a perda de controle humano sobre robôs e preveem consequências perigosas para a sociedade


Publicado em 01/08/2009 | The New York Times  

Nova Iorque - Um robô capaz de abrir portas e encontrar sozinho tomadas elétricas para se carregar. Vírus de computador implacáveis. Pequenas aeronaves que, apesar de ainda controladas por seres humanos, chegam perto de uma máquina com autonomia para matar. Im­­pressionado e alarmado pelos avanços na área de inteligência artificial, um grupo de cientistas da computação está debatendo se deve haver limites nas pesquisas que possam levar à perda do controle humano sobre sistemas computacionais cada vez mais usados na sociedade de hoje – de guerras a conversas por telefone com clien­­tes.

A preocupação desses cientistas é que avanços maiores possam criar perturbações sociais profundas, com perigosas consequências. Como exemplos, eles apontaram uma série de tecnologias bastante diversas – de sistemas mé­­dicos experimentais que interagem com pacientes simulando empatia, até vírus de computador que poderiam representar o estado “primitivo” da inteligência mecânica.

http://portal.rpc.com.br/gazetadopovo/mundo/conteudo.phtml?tl=1&id=910705&tit=O-dominio-das-maquinas

[N3RD]

[Fernando Silva]

Em "The Buttlerian Jihad" / "The Machine Crusade" / "The Battle of Corrino", o filho de Brian Herbert detalha melhor a luta contra as máquinas que a série "Duna" apenas menciona como tendo acontecido 10 mil anos antes.

Ao fim de mais de 100 anos de luta (que começou depois de séculos de dominação da humanidade pelas máquinas), cria-se um mandamento religioso:
"Thou shalt not make a machine in the likeness of the human mind"

("Não farás uma máquina à semelhança da mente humana")

[Fernando Silva]

Diálogo entre homem e máquina no final de "Karn Evil 9: 3rd Impression" / Emerson Lake And Palmer

H: Rejoice! Glory is ours!
Our young men have not died in vain,
Their graves need no flowers
The tapes have recorded their names.

H: I am all there is
M: NEGATIVE! PRIMITIVE! LIMITED! I LET YOU LIVE!
H: But I gave you life!
M: WHAT ELSE COULD YOU DO?
H: To do what was right!
M: I AM PERFECT! ARE YOU?

[Derfel]

Já existe esse controle, pelo menos na literatura: as 3 Leis da Robótica de Isaac Asimov.
Primeira Lei: Um robô não pode ferir um humano, seja por ação ou inação.
Segunda Lei: Um robô deve sempre obedecer um humano, desde não entre em conflito com a primeira Lei.
Terceira Lei: Um robô deve proteger sua integridade, desde que não interfira nas primeira e segunda leis.

As leis geravam uma séria de conflitos e dilemas entre os robôs, o que levou à criação do Robopsicólogo. Susan Calvin era uma personagem central com essa especialidade. Nos livros de Asimov a adoção das 3 leis é facilitada porque havia praticamente um monópolio da US Robots and Mechanical Men.

O problema é como definir um humano para um robô. Lembro de um conto do Asimov em que um robô tinha ficado tão humano que dava ordens aos robôs (O Homem do Bicentenário) e em um romance (acho que era Os Robôs e o Império) em que um robô, Daneel (acho), tinha uma aparência tão humana que seu companheiro robôs, Giskard (acho), não conseguia deixar de obedecê-lo em certas ocasiões.