inteligência artificial
AUTÔMATOS zumbis e a mente
1
O surgimento e a popularização dos autômatos estimularam a criação do Materialismo mecanicista moderno, modificando o modo como vemos o mundo e, mais recentemente, como vemos nossa própria mente
IMAGEM: SHUTTERSTOCK
É
difícil precisar quais foram os primeiros autômatos e quem os construiu, até porque os poucos relatos que sobraram estão misturados com lendas e mitos. A sua origem histórica é bastante nebulosa, mas é importante compreender o que eles são e qual a importância fi losófica que o conceito de autômato tem. Sobre isso, já temos em Homero um primeiro indício. No Livro 18 da Ilíada, ele nos fala: “Mesas de três pernas estava ele [Hefesto] fazendo, vinte ao todo, para colocar ao longo da parede de sua bem construída sala. A essas ele adaptou rodas forjadas em ouro, pois assim elas iriam por si próprias ao banquete dos deuses, à sua vontade, e voltariam deixando todos desconcertados”2 e “Criadas vestidas de O presente artigo é uma adaptação do segundo capítulo de minha dissertação (2005). Uma versão dele será publicada pela Editora Unidavi no livro Entre o filósofo e o cientista: poderá uma máquina sentir saudade?, escrito em coautoria com Nivaldo Machado. 2 357-377. 1
ouro prestavam grandes ajudas aos seus senhores; parecendo moças de verdade, elas davam prova de aguçado entendimento por suas falas inteligentes, eficientes e habilidosas atuações”3. Esses dois fragmentos mostram como uma máquina que se movesse sozinha seria considerada algo de divino que só poderia ser construída por Hefesto e que desconcertaria os próprios deuses. Nos dias atuais, as coisas mais semelhantes às primeiras máquinas que se moviam sozinhas são os brinquedos de corda das crianças como o macaco de circo que bate pratos ou o carrinho que anda depois de dar corda. Tais máquinas, é claro, não existiam na época em que a Ilíada foi escrita, mas são elas que foram depois batizadas de autômatos. Dito de forma mais simples e direta possível, um autômato é um objeto que possui em si mesmo o princípio do seu 3
Gustavo Leal Toledo é professor do Departamento de Tecnologia em Engenharia Civil, Computação e Humanidades da Universidade Federal de São João del-Rei.
[email protected]
417-420.
www.portalcienciaevida.com.br •
ciência&vida • 61
inteligência artificial
UM AUTÔMATO É UM OBJETO QUE POSSUI EM SI MESMO O PRINCÍPIO DO SEU MOVIMENTO. PARA QUE ELE SE MOVA NÃO É NECESSÁRIO ALGO EXTERIOR A ELE
O relógio é muito citado entre os pensadores da época, pois o funcionamento de autômatos e desse objeto era considerado semelhante, principalmente no que se refere a seus princípios, materiais e instrumentos de construção 62 •
ciência&vida
levar construtores de autômatos para os calabouços da inquisição. Naquela época, ter em si o princípio do seu próprio movimento era considerado característica exclusiva dos seres vivos.
A HISTÓRIA DOS AUTÔMATOS
O primeiro ensaio que refletiu sobre a natureza dos autômatos foi escrito por Bernardino Baldi (1553-1617), abade de Guastalla, em 1589, como prefácio ao livro sobre autômatos de Herão de Alexandria (que pode ter vivido em qualquer época entre I a.C. e III d.C.), que descrevia uma série de relógios e autômatos gregos movidos a água. Essa relação entre os autômatos e os relógios foi sempre muito forte, já que os princípios, os materiais e os instrumentos de construção dos dois foram sempre muito parecidos, inclusive muitos relógios tinham autômatos. Na época de Bernardino, vários autômatos já existiam e muitos eram usados para a recreação do público, o que acabava por criar uma interessante inversão de papéis notada por ele, a saber: os autômatos que eram estatuetas, que deveriam ficar parados, se moviam, e o público, seres vivos que deveriam se mover, ficavam observando imóveis, tamanha sua admiração. Nos séculos XV e XVI eles eram usados não somente para a diversão do povo, mas também de príncipes e reis; muitos colecionavam autômatos e outros os davam como presentes. No século XVIII, a construção de tais seres floresceu e com ela surgiu também a analogia do mundo funcionando com a precisão de um
IMAGEM: SHUTTERSTOCK
movimento. Para que ele se mova não é necessário que algo exterior a ele o coloque em movimento. Desse modo, quem vê um autômato não vê o que o está movendo e nem como ele funciona. A única coisa que o observador vê é um objeto que deveria ser inanimado se movendo sem que nada faça com que ele se mova. Tal característica dos autômatos lhe rendeu uma atmosfera mágica. Muitos acreditavam que os autômatos não se moviam pelas artes da mecânica e sim pela arte da magia; além disso, seus criadores eram acusados de querer rivalizar com Deus, imitando-lhe a criação. Acusações como essas chegaram a
IMAGEM: SHUTTERSTOCK
relógio. Foi nessa época que apareceram os autômatos mais famosos como o pato de Vaucanson. Criado por Jacques Vaucanson (1709-1782), tal pato deveria ser capaz de pegar o alimento, mastigá-lo, engoli-lo, digeri-lo e excretá-lo. Como ele fazia isso é uma questão para muitas discussões, provavelmente existiram várias versões do mesmo pato. Hoje um pato que pode ser o de Vaucanson está no Musée National des Techniques em Paris. Na mesma época, apareceram também os autômatos de Henri-Louis Jaquet-Droz (1746-1824): o escrivão, construído na verdade pelo pai dele, capaz de escrever com uma pena; o desenhista, capaz de fazer desenhos simples; e a tocadora, capaz de tocar cinco melodias através de um sistema de foles. A tais autômatos soma-se o de Wolfganf von Kempelen (1734-1804), construído por volta de 1785, que tinha treze teclas, cada uma produzindo um som de uma consoante ou uma vogal, o que o tornava capaz de falar com uma voz semelhante à voz de uma criança pequena. Desse modo, com o tempo, os autômatos foram se tornando mais comuns e perderam seu caráter mágico. Antes, ter em si o princípio de seu próprio movimento era algo tão espantoso que os autômatos só poderiam funcionar se alguém colocasse neles, por meio de alguma magia, algum tipo de princípio vital. Agora a situação se invertera: mover-se por conta própria já era tão comum que o próprio modo como entendemos o mundo mudou junto. Talvez os animais, e até mesmo os seres humanos, não fossem mais do que autômatos extremamente complexos. É justamente nesse ponto que aparece a ligação entre a Filosofia e os autômatos, com o surgimento do materialismo mecanicista. A ideia de que tudo no mundo pode funcionar exatamente do modo como funciona sem que seja necessário nada
além de um mecanismo interno que, se descoberto, poderia ser fisicamente explicado e até reproduzido desempenha, na modernidade, um papel fi losófico importante, e na contemporaneidade fundamenta a Inteligência Artificial. Tal papel fi losófico passa a ser muito mais importante que os próprios autômatos, pois esses foram ficando cada vez mais populares e comercializáveis.
O inofensivo macaco que bate pratos após darmos corda é um dos primeiros exemplos de autômato, o que antigamente poderia ser considerado magia e seus criadores acusados de querer rivalizar com Deus
FILOSOFIA E AUTÔMATOS
Os autômatos foram superados, mas a existência de tais seres influenciou o pensamento fi losófico. Na Monadologia (1714), Leibniz (1646-1716) defende uma separação entre corpo e alma. Essa separação teria o benefício de evitar problemas que surgiam quando se tentava defender a interação entre as duas substâncias e, além disso, a alma e o corpo www.portalcienciaevida.com.br •
ciência&vida • 63
inteligência artificial
TALVEZ OS ANIMAIS E HUMANOS NÃO FOSSEM MAIS DO QUE AUTÔMATOS COMPLEXOS. É NESSE PONTO QUE APARECE A LIGAÇÃO ENTRE A FILOSOFIA E OS AUTÔMATOS poderiam agir por suas próprias leis. Ou seja, para Leibniz cada evento físico tinha uma causa física. Essa ideia do mundo físico funcionando por conta própria foi uma ideia largamente difundida na modernidade e que deve muito ao desenvolvimento da mecânica que, por sua vez, tem a construção de autômatos e de relógios em papel de destaque. Antes de Leibniz, Descartes (15961650) era um defensor do interacionismo. Ele dizia que a substância mental e a substância física interagiam na glândula pineal. Só que essa interação só se dava no ser humano, pois os animais tinham só a substância física, ou seja, eram autômatos extremamente sofisticados. Na quinta parte do seu Discurso do método (1637), Descartes chega a citar os vários autômatos fabricados pela “indústria dos homens” e diz que se fosse feito um autômato que tivesse “os órgãos e o aspecto de um macaco ou de qualquer outro animal destituído de razão, não teríamos meio algum para reconhecer que não seriam, em tudo, da mesma natureza que esses animais”4. Ou 4
Descartes, 1986, 145.
O filósofo alemão Gottfried Von Leibniz acreditava e defendia que corpo e alma deveriam ser separados, pois, assim, ambos poderiam agir conforme seus preceitos e suas leis, o que evitaria problemas de uma possível interação
seja, não há, de fato, uma diferença entre o autômato e o animal. Já um autômato que se assemelhasse ao corpo humano e imitasse o seu comportamento seria distinguível de um ser humano por dois meios. Em primeiro lugar, eles poderiam proferir palavras,
O teste de Turing O matemático Alan Turing (1912-1954) criou as bases para a invenção dos computadores e também um teste para descobrirmos se computadores podem ou não pensar. Nele, um entrevistador pode fazer quais perguntas quiser através de um monitor para dois sujeitos, sem saber que quem responde um é uma pessoa e no outro é
64 •
ciência&vida
um programa de computador. Se depois de fazer quantas perguntas ele quiser, ele não souber diferenciar quem é o programa de computador e quem é a pessoa, podemos dizer então que tal computador tem uma mente. Mas cabe notar, criticando Turing, que pela mesma lógica poderíamos também inferir que tal pessoa não tem uma mente!
IMAGEM: WIKIMEDIA
O FILÓSOFO da Ciência Karl Popper (1902-1994) rejeitava a visão materialista e dizia que considera “o materialismo um erro justamente porque não acredito que os homens sejam máquinas ou autômatos”. A ideia de que os homens eram máquinas sem responsabilidade pelos seus atos, como defendido por La Mettrie, era abominável para Popper
IMAGEM: SHUTTERSTOCK
mas “nunca poderiam usar palavras nem outros sinais, combinando-os, como nós o fazemos para expressar aos outros os nossos pensamentos”5. Um autômato poderia ter uma série de frases e palavras programadas para responder a certas perguntas, mas não seria capaz de responder uma pergunta diferente daquelas que ele foi programado para responder. Teríamos aqui, então, os princípios fundamentais do que depois foi chamado de teste de Turing, ou seja, se não for possível perceber que alguém é um autômato, então ele deve ter uma mente. O segundo meio de se identificar um autômato humano tem basicamente o mesmo princípio do primeiro, mas diz respeito à capacidade de tal ser agir. Um autômato não teria a flexibilidade que nós temos para agir. Descartes defendia, então, que o ser humano não era uma máquina, mas os animais sim. No final da quinta parte do seu Discurso do método, ainda falando sobre os animais, ele nos diz: “Eles não possuem razão e é a natureza que neles age, de acordo com a disposição de seus órgãos do mesmo modo que um relógio, composto apenas de rodas e molas, pode contar as horas e medir o tempo mais exatamente do que nós com toda a nossa prudência”6. Mais uma vez a relação entre os autômatos e os relógios aparece, neste caso, para defender a tese de que os animais são autômatos. Essa tese de Descartes foi muito difundida na modernidade e debatida por muitos; dentre eles, Julien-Offray de La Mettrie (1709-1751) se destaca pela resposta inusitada que deu ao problema. La Mettrie também tinha conhecimento dos autômatos e chega a citar o pato e o flautista de Vaucanson em seu livro com um título bastante sugestivo, L´ homme machine (O homem-máquina, 5 6
Descartes, 1986, 145/146. Descartes, 1986, 149.
1747). Um dos principais argumentos de La Mettrie era o de que não há de fato uma diferença entre os homens e os animais. Nós seríamos levados a esse argumento pelo estudos de anatomia comparada entre os animais e os seres humanos, onde não apareceria uma linha divisória entre um e outro. O homem era só mais um animal e, por isso, pode concluir seu livro dizendo que o homem é uma máquina. La Mettrie levou essa teoria às últimas consequências, o que acabou por lhe render uma má reputação. Em seu livro Système d’Epicure (Sistema de Epicuro, 1750), ele chega a mostrar algumas consequências éticas de sua teoria. Para La Mettrie, o motivo para ele ainda ter respeito pelos homens é o fato de que eles não são responsáveis pelas suas ações. Se o fossem, poucos seriam merecedores de respeito. Nós agimos não por conta própria, mas é a natureza que age em nós, como o parágrafo XLVIII nos mostra: “Estamos nas mãos da natureza, como um pêndulo está nas mãos de um fabricante de relógios; ela nos molda como bem entende ou, de fato, como pode. Assim, quando seguimos o cunho dos movimentos originais que nos gowww.portalcienciaevida.com.br •
O grande desenvolvimento da mecânica pode ser responsabilizado pela disseminação da teoria de que o mundo físico funcionava com total autonomia, ideia que foi amplamente difundida na modernidade
ciência&vida • 65
inteligência artificial
vernam, não somos mais criminosos do que o Nilo, por causa de suas enchentes, ou o mar, por causa dos desastres que causa”7. Mais uma vez a analogia do relógio aparece, mas aqui as consequências são éticas. Cerca de 100 anos depois, em 1874, Thomas H. Huxley (1825-1895) escreve On the hypothesis that animals are automata, and its history (Sobre a hipótese de que animais são autômatos e sua história). Neste texto ele segue, em parte, a mesma argumentação de La Mettrie. Defendendo que não há de fato uma diferença entre o homem e o animal e mostrando os motivos experimentais para dizer que os animais são autômatos, ele conclui que os homens também são autômatos. No entanto, para Huxley, diferente de Descartes, os animais não são máquinas inconscientes, eles têm consciência assim como nós a temos, só que talvez em um grau menor. Mas isso não quer dizer que eles não sejam autômatos, eles são La Mettrie, 1996, 103.
NAS BANCAS!
7
66 •
ciência&vida
IMAGEM: WIKIMEDIA
UMA DESSAS PRIMEIRAS CORRENTES MATERIALISTAS FOI A TEORIA DA IDENTIDADE QUE, EM POUCAS PALAVRAS, DIZIA QUE A MENTE ERA IDÊNTICA AO CÉREBRO
René Descartes, filósofo e matemático francês, defendia a tese de que os animais eram verdadeiros autômatos sofisticados, pois possui somente a substância física e não a mental, ao contrário dos seres humanos
sim, só que são autômatos conscientes. Ele pode dizer isso por acreditar que a consciência seria só um subproduto do funcionamento do cérebro e em nada influencia o funcionamento deste: essa tese foi chamada de epifenomenalismo.
IMAGEM: SHUTTERSTOCK
MECANICISMO E FILOSOFIA DA MENTE
A ideia dos homens como autômatos conscientes foi defendida por alguns e atacada por outros, mas com o surgimento do behaviorismo e com o livro The concept of mind (O conceito de mente, 1949), de Gilbert Ryle, a Filosofia da Mente contemporânea se inicia e o materialismo se instala. Uma dessas primeiras correntes materialistas foi a teoria da identidade que, em poucas palavras, dizia que a mente era idêntica ao cérebro. É claro que nem todos os teóricos da identidade defendiam exatamente a mesma coisa, mas essas sutilezas não serão tratadas aqui. A teoria da identidade foi logo atacada e, em 1972, Saul Kripke (1940-) introduz um argumento semelhante ao que logo depois viria a ser chamado de argumento dos zumbis. Em Naming and
necessity (Nome e necessidade), Kripke nos fala sobre a possibilidade lógica de que um estado físico possa se dar sem o seu devido correspondente fenomenal. Ele defende que uma identidade tem que ser necessária, mas a identidade entre mente e cérebro parece ser contingente. Um exemplo tipicamente usado é o da dor e estimulação das fibras-c. Para um teórico da identidade, assim como água é idêntica a H 2O, a dor é idêntica à estimulação das fibras-c, mas nós podemos pensar em um mundo onde a estimulação das fibras-c não causa dor, no entanto não podemos pensar em um mundo que tenha água, mas não H 2O. Essa identidade é necessária, mas a identidade de dor e estimulação das fibras-c não. Assim Kripke pode criticar a teoria da identidade mente e cérebro. Tal argumento é semelhante ao argumento dos zumbis, defendido por David Chalmers (1966-). Ele nos chama atenção para a força e simplicidade desse argumento. Em seu livro The conscious mind (A mente consciente, 1996), ele dá aos zumbis um papel central partindo da possibilidade lógica de eles existirem
Mesmo os autômatos parecidos fisicamente com o homem poderiam facilmente ser distinguidos, pois, apesar de emitir palavras, não teriam flexibilidade para pensar de formas que não foram programados
www.escala.com.br
www.portalcienciaevida.com.br •
ciência&vida • 67
inteligência artificial
SE A CONSCIÊNCIA FOSSE FÍSICA SERIA IMPOSSÍVEL PENSAR EM UM SER IDÊNTICO AO SER HUMANO EM TUDO O QUE É FÍSICO, MAS SEM CONSCIÊNCIA; ESTARIA FALTANDO ALGO O INTERACIONISMO, tão defendido pelo filósofo francês René Descartes, é uma linha de pensamento que prega a distinção e independência entre a matéria e a mente, podendo as duas exercer efeitos causais entre si. Como tal, é um tipo de dualismo. Pode ser diferenciado de outras teorias, como o epifenomenalismo (que admite causalidade, mas apenas unidirecional), a harmonia preestabelecida e o ocasionalismo (em que ambos negam a causalidade)
para fundamentar a sua teoria. O argumento aqui é bem simples, se é dito que um ser humano é consciente e é dito também que é logicamente possível pensar em um ser fisicamente idêntico a um ser humano, mas que não tem consciência zumbi, então pode-se dizer que a consciência não é física. Se a consciência fosse física seria impossível pensar em um ser idêntico ao ser humano em tudo o que é físico, mas que não teria consciência, teria que estar faltando algo. Para deixar esse argumento mais intuitivo podemos considerar o seguinte: não podemos pensar em um carro em tudo fisicamente idêntico ao outro, mas sem os faróis que outro tem, pois tais faróis são físicos e se os carros são fisicamente idênticos, ambos têm que ter tais faróis. Consideremos a alternativa: se o carro em questão estiver assombrado por um espírito, podemos pensar em um carro em tudo fisicamente idêntico ao anterior, mas sem tal espírito, o que significa que tal espírito não é físico. O mesmo acontece com os zumbis. Temos assim que se
La Mettrie argumentava que não há diferença entre o homem e o animal, o que poderia ser comprovado pelos estudos da anatomia comparada
é possível pensar em um ser que, se comporta como um humano, funciona como um humano e tem exatamente a mesma estrutura física que um ser humano, mas
O funcionalismo e a Inteligência Artificial O funcionalismo é a teoria da Filosofia da Mente que diz que a mente é o que o cérebro faz. Deste modo, ele critica a teoria da identidade, que diz que a mente é o cérebro, mas sem deixar de ser materialista. Para um funcionalista, não importa de que material é feita a mente, se ela funcionar como uma mente é uma mente. Assim, ele pode dizer que outros seres, mesmo na ausência de cérebros como o nosso, podem possuir mentes. Um alienígena, por
68 •
ciência&vida
exemplo, pode possuir uma estrutura que funciona semelhante à nossa, mas que não seja fisicamente como um cérebro. Mas o fato de que funciona como uma mente já seria suficiente para dizermos que ele tem mente. O mesmo poderíamos dizer de um computador e, assim, o funcionalismo é a base conceitual da Inteligência Artificial forte, ou seja, aquela que diz que um computador não só pode simular uma mente como pode ter uma mente.
RESERVE UM TEMPO DO SEU DIA PARA UMA BOA LEITURA!
Para Thomas Huxley, os animais não são o mesmo que máquinas, pois são dotados de consciência, assim como os humanos, apenas em grau menor. No entanto, isso não quer dizer que não sejam autômatos conscientes
não tem estados conscientes, então esses estados não podem ser nem o comportamento, nem o funcionamento e nem a estrutura física8.
IMAGENS: SHUTTERSTOCK
DOS RELÓGIOS À INTELIGÊNCIA ARTIFICIAL
Dos primeiros relógios, passando pelos autômatos, até chegarmos aos zumbis, tivemos um longo caminho entre materialistas e seus críticos. Desde o início essas questões estiveram ligadas ao próprio surgimento e fundamentação do mecanicismo. O surgimento dos primeiros autômatos foi funEm minha dissertação cheguei à conclusão de que zumbis vão além do problema das outras mentes e criam o que chamei de “problema da minha mente”: zumbis não são possíveis, pois se fossem eu poderia ser um e não saber. Defendi, desse modo, o materialismo.
8
damental para o materialismo moderno e, consequentemente, o contemporâneo, pois foi a partir daí que as analogias que relacionam o funcionamento do mundo com uma máquina finamente elaborada apareceram. O mundo passou a ser mecânico e elaborado como um relógio. Antes deles era quase impensável o funcionamento do mundo sem algo que fosse transcendente. É claro que o materialismo é muito mais antigo do que os relógios; no entanto, o materialismo mecanicista atual tem sua origem nos relógios e nos autômatos que incentivaram, em Descartes e outros, uma física baseada em choques, colisões e empurrões onde o mundo físico se moveria como uma máquina extremamente precisa e muito complexa. Foi
Lafont Lafonte
www.editoralafonte.com.br www.editoralafonte.com.br
IMAGEM: SHUTTERSTOCK
inteligência artificial
70 •
ciência&vida
A tecnologia avança e parece que não tem limites, mas nem mesmo as formas mais avançadas de escaneamento cerebral são capazes de determinar se existe uma mente ou apenas algo que funciona como se houvesse uma
que funciona como se tivesse uma mente, ou seja, um zumbi: um autômato que apenas se comporta como se tivesse mente. Teremos que continuar inferindo mente a partir do comportamento e de considerações fisiológicas. Mas continuaremos sem saber se isso é suficiente, pois a única coisa que conseguimos observar é o funcionamento mecânico do nosso cérebro. O que falta, então, a um computador para que possamos dizer que ele tem mente? A mente e a consciência são meramente mecânicas? A mente é o modo como o cérebro funciona? como querem os funcionalistas? Por mais difícil que seja responder essas questões podemos esperar com o avanço da Inteligência Artificial não provas de que computadores podem ter mentes, mas sim o surgimento de novas teorias que revolucionarão a nossa forma de pensar sobre o mundo e sobre nós mesmos, assim como um dia os relógios e os autômatos modificaram a nossa forma de pensar.
REFERÊNCIAS
a partir desse mundo mecânico que seres que se comportavam como se tivessem mente, mas que não tinham, foram pensados pela primeira vez. Embora todos esses temas pareçam díspares, estão todos intimamente relacionados. As críticas feitas ao materialismo e à Inteligência Artificial costumam visar o fato de que se comportar de maneira inteligente ou consciente não implica em ser inteligente ou consciente. É isso também que o argumento dos zumbis mostra. Temos, então, que as questões hoje levantadas em relação à Inteligência Artificial já eram levantadas há séculos em relação aos autômatos e mais recentemente em relação aos zumbis fi losóficos. A única coisa que realmente mudou é que os objetos dessas considerações deixaram de ser brinquedos de cordas feitos por relojoeiros e se transformaram em computadores de última geração com programas avançados e capazes de aprendizado. Todas essas questões visam discutir quais seres têm mente e qual sua relação com o comportamento. São todos experimentos de pensamento, pois nunca existiu um autômato perfeito, um zumbi filosófico e uma Inteligência Artificial perfeita. Levamos nossa imaginação ao máximo para tentar descobrir as consequências mais fundamentais das nossas teorias. Não existe, e provavelmente nunca vai existir, um medidor de mente, algo que, como um contador Geiger, possa nos dizer onde encontrar mentes e onde elas estão ausentes. Mesmo as formas mais avançadas de escaneamento cerebal não são capazes de dizer se há ali uma mente ou só algo
CHALMERS, D.H. The conscious mind. Oxford: Oxford University Press, 1996. DESCARTES, R. Discurso do método, Rio de Janeiro: Ediouro, 1986. _____. Meditações metafísicas. São Paulo: Martins Fontes, 2000. HUXLEY.T, H. On the hypothesis that animals are automata, and its history. In: CHALMERS, D. Philosophy of Mind: Classical and contemporary readings. Oxford: Oxford University Press, 2002, p. 24-30. HOMERO. Ilíada. Ediouro: Rio de Janeiro, 2001. JACKSON, F. Epiphenomenal Qualia. In: The Journal of Philosophy, v. XXXII, n.127, 1982, p. 127-136. KRIPKE, S. A. Naming and necessity. In: CHALMERS, D. Philosophy of Mind.: Classical and contemporary readings. Oxford: Oxford University Press, 2002, p. 329-334. LA METTRIE, J.O. Obra filosófica. Madri: Ed. Nacional, 1983. _____. Machine man and other writings. Cambridge: Cambridge University Press, 1996. LEAL-TOLEDO, G. O argumento dos zumbis na Filosofia da Mente: são zumbis físicos logicamente possíveis? 2005. Dissertação (Mestrado em Filosofia) – Departamento de Filosofia, Pontifícia Universidade Católica do Rio de Janeiro, Rio de Janeiro, 2005. LEIBNIZ, G. W. Monadologia. São Paulo: Abril Cultural, 1974. LOSANO, M. Histórias de autômatos. São Paulo: Companhia das Letras, 1990. POPPER, K.R. & ECCLES, J.C. O Eu e seu cérebro. Brasília: Ed. UNB, 1995. RYLE, G. The concept of mind. Chicago: University of Chicago Press, 1984.
