A Ética do Super-Homem

A Ética do Super-Homem Abordagem sobre a metamorfose máquina /ser humano

ENGENHARIA INFORMÁTICA Ética Socioprofissional

Docentes Professor Doutor António Pena Engenheiro Professor Mestre Ricardo Mendonça . Discente Gonçalo Lourenço A20090667 29 de Maio de 2011

ENGENHARIA INFORMÁTICA 2011

A Ética do Super-Homem

Índice O despertar .................................................................................................................................... 3 Introdução ................................................................................................................................. 3 História evolutiva dos autómatos.............................................................................................. 3 Definição e conceitos teóricos de ética ..................................................................................... 3 Visões sobre a ética ao longo dos tempos ................................................................................ 4 Ética Grega............................................................................................................................. 4 Ética Cristã ............................................................................................................................. 4 Ética iluminista ...................................................................................................................... 4 Ética contemporânea ............................................................................................................ 5 Consciência e desenvolvimento .................................................................................................... 6 Corporações............................................................................................................................... 6 Limites da conceção .............................................................................................................. 6 Informações pessoais ............................................................................................................ 7 Agenda privada ...................................................................................................................... 7 O indivíduo ............................................................................................................................ 8 Tomadas de decisão .................................................................................................................. 8 Transferência da iniciativa ..................................................................................................... 8 Guerra por um clique ............................................................................................................ 9 Controlo total ...................................................................................................................... 10 Conhecimento da existência ................................................................................................... 10 O bem e o mal ..................................................................................................................... 10 Cooperação.......................................................................................................................... 11 Sobrevivência ...................................................................................................................... 11 Fusão.................................................................................................................................... 12 Raw model, a meta final? ........................................................................................................ 13 Espreitar o futuro ........................................................................................................................ 14 Fim da humanidade? ............................................................................................................... 14 Conclusão ................................................................................................................................ 14 Notas (ao longo do texto)

Página

2

Bibliografia................................................................................................................................... 15 Filmografia ................................................................................................................................... 15

Capa: Adaptação da ilustração de Mikhail Romadin, "Your Name? Robot", 1979.

ISMAT - Engenharia Informática 2011

A Ética do Super-Homem

O despertar Introdução A Engenharia constitui a espinha dorsal da evolução da nossa civilização moderna1 2. Nos últimos anos a Engenharia Informática tem vindo a evidenciar-se, pois todos os outros setores da sociedade dependem quase inteiramente da tecnologia daí resultante. A tecnologia, de um modo genérico, providencia vantagens competitivas evidentes que traz benefícios económicos à escala global.3 Nesta vertigem evolutiva surgem robots4 cada vez mais sofisticados, a maioria apenas age segundo uma préprogramação mas outros já conseguem adquirir uma forma primitiva de raciocínio5.

Não se deve escutar as pessoas que nos aconselham, sob o pretexto de que somos homens, de só pensar nas coisas humanas e, sob pretexto de que somos mortais, de renunciar às coisas imortais. Mas, na medida do possível, devemos tornar-nos imortais e tudo fazer para viver conforme à parte mais excelente de nós mesmos, pois o princípio divino, por mais fraco que seja pelas suas dimensões, prevalece, e muito, sobre qualquer outra coisa pelo seu poder e pelo seu valor. Aristóteles, in “Ética a Nicómaco”

Esta pequena dissertação pretende debruçar-se sobre a ética necessária, e o seu impacto, na criação e desenvolvimento da nova era robótica6 bem como a apreensão desses valores.

História evolutiva dos autómatos A temática da robótica não é nova, aliás sempre fora sonho perseguido por pensadores livres ao longo dos séculos. No anexo I pode ser observado a evolução histórica desde à 4.000 anos até à presente data. Máquinas brilhantes que espelham o génio do ser humano na ambição de construir um ser inteligente semelhante ao ser humano mas mais assertivo, forte, repetitivo e autoimune. Atualmente a robótica está fortemente presente em vários domínios dos quais são destacados os seguintes: industrial, médico, militar e doméstico. O robot tradicional sempre foi visto, até agora, como uma máquina de trabalho incansável, símbolo de modernidade e desenvolvimento industrial.

Definição e conceitos teóricos de ética Ética é por definição: “Ética vem do grego ethiké [epistéme], «a ciência relativa aos costumes», pelo latim ethica-, de igual significado. Moral origina-se no latim morale-, relativo aos costumes (mores)”7. É frequente confundir os conceitos de ética e moral embora não signifiquem a mesma coisa. Os princípios morais são normativos enquanto que a ética é subjetiva dependendo da convição pessoal do indivíduo.

1

Página 36-44 de “Popular Mechanics”, Março de 2009. Página http://www.engineeringchallenges.org/cms/7126/7356.aspx, consultada a 17/03/2011. 3 Página http://www.projectsmagazine.eu.com/features/acm_at_ict_2010, consultada a 17/03/2011. 4 O termo foi introduzido, pela primeira vez, pelo Checo Karel Capek a partir da palavra robota, que em língua eslava pode significar trabalho forçado e servidão. 5 Reportagem sobre Asimo da Honda, http://www.youtube.com/watch?v=P9ByGQGiVMg. 6 A “raça dos robots” foi preconizada por Nicola Tesla. Estes autómatos teriam a capacidade de evoluir e reproduzir-se sem qualquer intervenção do homem. 7 Retirado de http://ciberduvidas.sapo.pt/pergunta.php?id=10488, consultada a 20/03/2011.

Gonçalo Lourenço

Página

3

2

A Ética do Super-Homem Existe uma forte componente cultural na influência da perceção do correto e incorreto. A Humanidade evolui e a sua noção para com os outros também. Resumidamente pode-se afirmar que o estudo da ética é sinónimo de refleção dos atos humanos na sociedade e torna esses atos mais conscientes8 e sensatos9.

Visões sobre a ética ao longo dos tempos A ética é algo, até agora, exclusivamente humano. Desde a tomada de consciência do seu existencialismo, o ser humano tem refletido sobre os seus atos perante os outros e o meio que o envolve. Aqui ficam alguns apontamentos dos mais famosos pensadores da história ocidental divididos em quatro àreas de pensamento distintas. Ética Grega Sócrates (469 AC– 399 AC) é considerado o primeiro, filósofo conhecido, a debruçar-se sobre esta temática. Para este sábio a ética consistia em saber o que devemos fazer (prática do bem), e transformar esse conhecimento em algo que possa ser ensinado10. Mas esta era uma conceção demasiado abstrata, sendo posteriormente organizada por Aristóteles (384 AC– 322 AC). Este filósofo acreditava que a verdadeira felicidade era uma atividade da alma sendo esta racional. Ética Cristã Na Idade Média uma boa conduta em vida conduzia à vida eterna, esta posição impregnada de valores religiosos tinha como base a ética grega. Nesta época destacam-se dois pensadores:  

Agostinho de Hipona (354 – 430) argumentava que o amor ao próximo era a máxima da ética pois daí advinha a mais pura felicidade.11 Tomás de Aquinino (1225 - 1274) defendia que o mal era a ausência do bem, levantando a necessidade do cultivo das seguintes virtudes: coragem, prudência, justiça e temperança para prevalecer o bem. A estas ainda adicionou as virtudes de origem teológica: caridade, fé e esperança.

Ética iluminista O primeiro a quebrar com a predominância da ética cristã foi Nicolau Maquiavel (1469 – 1527) que sugeriu a criação de uma nova ética, a do Estado. Não obstante houve quem procurasse uma ética de validade universal, como Emanuel Kant (1724 – 1804), pois considerava que todas as ações humanas se baseavam na razão. Georg Hegel (1770 DC - 1831 DC) defendia que a divisão entre a consciência do dever e a segunda constituída por costumes, leis e normas da sociedade. O Estado integrava esses dois aspetos numa “totalidade ética”. A liderar um cepticismo acérrimo da ética e renegando-a para uma subjetividade total foi Karl Marx (1818 – 1883). A ética do indivíduo dependia sobretudo da economia e política, ou seja, do meio envolvente e da

Página

4

8

José Eustáquio afirmava o seguinte: “Quando minha escolha é consciente, nenhuma repercussão me assusta. Quando não é, qualquer comentário me balança.”. 9 Segundo Aristóteles “O ignorante afirma, o sábio duvida, o sensato reflete.” 10 De acordo com Sócrates “O homem faz o mal, porque não sabe o que é o bem”. 11 Agostinho de Hipona dizia: “Só o que faz bem ao homem pode fazê-lo feliz".

ISMAT - Engenharia Informática 2011

A Ética do Super-Homem condição social que subjugava o indivíduo12. Outro acérrimo critico da moralidade judaico-cristã, partilhada com Karl Marx, que designava por “moral dos escravos” era enunciada por Friedrich Nietzsche (1844 DC – 1900 DC) ao incentivar o ser humano a superar-se e a transpor os seus limites. Ética contemporânea Bertrand Russel (1872 – 1970) sustentava que a ética se resumia ao “desejo individual” extrapolado para a dimensão coletiva13. Por outro lado Jean-Paul Sartre (1905 - 1980) remete-se para o existencialismo humano que é alcançado através da racionalidade. A ação ética, segundo Miguel Reale (1910 – 2006), terá de provir da convição pessoal livre e não de uma obrigação imposta. Adolfo Sánchez Vásquez (1915) define ética como o comportamento humano em relação à sociedade, tendo esse comportamento mudado mediante a evolução do enquadramento histórico. Para Edgar Morin (1921) a existência do triplo ethos é parte constituinte da nossa natureza. A ética egocêntrica centrada no indivíduo, a ética genocêntrica respeitante ao meio familiar e aos próprios genes, e por último a ética etno/sociocêntrica vinda da sociedade como referência.

Gonçalo Lourenço

Página

Segundo Karl Marx “não é a consciência dos homens que determina a sua natureza, mas, pelo contrário, é a sua natureza social que determina a sua consciência”. 13 “A ética não contém asserções verdadeiras ou falsas, mas afirmações que traduzem desejos de um certo tipo geral, a saber, daquele que se refere aos desejos da humanidade em geral e dos deuses, anjos ou diabos, se existirem. A ciência pode discutir a causa dos desejos e os meios para actuar sobre eles, mas não pode conter nenhum juízo genuinamente ético, dado que se refere aquilo que é verdadeiro ou falso ” Bertrand Russell in Ética

5

12

A Ética do Super-Homem

Consciência e desenvolvimento Corporações Limites da conceção A globalização permitiu o crescimento de grandes corporações dominadas pelo seu objetivo essencial: o lucro. Estas empresas gigantescas para além de gerar importantes divisas para os países em que se situam também são um importante centro de emprego direto e indireto, ou seja, são poderes incontornáveis para o desenvolvimento. Neste contexto quais são as leis internas que impõem os limites? E quem impõe esses limites? As nações terão a capacidade de supervisionar essas empresas?

I conceived the idea of constructing an automaton which would mechanically represent me, and which would respond, as I do myself, but, of course, in a much more primitive manner, to external influences. Such an automaton evidently had to have motive power, organs for locomotion, directive organs, and one or more sensitive organs so adapted as to be excited by external stimuli. Nicola Tesla, in “Prodigal Genius: The Life of Nikola Tesla”

Os limites14 devem em primeira instância partir do interior dessas corporações na prevenção de impactos importantes na sociedade, só posteriormente deverá ser regulada pelo Estado. Os corpos administrativos devem, na sua constituição, obedecer aos respetivos códigos deontológicos e a ter na sua vida pessoal/social uma posição genuinamente íntegra, de partilha e verdade permanente15.

Cena 1 : Perigos relativos a sonegação de performance (Robocop).

As nações, como reguladoras, pouco ou nada conseguem controlar por si só nestas grandes corporações. São na verdade “reféns”, pois a ameaça de deslocação desses organismos para outros países provova imediatamente perda de divisas e desemprego para o país. Este impacto é indesejável para qualquer Estado. Qualquer regulação nestes termos necessita de um consenso à escala global.

Na verdade, no contexto mediático em que vivemos atualmente os limites são autoimpostos pela sociedade da informação e de consumo. O percurso ascensional de uma empresa é difícil mas mais difícil é certamente manter uma posição dominante no mercado. As empresas são facilmente fragilizadas por deficiências no produto lançado no mercado16 ou posições éticas duvidosas que são sancionadas pelo bom senso dos consumidores17. Como estas empresas recorrem frequentemente a

14

Um dos limites será certamente o ambiente em que é efetuado o teste. O ambiente ideal seria o mais hermético possível com o exterior se estivermos a falar, por exemplo, de algoritmos de inteligência artificial que facilmente poderse-iam lançar na rede e apoderar-se das máquinas. Temos como exemplo o worm Stuxnet que atacou as máquinas das centrais de enriquecimento de urânio no Irão. http://pt.wikipedia.org/wiki/Stuxnet consultado a 05/05/2011. 15

Isto remete-nos para a Kant “Age de tal maneira que possas querer que a tua máxima se torne lei universal”. A Toyota delineou como missão tornar-se o fabricante de topo a nível Mundial. Conseguiu atingir esse objetivo no entanto descurou certas medidas de segurança que resultaram em publicidade extremamente negativa para a empresa provocando milhões de euros de prejuízo. http://oglobo.globo.com/economia/mat/2010/01/22/nos-eua-problema-noacelerador-causa-segundo-recall-da-toyota-em-tres-meses-915688264.asp consultada a 06/05/2011. 17 O iPhone, da Apple, possuía um registo secreto da posição do utilizador ao longo do dia através da triangulação das antenas. Esta funcionalidade escondida veio a provocar diversas ações colocadas em tribunal dos utilizadores contra a Apple porque consideravam que os seus direitos de privacidade não estavam a ser respeitados.

Página

6

16

ISMAT - Engenharia Informática 2011

A Ética do Super-Homem fundos públicos em mercados bolsistas sendo de todo indesejável este tipo de má publicidade. Assim desde que os meios de comunicação mantenham a sua independência18 conseguem ter um efeito de consciência sobre essas corporações. Informações pessoais Atualmente a informação sobre comportamentos de consumo são amplamente explorados e estudados em detalhe. Este tipo de informação é extremamente valiosa e assume um aspeto dominante no desenvolvimento de produtos e/ou serviços pois permite direcioná-los com maior eficácia. O aspeto fundamental desta questão é: até onde será lícito a demanda dessa informação? O boom das redes e jogos sociais tornaram-se na primeira virtualização social. Nestes cenários virtuais os atores sociais retiram a máscara da sua existência real. Esta exposição da real natureza humana torna-a suscetível à exploração comercial, logo a privacidade da informação coletada deve ser elevada. Outro aspeto que pode ser considerado é a segurança. No Reino Unido é usual ver carrinhas de CCTV (Closed Circuit Television) nas ruas para detetar possíveis criminosos. Por um lado existe a segurança da população que deve ser mantida19 mas por outro lado como é garantido que a utilização das imagens não serve para outros fins? A informação recolhida pode ser facilmente usada para os fins de uma minoria, por exemplo vigiar um político da oposição. Mas sobretudo pode ser adquirida por um sistema inteligente, dada a total dependência eletrónica, pode facilmente detetar um indivíduo e restringi-lo, como é exemplo a cena 3. A privacidade dos cidadãos deve permanecer protegida de todo o tipo de utilização persecutiva e discriminativa. Cena 2 : Sistemas de reconhecimento Agenda privada facial (Eagle Eye). Historicamente o autoritarismo e totalitarismo do Estado nunca trouxeram benefícios duradouros à sociedade muito pelo contrário trouxe morte, miséria e fome. Atendendo às dimensões atuais das Corporações seria benéfico retirar as devidas ilações dessa lição histórica. Aliás a história deve permanecer sempre como objeto de análise e reflexão recorrente para explicar o presente e evitar as reproduções dos seus efeitos negativos no futuro.

Gonçalo Lourenço

Página

http://www.zdnet.com/blog/apple/your-iphone-is-tracking-you-and-has-been-for-a-while/9985, consultada a 06/05/2011. 18 Obviamente que esta independência é igualmente frágil sobretudo porque os meios de comunicação precisam de publicidade para suportar a sua atividade. Se a firma alvo de crítica é uma das principais anunciantes do meio de comunicação publica o artigo ou não? Creio que este é outro aspeto ético que poderia surgir. No entanto se pensarmos que a verdade acaba sempre por vir ao de cima mais vale adotar a iniciativa. 19 É preciso recordar que em 1994 Londres sofria ataques de morteiro por parte do I.R.A. (Irish Republican Army). Mais recentemente foi alvo de atentados terroristas islâmicos em locais de larga afluência. 20 O Tribunal Europeu condenou a Microsoft pelo aproveitamento do seu domínio a nível de Sistema Operativo ao não fornecer dados relativos ao seu código para desenvolvimento de novos produtos por parte de empresas independentes. http://www1.folha.uol.com.br/folha/dinheiro/ult91u328931.shtml, consultada a 06/05/2011.

7

Uma posição dominante não deve, por exemplo, aproveitar-se dessa posição para fortalecer e estabelecer uma posição de exclusividade20.

A Ética do Super-Homem A exclusividade no desenvolvimento de determinada tecnologia permite, após a conclusão de um produto/serviço, uma oferta única e vantajosa. No entanto quando o desenvolvimento é desacompanhado da avaliação exaustiva de todas as ramificações das linhas de investigação21, ou quando os caminhos mais sensíveis são abandonados propositadamente para atingir mais rapidamente a conclusão do projeto podem surgir problemas sérios22. Assim o estudo exclusivo de determinada tecnologia deve Cena 3 : Normas cooperativas escondidas para aumentar o nível de responsabilidade de todos os intervenientes ter uma posição vantajosa (Robocop). para minimizar possíveis impactos indesejáveis no ambiente e/ou sociedade. O indivíduo Parafraseando Albert Einstein “Sem cultura ética, não há salvação para os homens.“. Neste sentido que papel tem o engenheiro dentro da corporação como trabalhador e, ao mesmo tempo, membro da sociedade? Certamente um papel de grande revelância. Sem dúvida que existirá o equilíbrio entre aquilo que lhe está inerente, os valores adquiridos durante a vida, e o comprimisso vigente do contrato pelo sucesso da empresa. A excitação do desenvolvimento inteletual deve sempre obedecer a uma verdade mental e compreensão correta do indivíduo perante a situação. O progresso até agora obtido trouxe muita riqueza material mas empobreceu claramente o sentido de partilha. Os padrões morais mais do que regulados devem permanecer profundamente incrustados no ser do engenheiro. Claramente que se um engenheiro é forçado a fazer algo que vai contra a sua consciência pode colocar o seu lugar em risco, mas se existir a noção, por parte do instigador, que o próximo engenheiro será igual ao seu antecessor, a nível de integridade, essa pressão tenderá a desaparecer. Por este motivo a Engenharia deve permanecer um grupo coeso e de referência, pela sua responsabilidade para com a sociedade.

Tomadas de decisão Transferência da iniciativa O paralelo 38ºN, que delimita a Coreia do Norte da Coreia do Sul, é provavelmente uma das fronteiras mais problemáticas do mundo. Países unidos foram separados após a guerra da Coreia (1950-1953) e consequentemente muitas famílias foram dilaceradas. A dúvida levanta-se na cabeça do soldado fronteiriço: “E se a pessoa que tentar transpor a fronteira é minha familiar? Irei conseguir disparar?”. Para ultrapassar este dilema, neste momento, a Coreia do Sul tem dois robots a patrulhar a fronteira23. Ambos possuem força letal sob o pretexto da inferioridade numérica militar em relação à Coreia do Norte24. A transferência do poder da morte para uma máquina não é novidade25 e 21

Normalmente este tipo de falha acontece pelo binómio tempo/custo. A catástrofe nuclear que atingiu Fukushima, no Japão, deveu-se sobretudo ao forte abalo sismico seguido de tsunami. No entanto, até que ponto os aspetos relativos com a segurança foram negligenciados? Sabe-se agora que relatórios de controlo tinham sido adulterados. Possivelmente poderiam ter-se minimizado os efeitos desta catástrofe se o trabalho tivesse sido executado diligentemente. Com isto tudo a credibilidade da energia nuclear sofreu um forte revés. 23 http://www.newser.com/story/95480/south-korea-border-robots-ready-to-kill.html, consultado a 17/04/2011 24 Para cada militar Sul Coreano existem dois Norte Coreanos.

Página

8

22

ISMAT - Engenharia Informática 2011

A Ética do Super-Homem acaba por libertar o ser humano das questões éticas. Mas e se for um civil desarmado? Terá a máquina capacidade para distinguir uma ameaça de uma pessoa desesperada que procura salvamento? Mesmo que a máquina possua algoritmos de reconhecimento inequívocos de ameaça pode, ainda assim, falhar mas um soldado no escuro que não consiga distinguir a intenção da outra pessoa também pode. Na verdade estamos perante uma desresponsabilização total do ato de matar outro ser humano. Devemos utilizar as máquinas para fazer os trabalhos duros mas não aqueles que são contra as regras básicas do Humanismo. Guerra por um clique As baixas militares em teatro de guerra distantes motivam descontentamento na opinião pública que prejudicam as decisões políticas. Esta é a principal razão pela qual cada vez mais são usados U.A.V. (Unnamed Air Vehicle) ou como são vulgarmente denominados “drones”. Um dos “drones” mais usados no Afeganistão são os drones Predator, que são remotamente controlados a partir do Nevada, a 12.000km de distância, sem colocar em risco os pilotos em zonas extremamente hostis26. Este fator leva as forças militares dos EUA a treinar mais operadores de controlo remoto do que pilotos tradicionais. Quando existe uma tomada de decisão distante, a guerra bem como a morte de seres vivos torna-se mais fácil pois relativa-se a situação. No caso dos Predator os operadores ao final do dia podem jantar com as suas famílias, logo o stress é menor; na realidade até chega a ser encarado como um videojogo. Gostaria de comentar este cenário por três aspetos: Cena 4 : Ataque de drones é neutralizado por robot (O dia em que a Terra parou).

1º Enquadra-se no exemplo anteriormente discutido que mostra uma tendência para automatizar a guerra27.

2º O que torna legítimo a uma nação usar este tipo de tecnologia e outra não? E até que ponto não incita insurgentes a utilizar os mesmos meios? Atualmente por menos de 500,00€28 consegue-se fazer um drone caseiro que pode ser usado para atividades terroristas. 3º Os diversos automatismos inerentes à aeronave permitem que esta possa ser facilmente controlada por uma máquina que possua inteligência artificial29.

25

http://pt.wikipedia.org/wiki/Injeção_letal, consultado a 29/04/2011. Principalmente devido à geografia irregular. 27 Para termos uma noção 1/3 da defesa nos EUA em 2050 devem ser automáticas. 28 Este valor aproximado foi obtido pelo preço de um avião telecomandado (http://www.somodelismo.com/product_info.php?cPath=10_26_81&products_id=1948) e um sistema de piloto automático vendido livremente pela internet (http://diydrones.com/). 29 Os mais recentes desenvolvimentos vão no sentido da remoção humana do elemento decisor como pode ser observado neste artigo: http://www.wired.com/dangerroom/2011/04/this-man-is-not-an-agent-of-self-aware-killerdrones/

Gonçalo Lourenço

Página

9

26

A Ética do Super-Homem É fundamental, para as empresas que desenvolvem este tipo de tecnologia letal, manter sempre uma certa dependência da máquina perante o ser humano, por exemplo este tipo de aeronaves, atualmente, não podem ser autoreabastecidas e/ou autoreparar-se. Este tipo de reflexões deve ser prática corrente no seio dos investigadores, para garantir o mínimo de segurança. Podemos daqui extrair que a reflexão é a base fundamental da ética responsável. Controlo total Imaginemos agora uma tomada de decisão integral por uma máquina como nos sugere a cena 5: Em plena guerra fria o WOPR30 calculava hipotéticas simulações da III Guerra Mundial e tomava decisões para anular as ações hostis. Contudo as simulações passam para outro plano e o WOPR começa a tomar a iniciativa para lançar os mísseis nucleares, Cena 5 : Computadores assumem comando (Wargames). pois nos seus cálculos a vitória está do seu lado. A impossibilidade de desligar o supercomputador e de cortar as comunicações com os silos de mísseis leva David a jogar para poupar o Mundo uma guerra nuclear. A inteligência artificial é um “pau de dois bicos” por um lado auxilia o ser humano em decisões mais objetivas mas por outro pode tentar sobrepor-se por achar ter a melhor solução. É necessário ter a noção que criar um par de intelecto não significa ter controlo ou concordância absoluta da outra parte31.

Conhecimento da existência O novo “homem” Na década de 50 Alan Turing lança um teste: através de uma série de perguntas o entrevistador deveria distinguir se o entrevistado seria humano ou não. Na altura era um desafio interessante mas hoje em dia quando entramos numa sala de conversação não sabemos ao certo se estamos perante uma máquina ou não32. Esta capacidade reflete o sentido da não linearidade como era suposto encontrar. Num passo mais à frente será possível incutir uma máquina com processo de reflexão racional para distinguir o bem do mal? Até que ponto é desejável uma máquina possuir inteligência emocional? Cena 6 : "Mais humano que um humano" (Blade Runner).

Qualquer possibilidade de uma das faculdades mudaria certamente a presença das máquinas no seio da sociedade. Na verdade deixariam de ser consideradas “máquinas” e ficariam a um nível de igualdade com os humanos, um impacto nunca antes visto na nossa sociedade33. A preparação da sociedade atual tem, neste

Página

10

30

War Operator Plan Responser, traduzido Operador Plano de Resposta Guerra também denominado por “Joshua” pelo criador. 31 Este tipo de pensamento remete-nos para o conto “Frankenstein” de Mary Shelley. 32 São os denominados “Chatbots”, serviço de atendimento virtual que responde a perguntas básicas num universo específico recorrendo a tecnologias de Inteligência Artificial. 33 Exceptuando talvez a miscigenação do homem com Neandertais como é prova o “menino de Lapedo”.

ISMAT - Engenharia Informática 2011

A Ética do Super-Homem momento, um longo caminho a percorrer dado que ainda em muitas situações ainda não aceita o seu igual, bem como a tendência para a autodestruição34. Mas e se as máquinas adotarem uma ética Darwiana35? O que as impedirá de se julgar superiores ao ser humano? Na mitologia e nos maiores credos religiosos não existe sempre um Criador e consequentemente servos que se rebelam contra esse Criador36? Se elaboramos uma máquina à nossa imagem é natural que tenha o mesmo tipo de comportamento dualista, é uma possibilidade não descartável e não censurarável.

Cena 7 : Revolução para proteger os defeitos humanos (I,Robot).

A criação enquanto extensão da nossa existência em substituição da reprodução projeta o ser humano para uma outra dimensão, a eterna e ambicionada imortalidade37. Cooperação vs Sobrevivência A colocação do primeiro robonauta em órbita (ver anexo I) é um novo marco na exploração espacial38. A ambição de explorar lugares cada vez mais longínquos no nosso sistema solar só irá ser possível, nos próximos tempos com o auxílio dos robots. Assim o Cena 8 : Propósitos da vida (Star Trek). robonauta não surge como um substituto do humano mas sim como seu parceiro39. Este pode ser considerado o primeiro passo para uma evolução totalmente diferente. A perceção da humanidade e crer na partilha dos mesmo ideais pode levar a ambas as espécies a caminharem lado a lado. Normalmente os animais permanecem com a sua capacidade reprodutora até próximo da sua morte. Nos humanos tal não acontece, a nossa vida prolonga-se muito para além da reprodução muito devido à função social dos mais velhos na educação dos mais novos. E o novo “homem”? Qual o seu propósito de vida e sua perceção da morte? A perceção da mortalidade pode facilmente levar à quebra dos códigos mais elementares para garantir a sua sobrevivência, como por exemplo o garante de acesso à energia (alimentação) ou tratamento igualitário40. Aliado à sua capacidade de decisão interligada41 tornam-no num adversário enorme. Cena 9 : Consciência de existência (Blade Runner). 34

A autodestruição tem sido sempre bloqueada em última instância pelos imperativos da consciência. Teoria segundo a qual os seres vivos que sobrevivem são aqueles que melhor se adaptam ao meio envolvente. 36 Isaías 14:14 “Subirei sobre as alturas das nuvens, e serei semelhante ao Altíssimo”. 37 Atualmente já é possível reproduzir o cérebro de um rato. http://online.wsj.com/article/SB124751881557234725.html#articleTabs%, consultada a 06/05/2011. 38 O Japão estima a partir de 2015 colonizar a lua com robots. http://news.cnet.com/8301-17938_105-200060751.html?tag=reddit2, consultada a 06/05/2011. 39 De acordo com John Olson, diretor da Exploração de Sistemas Integrados da NASA “A combinação do potencial humano com o robotizado é o exemplo perfeito que o todo é maior que a soma das partes”. 40 Como é exemplo na nossa história das revoltas camponesas na Idade Média (Jacquerie).

Gonçalo Lourenço

Página

11

35

A Ética do Super-Homem O seu propósito de vida pode significar tanto um auxílio na colmatação das limitações humanas como o seu absoluto controlo para assegurar a sua sobrevivência. Fusão À técnica seria absurdo que a recusássemos, lhe recusássemos a espantosa facilitação da vida, por mais que a essa vida ela perturbe - como aos seus doutrinadores. Uma máquina é pura, desde a inocência com que se nos revela, ou seja precisamente a exterioridade em que se nos dá. Mas uma inocência é uma abertura à realização do que o não é. O destino de uma máquina tem o destino que lhe dermos, e um dos piores é o finalizá-la nela própria. Assim e para lá da criação do seu próprio espaço, por uma máquina, da alteração que a sua própria existência em nós promove, todo o problema se decide no lugar-comum desta alternativa: remeter a máquina ao homem ou degradar o homem à máquina. Vergílio Ferreira, in 'Invocação ao Meu Corpo' A fronteira entre o ser humano e a máquina está a desaparecer rápidamente42. Na criação de andróides o aspeto exterior não é deixado ao acaso. A sua forma humanizada é propositadamente para facilitar a sua integração com os humanos. Esta nova realidade vai promover alterações profundas na sociedade. Como as pessoas vão reagir ao ser tratadas exclusivamente por máquinas? Serão capazes de gerar afeto por uma máquina? A máquina irá ter alguma vez dúvidas que ela própria Cena 10 : Criação perfeita gera afetos por parte dos humanos (AI). é uma máquina? “Desligar” uma máquina não será equivalente a matar um ser humano? Uma vez criados, os humanóides traçarão o seu próprio caminho e distintos entre si. Os pais podem dar a mesma educação a dois filhos mas estes certamente terão caminhos diferentes, porque a receção/perceção do conhecimento e a envolvente social são diferentes pela inerência da subjetividade43. Por outro lado teremos uma aproximação no sentido inverso, ou seja, o ser humano vai aproximar-se da máquina. A “gadjetização” deste ser humano nietzschiano vai ajuda-lo a ultrapassar as suas limitações e aproximá-lo da nova espécie, o novo “homem”.

Página

12

41

Desenvolvimento de estudos da organização social das abelhas são usualmente transpostas para problemas de cooperação entre robots com sucesso. 42 A Intel pensa em 2020 lançar um chip que possa vir a ser implementado no cérebro humano. http://www.computerworld.com/s/article/9141180/Intel_Chips_in_brains_will_control_computers_by_2020, consultada a 06/05/2011. 43 Em laboratório ficou comprovado que o cérebro digital de um rato começou espotâneamente a desenvolver uma organizada rede neuronal. http://www.popsci.com/scitech/article/2009-07/computerized-rat-brain-spontaneouslydevelops-complex-patterns, consultada a 08/05/2011.

ISMAT - Engenharia Informática 2011

A Ética do Super-Homem

Raw model, a meta final? Estaremos na iminência de criar modelos melhores do que nós proprios? As três leis de Asimov (ver caixa) são bonitas enquanto conceitos tal como os 10 Mandamentos seriam se fossem seguidos pelos adetos da sua fé. Mas serão realmente exequiveis? A partir dos fundamentos base o novo “homem” irá certamente refletir sobre essas leis e da sua existencialidade. A sustentação cultural de um Cena 11 : Diretivas (Robocop). povo baseia-se fundamentalmente no seu percurso e da forma como ultrapassou as suas adversidades. Podemos ser tentados a ver os humanóides como seres perfeitos a ser seguidos, no entanto vale a pena recordar uma vez mais a história. O povo alemão sempre foi considerado um povo culto e trabalhador, no entanto nada impediu a subida ao poder de um regime ditatorial44 que perseguiu uma minoria pela crença da sua superioridade rácica. Esta lição pode ser entendida pelos humanos mas ao longo do tempo também já foi esquecida muitas vezes45.



1ª lei: Um robô não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal.



2ª lei: Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens contrariem a Primeira Lei.



3ª lei: Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou a Segunda Lei.

44 45

O regime nazi foi eleito democraticamente a 1933 e prolongou-se até 1945 (final da 2ª Grande Guerra Mundial). Genocídio no Ruanda em 1994 onde a etnia tutsi perseguiu a etnia hutu é um dos exemplos mais recentes.

Gonçalo Lourenço

Página

13

In Wikipedia

A Ética do Super-Homem

Espreitar o futuro

Robots of the world! The power of man has fallen! A new world has arisen: the Rule of the Robots! March!

Fim da humanidade? O risco de criar um golem46 é enorme, daí o destaque dado à ética, relacionada sobretudo com o desenvolvimento de inteligência artificial, ser fundamental.

Karel Capek, in “R.U.R. (Rossum’s Universal Robots)”

A não existência do perfil de riscos pelo esquecimento das lições passadas, deficientes prognósticos e falta de zelo pode levar a uma verdadeira calamidade. A única maneira de evitar esse destino é através de uma liderança ética, inclusão de critérios éticos nos processos de seleção dos trabalhadores, códigos de conduta, inclusão nos sistemas de avaliação do desempenho e aposta nos sistemas de prevenção.

Conclusão Devido à complexidade da natureza humana a primeira reação será certamente de rejeição ao novo “homem”. Vai existir um processo natural de miscenização que já está em curso47.

Cena 12 : O fim da humanidade (Extreminador 2).

Os verdadeiros humanóides vão ser valorizados à medida que estes contribuem para o bem estar e na construção pacífica de uma sociedade mais equilitativa, livre e fraterna48. Embora a guerra tenha muitas vezes o efeito dinamizador do desenvolvimento e progresso49, o excessivo desenvolvimento militar de robots pode desequilibrar a opinião pública se estes possuírem uma má conduta, ou se forem mal induzidos50. Se alguma vez criarmos algo tão inteligente como nós teremos de os tratar como iguais, pois estaremos a gerar uma “máquina” de afetos. A nossa atitude perante humanóides será algo de admiravelmente novo. Antes de criamos algo de tão grandioso como uma cópia de nós mesmos será necessário a Humanidade crescer com esse mesmo sentimento, o de Humanidade que é o “princípio ativo” da ética e o respeito pela conservação do planeta que habitamos. Cena 13 : Desconfiança da tecnologia (Alien II).

46

Ser servil relacionado com a religião judaica. O caso de robots a tratarem de idosos ou incapacitados e a utilização de próteses revolucionários nos soldados norteamericanos. 48 Os ideais da Revolução Francesa ainda permanecem atuais. 49 Por exemplo a 2ª Grande Guerra Mundial veio a permitir a emancipação da mulher no mundo do trabalho, devido à escassez de mão de obra em postos que habitualmente eram ocupados por homens obrigou à contratação de mulheres para o esforço de guerra. 50 O surgimento da energia nuclear rapidamente foi adotada para fins militares que durante as tensões inerentes à guerra fria podia ter originado a exterminação humana.

Página

14

47

ISMAT - Engenharia Informática 2011

A Ética do Super-Homem

Bibliografia Aristóteles, “Ética a Nicómaco”, retirado de http://www.citador.pt/ a 12/03/2011 Karel Capek, “R. U. R. (Rossum's Universal Robots)”, traduzido por Paul Selver e Nigel Playfair, 1921 John J O’Neill, “Prodigal Genius: The Life of Nikola Tesla”, 1944 Carl A. Huffman, “Archytas of Tarentum-Pythagorean, Philosopher and Mathematician King”, 2005 William C. Mann, “Smart Technology for aging, disability, and independence”, 2005 Mark Elling Rosheim, “Leonardo’s Lost Robots”, 2006 James J. Duderstadt “Engineering for a Changing World A Roadmap to the Future of Engineering Practice, Research, and Education”, 2008 Cristopher G. Langton e Katsunori Shimohara, “Artificial Life V”, 1997 Pierre-Yves Oudeyer, “On the Impact of Robotics in Behavioral and Cognitive Sciences: From Insect Navigation to Human Cognitive Development”, 2010 Autor desconhecido, “Filosofia 2006/2”, Scribd acedido a 20/03/2011, 2006 Arménio Rego, Jorge Braga, “Ética para Engenheiros”, 2010 Vergílio Ferreira, “Invocação ao Meu Corpo”, 1969 Franck Moreau, “Compreender e Gerir Riscos”, 2002 Roberto Requião, Yvelise Arco-Verde, Ricardo Bezerra, Alayde Digiovanni, Mary Hutner, Jairo Marçal, “Antologia de Textos Filosóficos”, 2009

Filmografia O Dia em que a Terra Parou (2008). Diretor: Scott Derrickson. Jogos de Guerra (1983). Diretor: John Badham. Exterminador Implacável 2: O Dia do Julgamento (1991). Diretor: James Cameron. Robocop - O Polícia do Futuro (1987). Diretor: Paul Verhoeven. Olho de Lince (2008). Diretor: D. J. Caruso. Blade Runner – Perigo Iminente (1982). Diretor: Ridley Scott. Eu, Robot (2004). Diretor: Alex Proyas.

15

Aliens: O reencontro final (1986). Diretor: James Cameron.

Página

AI – Inteligência Artificial (2001). Diretor: Steven Spielberg. Star Trek (1966-1969). Série de TV. Gonçalo Lourenço