PLATAFORMAS REMOTAMENTE OPERÁVEIS, SISTEMAS AUTÔNOMOS E A GUERRA: UMA ANÁLISE DOS DESAFIOS EMERGENTES Anna Caroline Pott (PPGEM-EGN / PPED-UFRJ)
III EBERI (2016) Niterói, Rio de Janeiro
Sumário • Introdução • Conceituação: ▫ Plataformas remotamente operáveis ▫ Sistemas autônomos
• Perspectiva histórica • Desafios emergentes • Considerações finais
Introdução • Crescimento exponencial da ciência e tecnologia no Pós Segunda Guerra Mundial. • Intensificação do debate sobre plataformas remotamente operáveis e sistemas autônomos. ▫ Man-in-the-loop; ▫ Man-on-the-loop; ▫ Man-out-of-the-loop.
Introdução • Objeto: identificar os desafios tecnológicos, políticos, éticos, morais e legais decorrentes do uso da força por meio de plataformas remotamente operáveis e sistemas autônomos.
• Relevância: necessidade de análise e debate sobre o uso dos sistemas autônomos antes da extensiva criação, desenvolvimento e emprego de tal tecnologia de caráter potencialmente devastador para a humanidade. • Metodologia: exploratória.
Conceituação • Plataformas remotamente operáveis
▫ “Um veículo não tripulado capaz de ser controlado a distância por meio de um link de comunicação” (USA, 2005, p.454, tradução nossa). ▫ Linguagem leiga: drones.
“Veículo terrestre, naval ou aeronáutico controlado remotamente ou de modo automático” (USA, 2005, p. 171, tradução nossa).
• Sistemas autônomos:
▫ São aqueles que ditam “as próprias regras de conduta de forma independente de terceiros, ou, (...) é capaz de observar, orientar, decidir e atuar sem assistência humana externa” (VICENTE, 2013, p. 202).
Perspectiva histórica • Primeira Guerra Mundial (1914-1918)
▫ Aviões com balões de câmeras. ▫ Curtiss-Sperry aerial torpedo e Kettering Bug.
• Segunda Guerra Mundial (1939-1945) ▫ V-1 e V-2.
• Guerra do Vietnã (1959-1975)
▫ Lightning Bugs (Ryan Aeronautical).
• Kosovo e Afeganistão
▫ MQ-1 Predator (General Atomics).
• “Guerra ao Terror” (2001-presente)
Desafios emergentes • Tecnológicos
▫ Lora Weiss (2011): Sistemas autônomos ainda estão longe de serem utilizados, uma vez que necessitam sentir, decidir e interagir. ▫ Vicente (2013): Na medida em que as necessidades operacionais aumentem, os obstáculos tecnológicos serão superados.
• Políticos
▫ Menores custos e restrições: maior opção de estratégias. ▫ Risco político: emprego da força como primeira opção, aumentando a frequência de conflitos. ▫ Sociedade: debates e desconfiança.
Desafios emergentes • Legais
▫ Movimentos coletivos contra: regulamentação mais assertiva que restrinja o emprego de tais tecnologias, bem como, protocolos éticos que limitem a ação das máquinas a nível do Direito de Guerra. ▫ Necessidade de cumprimento do Direito de Guerra e das regras de engajamento. ▫ Desafios:
Os sistemas autônomos observam os requisitos estabelecidos no Direito de Guerra e nas Regras de Empenhamento hoje existentes? Os regramentos hoje existentes são suficientes para garantir o uso de tais tecnologias ou há a necessidade de criação de um arcabouço legal mais assertivo, permitindo uma maior proteção do uso dessa tecnologia? Quem é o responsável pelos atos legais e possíveis falhas decorrentes de operações com sistemas autônomos?
Desafios emergentes • Morais e Éticos
▫ Vicente (2013, p. 205) aponta que as publicações do Departamento de Defesa dos Estados Unidos da América quase não abordam as questões éticas e morais do uso de sistemas autônomos. ▫ Ronald Arkin (2009, 2010): Máquinas são capazes de agir com maior ética do que os soldados, comportando-se de forma mais humana que os próprios humanos e diminuindo a baixa de soldados. ▫ Noel Sharkey (2009): Máquina terá dificuldades em distinguir combatentes de não combatentes, bem como, dificuldade na aplicação de uma resposta proporcional. ▫ Distanciamento do combatente do cenário de batalha. ▫ Sparrow (2009): Plataformas remotamente operáveis e sistemas autônomos não são ainda capazes ainda de atender a padrões éticos universais. ▫ Peter Asaro (2007): A ética e moral não estão suficientemente explícitas no regramento internacional, devendo haver novos instrumentos normativos que trabalhem a questão. ▫ Sharkey (2009): Sistemas deveriam ser banidos até a solução das problemáticas levantadas.
Considerações finais • Dificuldade de previsão do futuro das inovações humanas. • Necessário avaliar o impacto das tecnologias antes de sua implementação no cenário de batalha, uma vez que determinadas tecnologias podem alterar significativamente o modos operandi da guerra e a própria humanidade. • Emprego de plataformas remotamente operáveis e sistemas autônomos possuem vantagens e desvantagens. • Questões éticas demandam que a comunidade internacional volte-se a discussão e criação de convenções de guerra mais assertivas que impeçam o uso indiscriminado dessas tecnologias para assassinatos seletivos.
Obrigada! Contato:
[email protected] /
[email protected]
