Armas Autônomas e Dignidade Humana: a Ética da Morte por Algoritmo

O avanço das tecnologias de inteligência artificial no campo militar permitiu uma nova categoria de armas: armas autônomas – sistemas capazes de escolher seus alvos sem intervenção humana e, do mesmo modo, acionar a arma a eles acoplada. Embora a literatura militar identifique exemplos de armas semiautônomas e mesmo alguns exemplos esparsos de armas completamente autônomas sendo utilizadas desde 1980, somente nos últimos 10 anos, com sistemas sofisticados e realisticamente autônomos se aproximando no horizonte, o debate jurídico e ético acerca desses sistemas emergiu e começou a ganhar força. A principal força motriz de tais discussões é representada pela corrente que pede o banimento das armas autônomas, de modo semelhante a outros armamentos convencionais proibidos sob o Direito Internacional Humanitário. Os defensores da proibição de armas autônomas incluem ONGs defensoras de direitos humanos e especialistas das Nações Unidas representando 26 países no Grupo de Especialistas da Convenção sobre Armas Convencionais. Seu principal argumento é que armas autônomas violam a dignidade humana, em diversas bases. 

Pedro R. Borges de Carvalho

Este texto consiste em um excerto do relatório de pesquisa apresentado no XXVII Seminário de Iniciação Científica e Tecnológica da PUC-Rio de 2019.

Os argumentos apresentados pelos defensores do banimento de armas autônomas podem ser classificados em três grupos: (i) argumentos “pragmáticos” baseados nas capacidades tecnológicas de armas autônomas de cumprir com normas de direito internacional humanitário, (ii) argumentos consequencialistas sobre o impacto de armas autônomas na paz e estabilidade global, e (iii) argumentos éticos deontológicos baseados na insubstituibilidade do julgamento moral humano, incluindo argumentos baseados no conceito de dignidade humana. Este trabalho se dedica exclusivamente à terceira categoria de argumentos.
Argumentos contra armas autônomas fundados na violação da inerente dignidade humana são os mais populares no debate global sobre banimento ou moratória do desenvolvimento e uso de armas autônomas. No entanto, embora utilizando o mesmo termo, seus defensores exibem múltiplas diferenças estruturais e conceituais em suas linhas argumentativas. Tanto a popularidade do emprego do termo “dignidade humana” quanto a variabilidade de estruturas argumentativas sob o mesmo fundamento podem ser explicados pela sua compatibilidade com uma enorme gama de paradigmas metafísicos (o conceito pode ser inserido em um quadro estoico, kantiano, cristão, ou diversos outros paradigmas). Analisamos os principais expoentes das linhas argumentativas mais relevantes do debate ético sobre armas autônomas, contra e a favor sua utilização.
Christof Heyns sustenta que a delegação de uma decisão sobre a vida ou morte de seres humanos a máquinas (“morte por algoritmo”, em suas palavras) consiste per se em uma violação da dignidade humana, conforme concebida por Immanuel Kant, na medida em que as pessoas designadas como alvos seriam tratadas como “objetos passíveis de ataques mecanizados”, não como seres humanos únicos merecedores de respeito e julgamento moral individualizado. Nesse sentido, ainda que pudessem vir a ser mais precisas na conduta armada e no respeito do direito internacional humanitário, máquinas, desprovidas de moralidade e mortalidade, não poderiam fazer justiça à gravidade da decisão de usar ou não força contra um ser humano em um caso particular.
Heyns também argui que não apenas a dignidade das pessoas atacadas por armas autônomas é afetada, como também a dignidade daqueles em nome de quem armas completamente autônomas sejam utilizadas, na medida em que estariam abdicando de sua responsabilidade moral, ficando impossibilitados de assumir e exercitar sua responsabilidade, a partir do momento da delegação de sua autonomia moral a “entidades sem sangue”. Heyns não deixa exatamente claro, no entanto, como exatamente tal delegação infringiria a dignidade da pessoa humana que emprega uma arma autônoma. Seu argumento neste respeito parece adotar a lógica do paradigma tradicional da dignidade humana, em que a pessoa tinha obrigações, sobretudo, para com sua própria dignidade. Enquanto é possível contemplar um dano à dignidade humana mais facilmente em casos em que a pessoa afetada teve um dano correlato definitivo (civil ou combatente morto ou mutilado; soldado com danos psicológicos graves como resultado de matar outros combatentes), essa hipótese de violação da dignidade proposta por Heyns parece uma abstração absoluta.
Em sua posição de relator especial das Nações Unidas sobre execuções extrajudiciais, sumárias ou arbitrárias, em seu relatório de 2013 à Assembleia Geral das Nações Unidas, Heyns defendeu que a delegação do processo de seleção de alvos provoca desumanização adicional do conflito armado e elimina qualquer possível momento de “deliberação”. Neste último ponto, Heyns parece se referir a situações de “naked soldier”, como são chamadas na literatura militar, em que soldados poupam a vida de inimigos em momentos inofensivos em que sua humanidade está exposta (e.g. soldado surpreendido pelo inimigo enquanto contempla uma paisagem, ou se banha), como ato de misericórdia. Com armas autônomas no lugar do soldado de carne e osso, tais pequenos momentos de misericórdia seriam definitivamente eliminados, o que seria reprovável a partir de um ponto de vista consequencialista. Embora situações de “naked soldier” sejam a exceção, e não a regra, e sejam em verdade raríssimos no conflito armado, é dito que a delegação da decisão de matar a máquinas teria impactos amplamente difusos, para além de tais pequenos incidentes, uma vez que incrementaria a “distância psicológica” entre “militares humanos” e o ato de matar, mitigando a resistência natural humana ao assassinato. Além disso, o emprego de armas autônomas também poderia promover uma descarga da responsabilidade moral (individual e coletiva) pela morte, potencialmente dando azo a mais uso letal da força. Heyns adiciona que, como consequência da eliminação do fardo moral pelo ato de matar, seguiria a degradação da mentalidade social coletiva, que perderia apreço pela vida: “Se você elimina o fardo moral do ato de matar, matar se torna amoral”.
Paul Scharre nota que tal argumento é intrigante no que tange a sua valorização de uma consequência negativa da guerra sobre soldados humanos (estresse pós-traumático por matar) como uma virtude – o que, com efeito, parece qualificar uma contradição da parte de Heyns, que parecia preocupado com a dignidade humana dos agentes militares por quem armas autônomas poderiam atuar no campo de batalha. Scharre contempla, a partir de uma perspectiva puramente utilitarista, consequencialista, que em um mundo em que somente armas autônomas carregam a responsabilidade de matar haveria menor ocorrência de males psiquiátricos em soldados (embora o autor concorde que isso seria moralmente errado, e que o papel do profissional militar é carregar o peso da morte).
No entanto, o argumento de Heyns sobre a desumanização do conflito armado não é tão consequencialista quanto é deontológico. Em resposta ao seu relatório de 2013, Dieter Birnbacher adereçou o posicionamento do Relator Especial sobre a violação intrínseca da dignidade humana pela delegação de decisões letais sobre vidas humanas a máquinas. Birnbacher associa a posição de Heyns a uma “tendência inflacionária” de emprego do conceito da dignidade humana, em que o conceito é aplicado não apenas a indivíduos humanos de forma específica, mas à espécie humana como um todo. O autor nota que enquanto o termo “desumanizar” tem uma dimensão descritiva (na medida em que armas autônomas retirariam o processo da conduta armada parcial ou integralmente das mãos de agentes humanos), também condena a prática como incompatível com o que é permissível sob a “dignidade humana”. Com efeito, tal conclusão de Heyns somente pode ser descrita como uma genuína intuição, na visão de Birnbacher.
Como segunda tendência inflacionária da dignidade humana no debate dos “killer robots”, Birnbacher identifica a utilização do termo dignidade como sinônimo de moralidade por inteiro. O uso da dignidade humana como conjunto coincidente com a moralidade é amplamente difundido no debate ético moderno, e pode ser identificado no discurso de Peter Asaro, um defensor do banimento das armas autônomas. Asaro escreve que, “por questão de preservação da moralidade humana, dignidade, justiça e direito, não podemos aceitar que um sistema autônomo faça uma decisão de tirar uma vida humana”. Birnbacher ataca tal tipo de argumento em três bases: (i) priva o conceito de dignidade humana de sua especificidade e poder; (ii) ignora o fato de que a dignidade humana é uma noção especificamente defensiva ou protetiva; e (iii) tende a produzir a ilusão de que afirmar que uma ação é contra a dignidade humana adiciona qualquer fator substancial ao julgamento sobre sua imoralidade, ao passo que apenas a reafirma – isto é, o argumento é uma tautologia.
A terceira tendência inflacionária apontada por Birnbacher consiste no uso amorfo do termo dignidade humana, apresentado como “fórmula vazia”, expressão desarticulada de repulsa, forma de “yuk fator”. Um exemplo de argumento contra armas autônomas que invoca dignidade humana efetivamente como um “conversational stopper” pode ser encontrado no manifesto de 2014 da Human Rights Watch, o qual declara que “armas totalmente autônomas poderiam comprometer o princípio da dignidade, sob o qual está implícito que todos têm um valor merecedor de respeito”.
Para Ariadna Pop, o uso da dignidade humana como uma “concha vazia” (consequência inevitável da ausência de esclarecimentos quanto ao conteúdo da dignidade humana na argumentação de um dado autor), torna o conceito vulnerável a manipulação e esvazia a credibilidade do debate em questão. Pop, portanto, argumenta que, pelo menos enquanto não há consenso sobre um significado delimitado da dignidade humana, o conceito não deveria ser usado no debate sobre armas autônomas.
Nehal Bhuta nota que tanto os usos inflacionários quanto usos mais delimitados do termo dignidade humana no debate objetivam articular uma ansiedade sobre as consequências de delegar certos tipos de ação humana a máquinas. Bhuta indaga qual é a característica das armas autônomas que provoca essa sensação de ameaça à dignidade humana, e nota que com relação a essa questão ainda há muito a ser investigado, no espírito analítico de Dieter Birnbacher.
Talvez a resposta esteja em como o “robô” é percebido no imaginário humano, sobretudo no imaginário jurídico. Em Allen v. State, a Suprema Corte do Alabama negou um recurso de um condenado por assassinato que alegava que as expressões faciais do juiz durante o julgamento revelavam parcialidade e teriam criado preconceitos no júri. A apelação foi desprovida sob o entendimento de que “o juiz é um ser humano, não um autômato ou um robô”. No julgamento da corte estava implícita a ideia de que, enquanto um juiz robô não seria traído pelas emoções, também não seria capaz de verdadeira sabedoria ou justiça. Afixada nessa lógica está a noção de que embora vivamos sob “o governo das leis, não dos homens”, como escreveu o presidente John Adams, essas leis devem ser interpretadas por homens e mulheres reais. Em uma situação de ataque armado em que todas as escolhas possíveis resultam na morte de um ser humano, uma arma autônoma se torna um juiz, e é comumente entendido que um robô não pode ser um juiz.
Conclui-se que o conceito de dignidade humana será a peça determinante para o debate político-jurídico sobre a permissibilidade do desenvolvimento e emprego de armas autônomas em campo de batalha. O argumento, de bases éticas, não pode ser superado pelo avanço da tecnologia, o que poderia ser o suficiente para suplantar as críticas baseadas na impossibilidade prática de máquinas cumprirem princípios de direito internacional humanitário como a Distinção e a Proporcionalidade.

Referências bibliográficas
ASARO, P. Jus nascendi, Robotic Weapons and the Martens Clause. In: CALO, R.; FROOMKIN, M.; and Kerr; I. (Eds.) Robot Law. Londres: Edward Elgar Publishing, 2016. p. 367–386.

ASARO, P. On banning autonomous weapon systems: human rights, automation, and the desumanization of lethal decision-making. International Review of the Red Cross, v. 94, n.886, p.708.

BHUTA, N. et al. Present futures: concluding reflections and open questions on autonomous weapons systems. In: BHUTA, Nehal et al. (Eds.) Autonomous weapons systems: Law, ethics, policy. Cambridge: Cambridge University Press, 2016, p.347–383.

BIRNBACHER, D. Are autonomous weapon systems a threat to human dignity? In: BHUTA, Nehal et al. (Eds.) Autonomous weapons systems: Law, ethics, policy. Cambridge: Cambridge University Press, 2016. p.105–121.

CALO, R. “Robots as Legal Metaphors”. Harvard Journal of Law & Technology, v.30, n.1,
2017.

HEYNS, C. Autonomous weapons systems: Living a dignified life and dying a dignified death. In: BHUTA, Nehal et al. (Eds.) Autonomous weapons systems: Law, ethics, policy. Cambridge: Cambridge University Press, 2016. p.3- 20.

HEYNS, C., Report of the Special Rapporteur on extrajudicial, summary or arbitrary executions, UN Doc. A/HRC/23/47, abr. 2013.

HUMAN RIGHTS WATCH. Losing Humanity: The Case against Killer Robots, HRW site, nov. 2012. Disponível em: <https://www.hrw.org/report/2012/11/19/losing-humanity/case-against-killerrobots>. Acesso em: 24 jun. 2019.

HUMAN RIGHTS WATCH. Shaking the Foundations: The Human Rights Implications of Killer Robots. New York, 2014.

POP, A. (2018). Autonomous weapons systems: A threat to human dignity? Humanitarian Law and Policy, ICRC blog, abr. 2018. Disponível em: <https://blogs.icrc.org/law-andpolicy/2018/04/10/autonomous-weapon-systems-a-threat-to-human-dignity/> Acesso em: 30 jun. 2019.

SCHARRE, P. Army of None: Autonomous Weapons and the Future of War. 1. ed. Nova Iorque: W. W. Norton & Company, 2018.

SHARKEY, A. Autonomous weapons systems, killer robots and human dignity.
Ethics and
Information Technology
, v.21, n.2, p. 75–87, jun. 2019.

SUPREME COURT OF ALABAMA. Allen v. State, 276 So. 2d 583, 586 (Ala. 1973).

 

 

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s