La plausibilidad del derecho en la era de la inteligencia artificial: filosofía carbónica y filosofía silícica del derecho 8413248418, 9788413248417

Citation preview

LA PLAUSIBILIDAD DEL DERECHO EN LA ERA DE LA INTELIGENCIA ARTIFICIAL. Filosofía carbónica y filosofía silícica del derecho

Colección Derechos Humanos y Filosofía del Derecho Fco. Javier Ansuátegui (Director) Consejo Asesor Elías Díaz Universidad Autónoma de Madrid

Jesús Ignacio Martínez García Universidad de Cantabria

Eusebio Fernández Universidad Carlos III de Madrid

Luis Martínez Roldán Universidad de Oviedo

Juan Antonio García Amado Universidad de León

Gregorio Peces-Barba (†) Universidad Carlos III de Madrid

José Ignacio Lacasta Universidad de Zaragoza

Javier de Lucas Universidad de Valencia

Antonio E. Pérez Luño Universidad de Sevilla Virgilio Zapatero Universidad de Alcalá

Comité Científico María José Añón Universidad de Valencia

Fernando H. Llano Universidad de Sevilla

Rafael de Asís Universidad Carlos III de Madrid

Ana María Marcos del Cano Universidad Nacional de Educación a Distancia

María del Carmen Barranco Universidad Carlos III de Madrid Francisco Javier Ezquiaga Universidad del País Vasco Cristina García Pascual Universidad de Valencia

Ángel Pelayo Universidad de Cantabria Alberto del Real Universidad de Jaén Julián Sauquillo Universidad Autónoma de Madrid

La colección “Derechos Humanos y Filosofía del Derecho” constituye un espacio en el que se publican trabajos enmarcados en el ámbito de la aproximación iusfilosófica al Derecho y de la consideración de los derechos como elemento central de la teoría de la justicia y de la cultura del constitucionalismo contemporáneo. Pretende constituirse en un espacio en el que concurra la diversidad de enfoques posibilitado por los espacios compartidos por la Filosofía del Derecho, la Filosofía política y la Filosofía moral.

Roger Campione

LA PLAUSIBILIDAD DEL DERECHO EN LA ERA DE LA INTELIGENCIA ARTIFICIAL. Filosofía carbónica y filosofía silícica del derecho

No está permitida la reproducción total o parcial de este libro, ni su incorporación a un sistema informático, ni su transmisión en cualquier forma o por cualquier medio, sea este electrónico, mecánico, por fotocopia, por grabación u otros métodos, sin el permiso previo y por escrito del editor. La infracción de los derechos mencionados puede ser constitutiva de delito contra la propiedad intelectual (art. 270 y siguientes del Código Penal). Diríjase a Cedro (Centro Español de Derechos Reprográficos) si necesita fotocopiar o escanear algún fragmento de esta obra. Puede contactar con Cedro a través de la web www.conlicencia.com o por teléfono en el 91 702 19 70/93 272 04 07.

Este trabajo se enmarca en el Proyecto «El Logos de la guerra» (DER2017-82106-R), financiado en el marco del Programa Estatal de I+D+i Orientada a los Retos de la Sociedad.

Colección Derechos Humanos y Filosofía del Derecho Fco. Javier Ansuátegui (Director) Los trabajos publicados han superado un proceso de evaluación anónimo llevado a cabo por especialistas nacionales e internacionales en la materia. Los manuscritos deberán enviarse a la dirección [email protected] en un documento anónimo en el que no se incluyan datos o informaciones que permitan conocer la identidad del autor. En otro documento se incluirán los datos personales y un cv del autor. Puede consultar las instrucciones para los autores en: www.editorialdykinson.com/coleccionderechoshumanosyfilosofiadelderecho.com

© Copyright by Roger Campione Editorial DYKINSON, S. L. Meléndez Valdés, 61-28015 Madrid Teléfonos (+34) 915 44 28 46 – (+34) 915 44 28 69 E-mail: [email protected] http://www.dykinson.es http://www.dykinson.com ISBN: 978-84-1324-870-7

Preimpresión: SAFEKAT, S.L. www.safekat.com

Esta lucha con un enemigo a quien se comprende, es la verdadera tolerancia, la actitud propia de toda alma robusta (Ortega y Gasset, Meditaciones del Quijote)

È cosa di malo esemplo non osservare una legge fatta, e massime dallo autore d’essa (Niccolò Machiavelli, Discorsi sopra la prima Deca di Tito Livio)

ÍNDICE

INTRODUCCIÓN: HOMO EX MACHINA  POST-INTRODUCCIÓN SOBRE TECNOLOGÍA Y COVID-19  PARTE I. FILOSOFÍA DEL DERECHO INTERNACIONAL Y CORTOCIRCUITOS NORMATIVOS: DE LA INTELIGENCIA ARTIFICIAL A LOS VIEJOS ENEMIGOS  I.1. DEL ESTADO SOCIAL AL ESTADO SEGURO  I.2. UNA GEOGRAFÍA NORMATIVA EN CRISIS  I.3. GUERRA Y TECNOLOGÍA  I.3.a. Ciencia aplicada, guerra y derecho  I.4. LA PLAUSIBILIDAD DEL DERECHO HOY  I.5. LEYES Y LAWS  I.6. ROBÓTICA Y CORTOCIRCUITOS NORMATIVOS  I.7. DERECHO TLÖNICO  I.8. LA CRISIS DE LOS NOMBRES DE LA GUERRA. 

11 18

27 27 36 39 40 50 56 66 78 84 9

Índice

PARTE II. FILOSOFÍA HUMAQUINISTA DEL DERECHO  II.1. EL SER HUMANO ENTRE NATURALEZA Y CULTURA  II.2. TRAS EL HUMANISMO  II.3. VIEJOS DILEMAS Y NUEVOS RETOS  II.4. LAS IMPLICACIONES ÉTICO-NORMATIVAS DE LAS TECNOLOGÍAS CONVERGENTES  II.5. EL MUNDO DE SOPHIA  II.6. BREVE ANOTACIÓN ACERCA DE LOS MODELOS PREDICTIVOS  II.7. TRANSHUMANISMO Y SALUD  II.8. EPÍLOGO 

91 91 96 100 106 115 121 127 134

BIBLIOGRAFÍA 

139

ÍNDICE ONOMÁSTICO 

155

ÍNDICE DE MATERIAS 

161

10

INTRODUCCIÓN: HOMO EX MACHINA

Hace unos años, en la Lección Inaugural del Acto de Apertura del Curso Académico 2015/2016 del Campus Iberus, el paleontólogo Juan Luis Arsuaga planteaba «dos inquietantes preguntas: 1) ¿Es inevitable que toda historia evolutiva que conduce a una especie inteligente, donde sea, termine bruscamente en la autodestrucción de la misma en una guerra nuclear, o por agotamiento de los recursos del planeta en el que nació? ¿Lleva el desarrollo de la civilización necesariamente a la insostenibilidad y al suicidio ecológico? ¿Son los seres conscientes de naturaleza tan inconscientes? 2) ¿Es posible que la consciencia surja en una computadora? Que es lo mismo que preguntarse: ¿necesita la consciencia un soporte orgánico? ¿O es indiferente el material que le dé asiento, sea de la química del carbono o del silicio?» 1

1   ARSUAGA, J.L., El umbral de la conciencia: Lección Inaugural Solemne Acto de Apertura del Curso Académico 2015-2016, Universidad de La Rioja, Oficina de Comunicaciones, Logroño, 2015, pp. 14-15.

11

Roger Campione

Estas dos preguntas, con las que me he topado cuando la redacción de este texto estaba ya en fase avanzada, resumen de forma retroactiva el trazado que pretendía seguir en el trabajo. Porque identifican con razonable precisión los dos ámbitos en los que se ha querido medir, desde el punto de vista iusfilosófico, el impacto problemático de las nuevas tecnologías convergentes, especialmente la robótica y la inteligencia artificial. Por un lado, el ámbito militar, donde la irrupción de nuevos sistemas de armamento y las estrategias bélicas subyacentes están planteando retos novedosos a un paradigma normativo de la guerra entrado en crisis, por su parte, ya en el siglo anterior. Por el otro lado, el ámbito de la ‘vida civil’, donde la perspectiva transhumanista del potenciamiento humano y de la hibridación del ser físico con las máquinas constituye un exigente banco de prueba para las construcciones clásicas y las teorías ético-jurídicas de la acción y la conciencia humana. La primera consideración de orden general es que al fin de encarar con la suficiente amplitud de miras lo que se otea al horizonte, los operadores y los saberes jurídicos tendrán que recordar que el término hombre (homo), el motor inmóvil del derecho moderno, está etimológicamente ligado a humus (la tierra, el suelo que el género humano habita). Y también lo está desde el punto de vista mitológico y religioso: «Modeló Yavé Dios al hombre de la arcilla y le inspiró en el rostro aliento de vida, y fue así el hombre ser animado», dicen las Escrituras 2. El desafío filosófico-jurídico suscitado por la robótica y la inteligencia artificial, de este modo, implicaría un retorno a los orígenes, a cuando el ser humano surgió de la misma materia con la que fabricamos hoy los artefactos más sofisticados, en los cuales –y es un punto crucial en el debate formado al albur de la cuarta revolución industrial– estamos introduciendo el ‘soplo de vida’.

2   Génesis, 2,7, Sagrada Biblia, ed. de E. Nácar Fuster y A. Colunga, 17ª ed., Biblioteca de autores cristianos, Madrid, 1965, p. 30.

12

Introducción: homo ex machina

Realizaré una panorámica sobre robots que pueden realizar tareas tradicionalmente humanas; sobre sistemas dotados de inteligencia artificial que aprenden por sí mismos y no precisan de soporte humano para hacerlo, una vez puestos en marcha. Sobre programas que prevén quién tiene más probabilidades de cometer delitos. Sobre aplicaciones cuasi-milagrosas que potencian las capacidades humanas y que tratan patologías médicas de un modo impensable hasta hace nada. Sobre jueces que dictan sentencias de despido improcedente porque una empresa sustituye a un trabajador con una máquina (un bot de gestión). Sobre drones equipados con inteligencia artificial que podrán operar en ámbito militar sin ninguna intervención humana, utilizando un algoritmo para seleccionar los objetivos a atacar. Resulta cada vez más real y concreto el escenario prefigurado por el Parlamento Europeo en una Resolución de 2017, cuando consideraba que «cuanto más autónomos sean los robots, más difícil será considerarlos simples instrumentos en manos de otros agentes (como el fabricante, el operador, el propietario, el usuario, etc.)» 3. Bien pues, ¿cómo afecta a la dimensión normativa este mestizaje ‘ontológico’ entre lo biológico y lo técnico? Parecería necesaria una compenetración entre la tradicional filosofía carbónica, es decir orgánica, del derecho, con el hombre como ser vivo situado en su centro, y una nueva filosofía silícica del derecho, a saber, que incorpora la arena, la materia inorgánica antropoide como posible sujeto de derecho. Estoy recogiendo aquí el guante lanzado por el Doctor Chandra en 2010, Odisea dos, cuando defiende que para evitar una reacción inesperada por parte del ordenador Hal, como ya sucediera en 2001: una odisea del espacio, hay que contarle a la computadora la verdad sobre el cambio de planes de la tripula-

3   PARLAMENTO EUROPEO, Normas de Derecho civil sobre robótica, Resolución del Parlamento Europeo (P8_TA(2017)0051), de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103(INL)).

13

Roger Campione

ción del Discovery. El joven Max Brailovsky le espeta estupefacto que ¡demonios! Tan solo se trata de una máquina, y Chandra le recuerda entonces que «también nosotros lo somos, señor Brailovsky. Sólo es una cuestión de niveles. El hecho de estar constituidos por carbono o por siliconas no hace una diferencia fundamental; deberíamos tratarnos mutuamente con un respeto apropiado». No es de extrañar, en ese contexto futurista, que la persona de menor tamaño presente en la sala, el Dr. Chandra, le parezca en ese momento al Dr. Floyd la más grande 4. Resulta fantasmagórico dotar de personalidad jurídica a una máquina o a un programa informático y, sin embargo, el presente y el futuro nos están abocando a ello. ¿Estamos hablando de ciencia ficción? No estoy seguro; es más, en cierto sentido resulta ser, más que un viaje hacia el futuro, lo contrario, un retorno al ἀρχή (arkhḗ), al principio, al regreso del ser humano a la tierra, a la arena, al silicio, porque de ella fue tomado, «pues polvo eres, y al polvo volverás», continúa poco después el Viejo Testamento 5. Amén de la metáfora mística, si bien no podemos saber a ciencia cierta cómo surgió la vida en la tierra hace seis mil millones de años, ¿acaso no se considera muy probable que, en algún momento, cierta suministración de energía a una serie de compuestos inorgánicos haya producido compuestos orgánicos? ¿Y que la vida propiamente dicha haya empezado en cuanto una de esas moléculas desarrolló la capacidad de reproducirse a sí misma? Desde este punto de vista, el maridaje entre lo orgánico y lo inorgánico constituiría un regreso a la sustancia originaria, al contacto terrenalmente material, Y, sin embargo, como ha destacado Yuval Noah Harari, la mezcolanza entre lo orgánico y lo inorgánico, que se verifica cuando entra en juego la combinación de la inteligencia artificial con la biotecnología, produce

4   CLARKE, A.C., 2010: Odissey Two, New York, Ballantine Books, 1982; trad. cast. 2010: Odisea dos, EMECE Editores, Buenos Aires, 1983, p. 129. 5  Genésis, cit., 3,19, p. 32.

14

Introducción: homo ex machina

algo totalmente nuevo, como el ciborg (cybernetic organism), el ser formado por materia viva y dispositivos electrónicos. Hasta ahora, desde el origen de nuestra especie e incluso desde los Neandertales, la evolución humana se ha basado siempre en componentes orgánicos. Pero ahora proyectamos y construimos entidades que parcialmente no son así y esto, manifiesta el historiador israelí, puede constituir un salto evolutivo en la transformación de la especie. Si lo que separaba biológicamente al Neandertal del Sapiens era un porcentaje muy restringido de diferencias genéticas (ya que comparten más de un 99%), ¿qué modificación podemos esperar que se produzca en nuestra especie a raíz de la fusión entre lo humano y lo tecnológico? El salto podría ser mucho más impactante 6. Podría objetarse que no hay nada nuevo bajo el sol, que el motor de la evolución humana siempre ha sido, desde la prehistoria, la interacción entre el hombre y la técnica, la creación del instrumento y, sobre todo, la creación del instrumento que permite crear otros instrumentos 7. Al fin y al cabo, nos dijo Bergson, la inteligencia es la facultad de fabricar objetos artificiales; es el homo faber quien construye la ‘realidad arte-facta’ mediante su inteligencia que, por tanto, es siempre inteligencia artificial 8. ¿Dónde estaría entonces la novedad? Residiría, según vaticinaba Jastrow hace ya varias décadas, en la modificación óntica de la materia viva: nos encontraríamos ante una forma de vida inteligente «evolucionada a partir del hombre, pero hija de su cerebro antes que de sus órganos sexuales», artificial en el sentido de que estaría hecha «de chips de silicio en vez de

  HARARI, Y.N., «Homo Selfie», entrevista de Roberto Saviano en Robinson. 27 de julio de 2019, p. 2. 7   LATORRE, J.I., Ética para máquinas, Ariel, Barcelona, 2019, p. 28; HARRÉ, R., One Thousand Years of Philosophy, Blackwell, Oxford, 2000; trad. cast. 1000 años de filosofía. Taurus, Madrid, 2002, p. 17. 8   BERGSON, H., L’évolution créatrice, Le Presses universitaires de France, París, 1959; trad. cast. La evolución creadora, Espasa-Calpe, Madrid, 1985, p. 131; MARTÍNEZ GARCÍA, J.I., «Inteligencia y Derecho», en Cuadernos Electrónicos de Filosofía del Derecho, n. 37, 2018, p. 106. 6

15

Roger Campione

neuronas» 9. En este sentido, hoy en día cobra relevancia la posibilidad concreta de que un futuro sistema autónomo empleado en un conflicto armado, como veremos, no requerirá la aplicación de ningún protocolo mediado por un ser biológico; no solo para ejecutar acciones, sino también para seleccionar y tomar decisiones. En la era de internet la despersonalización llevaría aparejada una desmaterialización de la persona especialmente importante en el ámbito bélico. Otra novedad, lo tiene bastante claro Harari, es que desaparecería también la unidad espacial de la vida, pues hasta hoy, la edad de la robótica, los elementos tradicionalmente orgánicos del individuo tenían que coincidir espacialmente para funcionar: un brazo, separado del cuerpo, no era utilizable. Esto no es necesario en un ciborg que puede maniobrar su brazo, aunque esté en otra habitación o a miles de kilómetros de distancia. Hace años que los investigadores consiguieron que un mono controlara con su mente desde Carolina del Norte un par de piernas biónicas que estaban en Kyoto y que pesaban veinte veces el peso del mono; o que moviera a distancia un brazo biónico a la vez que movía sus dos brazos orgánicos. Pero ahora las aplicaciones que se están estudiando van encaminadas a proyectar interfaces cerebro-máquina de doble sentido, es decir, para que el ordenador, conectado a internet o a otros cerebros, también pueda transmitir al cerebro señales que este pueda leer. A resultas de este logro habría que reajustar el alcance de conceptos como memoria, consciencia e identidad 10.

  JASTROW, R., The Enchanted Loom: Mind in the Universe, Simon & Schuster, Nueva York, 1981; trad. cast. El telar mágico, Salvat, Barcelona, 1985, pp. 145-146 (cit. en DIÉGUEZ, A., Transhumanismo, La búsqueda tecnológica del mejoramiento humano, Herder, Barcelona, 2017, p. 54). 10   NICOLEIS, M., Beyond Boundaries: The New Neuroscience of Connecting Brains and Machines – and How It Will Change Our Lives, Times Books, Nueva York, 2011, cit. en HARARI, Y.N., From animals into Gods: A Brief History of Humankind, Vintage Books, Londres, 2015; trad. cast. Sapiens. De animales a dioses. Breve historia de la humanidad, 8ª ed., Debate, Barcelona, 2016, 9

16

Introducción: homo ex machina

Cuando desarrollemos la capacidad de conexión directa entre cerebro humano y máquina, por tanto, se verá modificada la idea misma de ‘organismo viviente’: el potenciamiento de nuestras facultades derivado de la hibridación con la máquina convertiría en guía de nuestras acciones a los algoritmos, que se volverían partes integrantes de nuestro ser. La dimensión normativa, regulativa, de la vida social representa una incógnita muy importante en este escenario de presente y futuro. Estas cuestiones se antojan insoslayables a los ojos expertos del jurista. No es ningún misterio que hayan florecido, en los últimos años, estudios jurídicos sobre robótica, inteligencia artificial y nuevas tecnologías 11. Y son bien conocidas, como se ha ejemplificado antes, las normas y recomendaciones legales que han surgido en esta materia. Pero es cierto, como ha destacado Martínez García, que la mayoría de estos análisis se ocupan del tratamiento técnicamente problemático de ámbitos legales concretos (la protección de datos, el e-commerce, la ciberseguridad o la amenaza a las libertades), mientras merece también

pp. 445-446. Sobre las implicaciones éticas de las interfaces cerebro-máquina en relación con los presupuestos teóricos de la acción y la consciencia humana, vid. MONASTERIO ASTOBIZA, A., AUSÍN, T., TOBOSO, M., MORTE FERRER, R., APARICIO PAYÁ, M., LÓPEZ, D., «Traducir el pensamiento en acción: Interfaces cerebro-máquina y el problema ético de la agencia», en Revista de Bioética y Derecho, 46, 2019, pp. 29-46. 11   Solo por mencionar una muestra de monografías aparecidas en España en los últimos años: DE ASÍS, R., Una mirada a la robótica desde los derechos humanos, Dykinson, Madrid, 2014; SÁNCHEZ DEL CAMPO REDONET, A., Reflexiones de un replicante legal. Los retos jurídicos de la robótica y las tecnologías disruptivas, Cizur Menor, Aranzadi, 2016; IGLESIAS CABERO, M., Robótica y responsabilidad: aspectos legales en las diferentes áreas del Derecho, Colex, A Coruña, 2017; BARRIO ANDRÉS, M. (ed.), Derecho de los robots, Wolters Kluwer, Madrid, 2018; ERCILLA GARCÍA, J., Normas de derecho civil y robótica : robots inteligentes, personalidad jurídica, responsabilidad civil y regulación, Thomson Aranzadi, Cizur Menor, 2018; SÁNCHEZ-URÁN AZAÑA, Y., GRAU RUIZ, M.A. (dir.), Nuevas tecnologías y derecho. Retos y oportunidades planteadas por la inteligencia artificial y la robótica, Jurúa, Oporto, 2019; NAVAS NAVARRO, S. (ed.), Nuevos desafíos para el derecho de autor. Robótica. Inteligencia artificial. Tecnología, Reus, Madrid, 2019.

17

Roger Campione

la pena plantearse el desafío conceptual iusfilosófico que afecta a la forma de pensar el derecho por parte del jurista, preguntándose si el ordenamiento jurídico se transforma en una base de datos más que en un conjunto de normas, o si el sistema de fuentes se convierte en una cuestión de Big Data. O si la subjetividad jurídica se extiende a la personalidad electrónica y la racionalidad procedimental se convierte en una ecuación algorítmica 12. POST-INTRODUCCIÓN SOBRE TECNOLOGÍA Y COVID-19 No cabe duda de que, si nos atenemos a la más estricta contingencia –que, sin embargo, tiene visos de tener consecuencias duraderas en un futuro más lejano– la encrucijada de los juristas tiene que ver más que nunca con el derecho en cuanto dispositivo esencial de regulación política. Porque nos hallamos en tiempos de emergencia, sujetos a medidas legales excepcionales, implantadas y justificadas como temporales. Sin embargo, aquí temporales no significa sometidas a una fecha perentoria de caducidad. De hecho, se trata de disposiciones que mientras redacto estas líneas ya han sido prorrogadas y con toda probabilidad lo serán más todavía. Medidas temporales, en el contexto actual, significa legítimas mientras dure la emergencia. Y la existencia de una emergencia, también desde el punto de vista legal, depende en buena medida de la percepción de la emergencia. Vujadin Boškov, famoso entrenador yugoslavo de fútbol en el siglo pasado, contestó a la pregunta sobre un posible penalti esgrimiendo que «penalti es cuando árbitro pita». Con esto quería decir que eran inútiles las discusiones sobre si una falta se había realmente producido o no, porque no es eso lo que determina la aplicación de la regla; lo relevante es que la autoridad competente

  MARTÍNEZ GARCÍA, J. I., «Inteligencia y Derecho», cit.

12

18

Introducción: homo ex machina

para decidir considere si ha ocurrido o no. Así pues, nos enfrentaremos a una situación de emergencia mientras las autoridades correspondientes estimen que existen tales extremos y será esta valoración lo que determine su realidad. Claro que ello podrá lograrse con mayor o menor éxito conforme las autoridades sepan persuadir o convencer a la población y especialmente a los grupos de presión social de que hay que seguir afrontando el presente con instrumentos excepcionales. Qué tiene que ver esto con las nuevas tecnologías, podría preguntarse el lector. Que uno de los mecanismos esenciales para afrontar la crisis causada por la pandemia del COVID-19 consiste y consistirá en directivas de vigilancia. Y la tecnología de la vigilancia está avanzando de manera galopante. Es sabido que algunos países como China, Israel o Corea del Sur, pero también Islandia, Canadá o Rusia, ya han empleado de distintas maneras instrumentos de control de los ciudadanos a través de sus teléfonos móviles, registrando los movimientos o utilizando una tupida red de cámaras de reconocimiento facial diseminadas por las ciudades, para obligar a las personas a informar acerca de su temperatura corporal. Existen aplicaciones que avisan a los usuarios si se encuentran cerca de individuos contagiados. También en países como España e Italia se está planteando alguna forma de geolocalización y aplicaciones de contact tracing como medida de lucha contra el coronavirus, para reconstruir la geografía variable de las ubicaciones, con el objetivo de trazar un mapa de proximidad entre ciudadanos gracias al bluetooth y a las redes wi-fi que, se declara, será voluntario y anónimo por parte de los usuarios. De hecho, para hacer posible esta vigilancia sanitaria acaban de sellar una alianza impensable Apple y Google, hasta ayer acérrimos enemigos por razones de mercado y de filosofía empresarial, comprometiéndose a proporcionar de forma gratuita los servicios y funcionalidades de contact tracing a los gobiernos y a las autoridades sanitarias. Aseguran que se tratará de una tecnología opt-in, es decir, los usuarios tendrán que elegirla de manera explícita, pero es natural que tales dispositivos de vigilancia representen una amenaza para los derechos de las personas. 19

Roger Campione

No solo porque no se sabe cómo serán aplicados técnicamente ni se conoce el nivel de transparencia de sus códigos o algoritmos, sino por el desplazamiento de poder ‘social’ que implica semejante gestión de las identidades digitales por parte de ­actores privados que ocupan una posición destacada en los mercados. El control masivo mediante el uso de la tecnología no es obviamente algo nuevo, ya sabemos que también las grandes multinacionales nos vigilan como consumidores para influenciar nuestros gustos y preferencias. Lo novedoso, señala Harari, es que hasta hoy esta tecnología se empleaba para saber qué páginas web visitamos o qué productos buscamos en la red. Sin embargo, a raíz del coronavirus, es posible que cuando pinchemos en un link lo que se vaya a detectar no sea solo la dirección a la que estamos accediendo, sino la temperatura del dedo que ha tocado la pantalla, la presión sanguínea, el latido cardíaco y todos los datos biométricos del caso 13. Todo esto es posible gracias a que ciertos algoritmos pueden analizar un volumen inimaginable de información y podrían descubrir una enfermedad en un sujeto antes de que él mismo se dé cuenta o advierta algún síntoma. Un grado total de eficacia en salud pública, a cambio de la aniquilación de la privacidad. Nos hallamos ante una de las grandes disyuntivas político-jurídicas que van a marcar el mundo post-pandemia y el problema surge por el increíble avance de las tecnologías ligadas a la inteligencia artificial y el Big Data, sin los cuales sería impensable entrar tan adentro en la esfera jurídica personal. La necesidad de una reflexión de amplio espectro sobre la gestión de los nuevos avances es innegable. Porque en una época tan cambiante y en distintos aspectos continuamente sorprendente, no puede darse nada por sentado. Se habla, con razón, de las muy fructíferas aplicaciones de la robótica y la inteligencia artificial en el ámbito sanitario, militar o laboral.

13   HARARI, Y.N., «The World after Coronavirus», en Financial Times, 20 de marzo de 2020.

20

Introducción: homo ex machina

Y nos habría gustado ver a los robots exponiéndose a las repetidas y peligrosas cargas virales causadas por el contacto con los pacientes, en lugar de hacerlo los profesionales sanitarios de carne y hueso. O que hubieran sido los robots los encargados de repartir las compras por los domicilios particulares para evitar que las personas tuvieran que salir de casa. O incluso que hubieran acompañado y asistido a tantos ancianos solos que no pueden estar en contacto con sus familiares por el peligro del contagio. En lugar de ello, singularidades de la técnica y de las sociedades, lo que tenemos es que en Taiwan, uno de los considerados ejemplos virtuosos en la gestión de la emergencia, se ha reanudado la liga de béisbol, pero, a causa de la persistente necesidad de mantener la distancia social, el equipo de los Rakuten Monkeys ha decidido jugar ante un público incondicional: quinientos robots que aplauden al equipo 14. Dice Peter Sloterdijk que se acabó la época en que los seres humanos pensaban poder sustraerse a su responsabilidad frente a lo monstruoso, porque ellos son ahora los técnicos de lo monstruoso, al haberse convertido, con los medios de que disponen, en los antiguos creadores de dioses, los teúrgos. El filósofo alemán destaca dos fechas clave en este apocalipsis biológico: las bombas atómicas lanzadas sobre Hiroshima y Nagasaki en agosto de 1945 y el anuncio de la clonación de la oveja Dolly en febrero de 1997. Dos fechas que atestiguan que el hombre ya no puede ser comprendido a partir del animal que ha sido y que a veces sigue queriendo ser 15. Pero, en febrero del año anterior a este segundo acontecimiento, en 1996, también se produjo otro hecho notable: Deep Blue, la computadora de IBM, vence a Garry Kasparov en el que sería llamado el más espectacular duelo de ajedrez de la historia. Se trata de

14   LUNA, R., «Ma che fine hanno fatto i robot?», en la Repubblica, 9 de abril de 2020. 15  SLOTERDIJK,P., Nicht gerettet. Versuche nach Heidegger, Surkhamp Verlag, Frankfurt am Main, 2001; trad. cast. Sin salvación. Tras las huellas de Heidegger, Akal, Madrid, 2011, p. 108.

21

Roger Campione

otra fecha simbólica en la relación entre el ser humano y la naturaleza, pues parece romper la ilusión de la superioridad de la inteligencia humana frente a la máquina. Algo que se ha visto confirmado por la nueva generación de inteligencia artificial desarrollada, como veremos, en tiempos más recientes, que nos recuerda el carácter no natural de la técnica y, al mismo tiempo, la imposibilidad de concebir al ser humano fuera de su relación con la técnica. Aun así, la reflexión de Sloterdijk sobre el origen y las posibilidades del hombre es sugerente cuando desvela el mecanismo antropogenético de la Lichtung, el claro heideggeriano en el que surge lo humano. El ser humano, apunta, es el resultado de una producción que de por sí no puede haber sido realizada por el hombre. El engranaje antropogenético tiene una procedencia pre-humana, no puede haber existido un sujeto productor originario, puesto que antes de serlo, el ser humano aún no era lo que sería y, por tanto, su producción no pudo ser emprendida intencionalmente por el ser humano 16. Para llegar a él, señala Sloterdijk, son necesarios cuatro mecanismos paleontológicos de los cuales el segundo es la «exclusión corporal»: a través de este dispositivo comienza la existencia del homo technologicus, es decir, de un animal que aferra las cosas con sus patas que, gracias a esta toma y manejo de objetos, se van transformando en manos. Fue Paul Alsberg quien reconoció la centralidad de este mecanismo antropogenético de superación de los límites del cuerpo, para concebir la historia natural del distanciamiento humano respecto del medio natural. Partiendo del primer mecanismo de Sloterdijk, la insulación, es decir, la creación de un espacio entre otros, que se remonta a los inicios de la historia animal y vegetal, cuando los ejemplares que viven en los márgenes geográficos de las comunidades producen el efecto de una pared viviente en cuyo interior se genera una ventaja climática para los que residen en el cen-

  SLOTERDIJK, P.,Sin salvación, cit., pp. 109-110.

16

22

Introducción: homo ex machina

tro 17, se va formando en ciertos pre-homínidos la evolución hacia el ser humano mediante el uso primero casual, después elaborado y finalmente crónico de los instrumentos. De este modo, Sloterdijk interpreta la superación de los límites corpóreos como una «evasión de la cárcel» representada por unas relaciones con el medio natural determinadas solo de manera biológica 18. Parece que hoy estamos más plásticamente que nunca inmersos en un proceso parecido. Con la particularidad de que ya no está en juego la transición de lo animal a lo humano, sino de lo humano a lo trans- o post-humano. La sofisticación actual de las nuevas tecnologías proyecta la reflexión y los debates hacia una nueva fase antropogenética: una vez que la técnica nos ha emancipado de los límites corporales frente al medio natural y nos ha convertido de animales a hombres, las nuevas aplicaciones tecnológicas nos plantean la superación de lo humano hacia lo post –¿quién sabe si super o sub?– humano en dos sentidos contrapuestos: como mecanización de lo vivo y como vivificación de lo mecánico. Cruzamos más allá de la imaginación kubrickiana en 2001: una odisea del espacio. Allí el ser humano alcanza el estadio de superhombre liberándose de la tecnología que le ha hecho superar la etapa animal; aquí, el estado híbrido post-humano, humaquinista, sería consecuencia de la supremacía tecnológica. Las inevitables inquietudes que estas premisas suscitan en los científicos sociales están en la base de las páginas siguientes. Cabe vislumbrar que se trata de cuestiones nuevas que, al mismo tiempo, no son ajenas a los problemas tradicionales de

17   Este ‘efecto invernadero’, según Sloterdijk, es aprovechado en primer lugar, entre los animales que viven en rebaños y manadas, por las madres con sus cachorros, en unas condiciones ‘climatológicas’ menos amenazadoras que reducen la presión adaptativa (SLOTERDIJK, P., Sin salvación, cit., p. 141). 18   Ibid. La obra de Alsberg que cita SLOTERDIJK,P., Sin salvación, cit., p. 116, es ALSBERG, P., Das Menschheitsrätsel, Sybillen-Verlag, Dresden, 1922; trad, ing. In Quest of Man. A Biological Approach to the Problem of Man’s Place in Nature, Pergamon Press, Oxford-New York-Toronto-Sidney, 1970.

23

Roger Campione

la ciencia jurídica. Especialmente en el terreno bélico e internacional, pero también en el civil, he intentado examinar un asunto general que me preocupa como filósofo del derecho y que se refiere a la capacidad del derecho para mantener el paso de una evolución tecnológica que está trastocando ciertas formas clásicas del pensamiento jurídico. Naturalmente, lo real y finalmente útil sería un pronóstico sobre qué hacer con el derecho para que no se convierta en una barrera demasiado franqueable frente a una realidad que lo supera constantemente, teniendo en cuenta que, hasta la fecha, no hemos pasado de genéricos llamamientos a impulsar una gobernanza de las nuevas tecnologías respetando valores y principios fundantes de nuestras sociedades. Este, sin embargo, solo pretende ser un primer y sucinto intento de someter a un test de esfuerzo las limitaciones jurídicas previstas en ciertos ámbitos, al fin de diagnosticar su grado de plausibilidad actual, observando si peligra la coherencia de los paradigmas normativos existentes con respecto a una realidad tecnológicamente tan cambiante. Puede que sea un experimento teórico no demasiado clarificador; sin embargo, puede orientar las preguntas, por decirlo con Paul Valery, en un mundo amenazado por dos grandes peligros: el orden y el caos 19. * * * Este trabajo, pese a su relativa extensión, es el producto de un proceso de elaboración largo, progresivo y sosegado. Su gestación y estructura se identifican con tres períodos o etapas distintas a lo largo de los dos últimos años. En términos cronológicos, el primer momento de reflexión –cuyo núcleo se corresponde con la última parte del texto– se remonta a la segunda parte de 2018, cuando los organizadores del XV Foro

19   VALERY, P., La crise de l’esprit, suivi de Note (ou l’Européen), Manucius, Le philosophe, Paris, 2016; ed. cast. Política del espíritu, Primera carta [1918], Editorial Losada, Buenos Aires, 1961, p. 140.

24

Introducción: homo ex machina

de Ética y Envejecimiento, patrocinado por el Hospital Monte Naranco de Oviedo y la Sociedad de Geriatría y Gerontología del Principado de Asturias (SGGPA), me encomendaron la conferencia inaugural sobre los asuntos del Transhumanismo. ­Desde aquí, deseo manifestar mi agradecimiento al Dr. José Gutiérrez, a la Dra. Laura Muñoz y al Dr. Sergio Gallego por depararme, en esa y otras ocasiones, la confianza (ciega) para colaborar con un equipo de trabajo bioético tan valioso y bien avenido. El texto de aquella conferencia, que es la base a partir de la cual he elaborado la segunda parte de este trabajo, ha aparecido en el n. 40/2019 de los Cuadernos Electrónicos de Filosofía del derecho. La segunda etapa, durante la cual ha visto la luz el contenido esencial de la primera parte del texto, ha transcurrido en la Universidad de Florencia, donde he tenido el honor y el placer de pasar el segundo semestre del curso 2018/2019, entre febrero y mayo, como Visiting Accademic en el Departamento de Ciencias Jurídicas de la facultad de Derecho, dirigidos respectivamente, en aquel momento, por la Profa. Patrizia Giunti y el Prof. Paolo Cappellini, a los que quiero agradecer la cálida acogida en el Polo di Novoli. No es la primera vez que aprovecho la fortuna de colaborar con el magnífico grupo que conforma en esa Universidad el Centro di filosofia del diritto internazionale e della politica globale Jura Gentium, fundado por Danilo Zolo, maestro y referencia insoslayable para todo cultor de la filosofía del derecho internacional. No será fácil olvidar las clases que he tenido ocasión de impartir en la Universidad de Florencia: fuera del rotundo fracaso que, en mi modesta opinión, ha representado la aplicación en las Facultades de Derecho del conocido como Plan Bolonia en España, que ha convertido la Universidad en una prolongación de la enseñanza secundaria, ha sido un lujo volver a entrar en un aula repleta de estudiantes considerados por su institución como ‘universitarios’. Es impagable la deuda que he contraído con el Prof. Filippo Ruschi, compañero y amigo ya de mil ‘batallas’ y con mi espléndida ‘anfitriona’, la Profa. Lucia Re. Y si todo lo de mi estancia en Florencia ha sido bueno se lo debo también a compañeros de 25

Roger Campione

Área como los profesores Rosaria Pirosa, Emilio Santoro, Stefano Pietropaoli y Domenico Siciliano, con los que he compartido clases, comidas, seminarios y cafés. Otro agradecimiento va dirigido al Prof. Luca Baccelli, Presidente de Jura Gentium, por haberme invitado a impartir una clase magistral en la Universidad de Camerino. Y también al Prof. Alessandro Colombo, por poner siempre a mi disposición su brillante lucidez intelectual. Una tercera ocasión de decantación del trabajo me la ha permitido la conferencia que, en octubre de 2019, mi amigo y admiradísimo colega, el Prof. Miguel Presno, me ha invitado a impartir en la Real Academia Asturiana de Jurisprudencia, corporación de la que me honra ser miembro, en el ámbito de un ciclo por él organizado y dedicado a los nuevos derechos en construcción. En aquella, como en otras ocasiones, agradezco que me acogieran en la Academia y me acompañaran su Presidente, el Prof. Leopoldo Tolivar, y su Vicepresidente, el Prof. Ramón Punset. Y gracias al Prof. Juan Antonio García Amado y a la Profa. Mercedes Fuertes, he tenido la ocasión de presentar algunas de las tesis esbozadas en este libro en el Máster en Derecho de la Ciberseguridad y Entorno Digital de la Universidad de León. Finalmente, he podido discutir muchas de las ideas contenidas en este libro con mi propio equipo de investigación, en cuyo seno llevamos ya muchos años trabajando en los temas de la guerra y con el que espero seguir compartiendo proyectos científicos y desafíos intelectuales en el campo de las ciencias sociales. Ana Aldave, Marta Rodríguez Fouz e Ignacio Sánchez de la Yncera son tres de las cuatro patas de una mesa que juntos, desde hace tiempo, intentamos apuntalar con ilusión y una mirada lo más amplia posible. Oviedo, Cuarentena de 2020

26

PARTE I. FILOSOFÍA DEL DERECHO INTERNACIONAL Y CORTOCIRCUITOS NORMATIVOS: DE LA INTELIGENCIA ARTIFICIAL A LOS VIEJOS ENEMIGOS

Dar Adal: ¡Dios, añoro la guerra fría! Saul Berenson: ¿Prefieres la amenaza del exterminio nuclear? Dar Adal: ¡No, añoro las normas! Los soviéticos no nos disparaban a nosotros, ni nosotros a ellos, pero esta panda… (Homeland, Temporada 2, episodio 10)

I.1. DEL ESTADO SOCIAL AL ESTADO SEGURO Desde siempre, el cuestionamiento filosófico del derecho se ha caracterizado por impulsar la reflexión sobre los asuntos básicos y primigenios del ordenamiento. Pensemos en problemas como el fundamento de la obediencia al derecho (¿por qué obedecemos?), los fines del derecho (¿para qué obedecemos?) o la identificación de la autoridad normativa (¿a quién debe27

Roger Campione

mos obediencia?) 20. Naturalmente, estas discusiones siempre se han desarrollado dentro de un contexto histórico más allá del cual no alcanza, no puede alcanzar, la mirada. Hic Rhodus, hic saltus, decía Hegel citando a Esopo 21. Y es normal, por tanto, que la búsqueda del alcance, los límites y la legitimidad de la obediencia y la soberanía se haya referido siempre a paradigmas jurídico-políticos universalizados pero contingentes. Estos modelos han ido cambiando desde la antigüedad hasta la Edad Media (polis, res publica, civitas, regnum) y también desde que apareció su versión proto-moderna, identificada como ­Estado 22. Entre el siglo XVI y el siglo XVII las guerras por el dominio en Europa, libradas con el empleo de grandes flotas y ejércitos, han desempeñado un papel esencial en la configuración de la nueva forma estatal: la necesidad de financiar los crecientes costes bélicos, en términos económicos y también humanos, favoreció la construcción de un ‘Estado’ cada vez más centralizado desde un punto de vista administrativo, fiscal y burocrático. En esta nueva estructura los ejércitos permanentes garantizan la fuerza política del rey incluso en tiempo de paz. A partir de la segunda mitad del siglo XV, en Italia, las nuevas formas del arte de la guerra, ligadas a las transformaciones técnicas de las milicias (básicamente mercenarias y dependientes únicamente de las arcas reales), inciden profundamente en la vida y el desarrollo de los Estados. Junto con el aspecto militar, durante el Renacimiento, el cambio se nota especialmente

20   De las tres preguntas, tal vez, la menos trillada en la literatura; cfr. al respecto, PASSERIN D’ENTRÈVES, A., «Obeying Whom», en Political Studies, vol. XIII n. 1, 1965, pp. 1-14, recogido posteriormente en Id., Obbedienza e resistenza in una società democratica, Edizioni di Comunità, Milán, 1970, pp. 31-52. 21   HEGEL, G.W.F., Fundamentos de la filosofía del derecho, ed. de K.H. Ilting, Libertarias/Prodhufi, Madrid,1993, p. 59. 22   Sobre este punto es recomendable la lectura PASSERIN D’ENTRÈVES, A. La noción de Estado, trad. y Prólogo de R. PUNSET, Ariel, Barcelona, 2001, en particular las pp. 51-61.

28

Filosofía del derecho internacional y cortocircuitos normativos…

gracias al advenimiento de una diplomacia profesional que anuncia una nueva época en la política exterior, pareja al surgimiento del llamado principio de equilibrio de potencias eu­­ ropeas 23. La consolidación del sistema de Estados nacionales, sobre todo a partir de comienzos del siglo XIX, ha configurado el objeto de estudio de la filosofía del derecho sobre la base del modelo paleo-iuspositivista, encarnado por un Estado de derecho cuyo principio estructural es el de legalidad formal. De hecho, la aparición del positivismo jurídico habría incluso bautizado el nomen de la filosofía del derecho, anteriormente llamada «derecho natural», según la conocida reconstrucción de González Vicén 24. Luego, a partir de mediados del siglo XX –después de la Segunda Guerra Mundial– en la experiencia histórica europea se ha afirmado el llamado Estado constitucional, caracterizado por la existencia de Constituciones rígidas y el control de constitucionalidad de las leyes. Inspirándose en un modelo teórico neo-iuspositivista, en el Estado constitucional las leyes no están sometidas únicamente a las normas formales sobre la producción sino también a normas sustanciales sobre su significado, que debe ser coherente con los principios establecidos en la Constitución 25. Pero al mismo tiempo, ya a lo largo del siglo XX, han ido apareciendo nuevas formas institucionales, inter y supra-nacionales, que han hecho mella en la autonomía normativa de los Estados nacionales, afectando a su independencia y soberanía. El nacimiento de la ONU, la UE, el FMI, el Banco Europeo, el Banco Mundial y otras agencias regionales o globales, ha tenido el doble efecto, por un lado, de poner en crisis la relación clásica entre el derecho interno y el

  Véase por todos CHABOD, F., Scritti sul Rinascimento, Einaudi, Turín, 1967, pp. 601-604. 24   GONZÁLEZ VICÉN, F., «La filosofía del derecho como concepto histórico», en Anuario de Filosofía del Derecho, IV (1969), pp. 15-65. 25   FERRAJOLI, L., Principia iuris. Teoria del diritto e della democrazia. 2. Teoria della democrazia, Laterza, Roma-Bari, 2007, pp. 29 y 33. 23

29

Roger Campione

derecho internacional y, por el otro, ha certificado la extraordinaria importancia política que han explícitamente asumido las fuerzas financieras 26 e incluso la vieja cuestión teórica de la naturaleza del derecho internacional, su validez y su sistema de fuentes 27. Desde el Leviatán de Hobbes, la tarea esencial del Estado consiste en la necesidad de garantizar puertas adentro la seguridad de los ciudadanos. Y condición necesaria para ello es la capacidad de hacer frente a las amenazas exteriores. Esta diferenciación entre las funciones de seguridad interna y de seguridad externa ha acompañado el desarrollo del Estado moderno y ha cristalizado en un deslinde claro de los cometidos policiales respecto de los asuntos diplomáticos y militares. Las dos esferas, confiadas tradicionalmente a estructuras institucionales distintas (cuerpos de seguridad del Estado, en el ámbito interno, y ejército en el ámbito internacional) y a arquitecturas normativas propias (derecho penal en un caso e ius gentium en el otro), experimentan desde hace algún tiempo una preocupante aleación discursiva y normativa que, amén de las posibles consideraciones críticas, pone de relieve una renovada interconexión problemática entre el espacio jurídico-político estatal y el ámbito internacional 28. Complicado, todo ello, por una ‘extraña’ tendencia sobre cuya base, por un lado, se ha consolidado una aplastante imposición de la lógica económica 26   Por citar un caso empírico relativamente reciente, ha sido emblemático el proceso de formación del gobierno italiano tras las elecciones políticas del 4 de marzo de 2018, con el rechazo explícito, después reconsiderado, por parte del Presidente de la República, de un candidato premier propuesto y apoyado por las fuerzas mayoritarias en el Parlamento, en virtud del hecho de que el nombramiento de uno de los ministros, un economista considerado euroescéptico, habría representado un peligro para la estabilidad económica italiana ante la desconfianza que tal postura despertaría en los mercados. 27   FERRAJOLI, L., Principia iuris, cit., pp. 482-483. 28   Sobre esta cuestión me permito remitir a CAMPIONE, R., ALDAVE ORZAIZ, A., «Normas y discursos: los conflictos armados y el derecho penal antes y después del 11-S», en Jura Gentium. Rivista di filosofia del diritto internazionale e della politica globale, vol XIII, 1, 2016, pp. 65-91.

30

Filosofía del derecho internacional y cortocircuitos normativos…

liberal, fruto de los procesos de globalización, que reduce la intervención de los Estados aupando actores y dinámicas incontrolables por las autoridades nacionales. Sin embargo, por el otro lado, aumenta considerablemente la intervención del Estado en el marco de la seguridad interna 29. Se reafirma así la actitud decimonónica y abstencionista del Estado paleoliberal mientras, al mismo tiempo, se fortalece paulatinamente el Estado de seguridad nacional, tal como confirman ciertos indicadores relativos a la ampliación de las inversiones y la fuerza de trabajo empleada en el ámbito de la seguridad nacional 30. En realidad, esta tendencia resultaría extraña solo si se redujera la lógica liberal al retroceso del Estado respecto de la vida económica, olvidando la importancia de la función represiva y el nivel de intervención estatal en la defensa del orden público, típicas del Estado liberal. Lo había señalado Foucault en su momento, como ha destacado con tino Mauro Barberis, hablando de la conexión entre libertad y seguridad típica del liberalismo: la «segunda consecuencia, claro, de ese liberalismo y del arte liberal de gobernar es la formidable extensión de los procedimientos de control, de coacción y coerción que van a constituir la contrapartida y el contrapeso de las libertades (…) esas famosas grandes técnicas disciplinarias que se hacen cargo del comportamiento de los individuos diariamente y hasta

  BUSCH, A., «The Changing Architecture of the National Security State», en HUBER, E., LANGE, M., LEIBFRIED, S., LEVY, J.D., NULLMEIER, F., STEPHENS J.D. (eds.), The Oxford Handbook of Transformations of the State, Oxford University Press, 2015; trad. cast. «La arquitectura cambiante del estado de la seguridad nacional», en Transformaciones del Estado contemporáneo, Tirant lo Blanch, Valencia, 2017, p. 460. 30   Según un estudio del Center for the Study of the Drone at Bard College,para el 2018 el Pentágono había previsto gastar 401,2 millones de dólares para desarrollar y emplear tecnologías counter-drone (HENNIGAN, W.J.,«Rising a New Threat», en Time. The Drone Age. A Special Report, 11 de junio de 2018, p. 24). Los presupuestos de Estados Unidos y Reino Unido en este capítulo se han cuando menos duplicado desde el 11 de septiembre de 2001 (BUSCH, A. «La arquitectura cambiante del estado de la seguridad nacional», cit., p. 481). 29

31

Roger Campione

en el más fino de los detalles son exactamente contemporáneas, en su desarrollo, en su explosión, en su diseminación a través de la sociedad, de la era de las libertades. Libertad económica, liberalismo en el sentido que acabo de decir y técnicas disciplinarias: también aquí las dos cosas están perfectamente ligadas» 31. De hecho, la implicación actual de la tesis foucaultiana, según Barberis, es que «la seguridad social 32 –la declinación principal del concepto de seguridad del siglo XX, que se sustenta en instituciones como la escuela, el hospital y la fábrica– no ha representado un obstáculo para el desarrollo del mercado, como cree la mayoría de los neoliberales contemporáneos, sino su condición necesaria» 33. En definitiva, la separación jurídica entre la seguridad interna y la externa no soslaya la influencia política que la segunda puede ejercer sobre la primera y viceversa. Y la creciente incompatibilidad entre libertad y seguridad registrada en las más recientes derivas legislativas de las democracias occidentales –que podríamos rotular de manera genérica como ‘legislación antiterrorista’– es una buena muestra de la erosión a la que se ve sometido el paradigma clásico del Estado de derecho, mediante la utilización de instrumentos legislativos para realizar políticas de seguridad preventiva. La ‘administrativización’ de la potestad punitiva del Estado en materia de seguridad ciu-

  FOUCAULT, M., Naissance de la bipolitique. Cours au Collège de France (1978-1979), Seuil/Gallimard, París, 2004; trad. cast. El nacimiento de la biopolítica. Curso en el Collège de France (1978-1979), Fondo de Cultura Económica, Buenos Aires, 2007, pp. 87-88. 32   En la versión original italiana, sicurezza sociale no tiene el significado específico que el sintagma ‘seguridad social tiene en castellano (RAE: «en sentido estricto, institución jurídica constituida para atender las prestaciones por desempleo, incapacidad, jubilación y otras situaciones socio-laborales de necesidad de las personas»). El término italiano correspondiente a esta institución sería previdenza sociale. 33   BARBERIS, M.,Non c’è sicurezza senza libertà. Il fallimento delle politiche antiterrorismo, Il Mulino, Bolonia, 2017, ed. e-book, doi: 10.1401/9788815332776/c1, p. 26; trad., cast. No hay libertad sin seguridad. La quiebra de las políticas antiterroristas, Trotta, Madrid, 2020. 31

32

Filosofía del derecho internacional y cortocircuitos normativos…

dadana, imponiendo «en algunos casos sanciones administrativas mucho más graves que las anteriormente previstas en el Código Penal para una conducta similar», es una señal clara de la intensificación de la acción preventiva del Estado y de su expansión sancionatoria 34.Y fenómenos como la restricción de la libertad de expresión en relación con los delitos de odio, de apología o de escarnio, donde la violencia no llega a tocar los cuerpos particulares sino las opiniones sobre valores inmateriales supra-individuales, desvelan el riesgo magistralmente alegorizado por Zechariah Chafee en 1919 refiriéndose a los que piensan que es mejor matar a la serpiente en el huevo 35. Parece que efectivamente las razones de ‘orden público’ van suplantando las exigencias de justicia en la ponderación normativa (balancing) entre libertad y seguridad. De modo que resulta menos problemático desgajar las nuevas políticas de seguridad del apego al esquema liberal de las libertades civiles 36.

  PRESNO LINERA, M. A., «La expansión del derecho administrativo sancionador securitario: análisis constitucional de la Ley Orgánica para la Protección de la Seguridad Ciudadana», en CUERDA ARNAU, M.L., GARCÍA AMADO, J.A. (coords.), Protección jurídica del orden público, la paz pública y la seguridad ciudadana, Tirant lo Blanch, Valencia, 2016, p. 51. Presno Linera señala aquí un ejemplo de esta tendencia respecto a lo anteriormente previsto en el Código Penal: «mientras que el derogado artículo 634 de ese Código castigaba con multa de 10 a 60 días una falta contra el orden público, la L. O. 4/2015 contempla una de entre 1.001 euros y 30.000 euros para “la desobediencia o la resistencia a la autoridad o a sus agentes en el ejercicio de sus funciones, cuando no sean constitutivas de delito, así como la negativa a identificarse a requerimiento de la autoridad o de sus agentes o la alegación de datos falsos o inexactos en los procesos de identificación”». 35   CHAFEE, Z. JR., «Freedom of Speech in War Time», en Harvard Law Review, Vol. 32, n. 8, 1919, p. 949. 36   Vid. en este sentido, por ejemplo, WALDRON, J., «Security and Liberty: The Image of Balance», en The Journal of Political Philosophy, Volume 11, Number 2, 2003, p. 210: «We know that the conviction and punishment of an Al-Qaeda fanatic, for example, will have no general deterrent effect; if anything, it will have the opposite effect-making it more rather than less likely that the country punishing the suspect is subject to terrorist attack. Of course, this is not a reason for not punishing the perpetrators of murderous attacks, 34

33

Roger Campione

En este sentido, las circunstancias que estamos viviendo a causa del COVID-19 nos sugieren dos tesis: la primera, que hay emergencias ‘reales’ y emergencias ‘construidas’, por mucho que el lenguaje bélico utilizado ahora sea el mismo empleado con otras situaciones de excepcionalidad construidas artificialmente después del 11-S: no ha habido jefe de Estado o de gobierno, de Macron a Johnson, de Sánchez a Trump, de Bolsonaro a Conte y hasta a Draghi, que en los últimos meses no haya definido la librada contra el virus como una ‘guerra’, en el más puro estilo de la War on Terror. La segunda, que las medidas restrictivas adoptadas contra el coronavirus, indudablemente extremas aunque confiemos que eficaces, junto a esta homologación discursiva entre emergencia real y emergencia inducida, son susceptibles de justificar artera y retrospectivamente las emergencias del segundo tipo, las pasadas y las que vendrán cuando, en cambio, podrían hacernos reflexionar sobre las limitaciones que deberíamos estar dispuestos a aceptar de nuestros gobernantes en nombre de la seguridad. En las últimas décadas también los procesos de desregulación económica, precarización laboral y desmantelamiento de los niveles de solidaridad social, característicos del Estado de bienestar, han viajado en paralelo a la expansión del sentido común penal bajo la batuta de la «tolerancia cero». En estos ámbitos, por utilizar un lenguaje característico de la Corte Suprema estadounidense de hace un siglo en materia de libertad de expresión, asistimos a un retorno del bad tendency test frente al filtro del clear and present danger 37. El resultado práctico no es tan disímil del implicado por la doctrina de la legítima defensa preventiva –invocada en casos como las invasiobut the reasons for punishing them are reasons of justice, not security (via general deterrence); and those reasons of justice may not be as separable from the scheme of civil liberties that we are currently trading off as the «new balance» image might suggest». 37   Schenck v. United States, 249 U.S. 47 (1919); Abrams v. United States, 250 U.S. 616 (1919).

34

Filosofía del derecho internacional y cortocircuitos normativos…

nes de Afganistán en 2001 e Irak en 2003– en (más bien contra) el marco del ius ad bellum: una anticipación del momento ‘punitivo’ que altera completamente la textura normativa de la agresión provocando, tanto a nivel estatal como internacional, escenarios preventivos más cercanos a las visiones pre-cognitivas de Minority Report que al código de justicia moral restitutoria de la vendetta barbaricina 38. El Estado de derecho sanciona las conductas que infringen las normas jurídicas, mientras que el Estado preventivo busca anticiparse e impedir que se produzca el quebrantamiento de las normas. Es otra cara del paso, del que ha hablado Loïc Wacquant, del Estado social al Estado penal: la desaparición progresiva del Welfare State en beneficio de un cada vez mayor control policial público y privado, ensalzando como prioridad pública la seguridad entendida en un sentido de estricta incolumidad física, de represión ante el delito, más que como protección (económica, social, sanitaria, educativa, etc.) ante los riesgos existenciales 39.

38   Sobre las implicaciones de la legítima defensa preventiva de cara a la distinción entre el paradigma bélico y el paradigma criminal, permítaseme remitir a CAMPIONE, R. «El trilema de Polemos: guerra, derecho y seguridad en las relaciones internacionales», en CAMPIONE, R., RUSCHI, F. (eds.), Guerra, derecho y seguridad en las relaciones internacionales, Tirant Lo Blanch, Valencia, 2017, pp. 187-209. La utilización policial y judicial de sistemas de predicción de delitos, basados en el uso de algoritmos que indiquen dónde es más probable que se cometan delitos o si conviene imponer prisión preventiva a una persona pendiente de juicio, ya es un hecho. Sistemas como el PredPol, Hart, COMPAS, XLAWS o Precobs, utilizados en USA y en Europa, han llevado a la Comisaria de Derechos Humanos en el Consejo de Europa, Dunja Mijatović, a subrayar, como se verá más adelante, el debate sobre los resultados potencialmente discriminatorios de este tipo de programas predictivos (MIJATOVIĆ, D., «Ethnic profiling: a persisting practice in Europe», en [fecha de consulta: 6 de junio de 2019]. 39   WACQUANT, L., Le prisons de la misère, Éditions Raisons d’Agir, París, 1999; trad. cast. Las cárceles de la miseria, 2ª ed. ampliada, Manantial, Buenos Aires, 2010, p. 28.

35

Roger Campione

I.2. UNA GEOGRAFÍA NORMATIVA EN CRISIS Otro factor a tener en cuenta es que con los algoritmos actuales de recopilación de la información entramos en una fase de googlelización de la identidad, de modo que las personas tienden a ser clasificadas por sus gustos y propensiones más que por sus acciones 40. De ahí que en los ordenamientos jurídicos actuales y en la arena política internacional ‘post-liberal’ el principio del miedo haya sustituido el principio del daño, sin que los índices objetivos corroboren una mayor exposición de la población a los riesgos de la vida en sociedad, si prescindimos de la repentina e inesperada coyuntura actual de este primer tercio de 2020. Además, como es sabido, evaluar la introducción de medidas punitivas a partir de la posibilidad de ocurrencia de un peligro es cosa distinta que hacerlo solo después de haber observado lo que ha pasado en realidad. Es decir, no es lo mismo aplicar una consecuencia jurídica sobre la base de un cálculo de riesgos que tomar decisiones solo si el riesgo se materializa en daño. Este modelo de ‘sociedad del miedo’ es alimentado con éxito gracias a una dimensión comunicativa cada vez más enclavada en la post-verdad virtual proyectada por los (no solo) nuevos canales de comunicación social y cada vez menos fiel a la realidad objetiva. Esta ‘dinámica del terror’ encuentra terreno fértil haciendo palanca sobre una exigencia atávica de las comunidades humanas: la necesidad de seguridad. Desde esta perspectiva, podríamos decir que se ha consumado la inversión contrafáctica de la dicotomía aristotélica entre potencia y acto, transformando lo abstractamente potencial en hecho concreto. He aquí la inquietante mezcolanza de lo criminal con lo bélico  41 y su explosiva corrosión de las   De capitalismo «automático» en el que la autonomía de lo humano cede espacio a una identidad post-humana avalada por la tecnociencia habla RODOTÀ, S., Vivere la democrazia, Laterza, Bari-Roma, 2018, pp. 136-137. 41   Como muestra de esta confusión baste pensar que los atentados a las Torres Gemelas de 2001 fueron clasificados por los Estados Unidos y otros países como un ataque bélico mientras que, por ejemplo, Alemania y Japón 40

36

Filosofía del derecho internacional y cortocircuitos normativos…

garantías normativas que la cultura del miedo impone. Los peligros que este escenario entraña ya los conocemos y, tomando prestada otra vez una imagen de la Corte Suprema de Estados Unidos, quedan reflejados en la advertencia del juez Brandeis en Whitney vs California en 1927: siempre que los hombres han temido a las brujas, han quemado a las mujeres. Una de las consecuencias de todo ello es que hoy en día es cada vez más difícil distinguir entre un policía, un agente secreto y un militar. Con el añadido de que en el negocio de la seguridad, tanto interna como exterior, prospera un sector privado que con sus agencias e industrias tecnológicas y de vigilancias ocupa un territorio institucional de competencia constitucional del Estado 42. De este marco problemático surge la reivindicación de la filosofía del derecho internacional y de sus problemas, el más clásico de los cuales consiste en la reflexión sobre el uso de la fuerza armada. Al fin y al cabo, la reflexión moderna sobre el Estado, el poder, el gobierno y la ley hunde sus raíces en una guerra, la que Hobbes llamó de todos contra todos. Y unos siglos más tarde Tilly rubricó la cuestión sugiriendo que «la guerra hace al Estado y el Estado hace la guerra» 43. El renovado interés por este tema se debe a su persistencia en el panorama actual, a causa de la difusa conflictividad que las nuevas formas de violencia han asumido. Desde que, a finales del siglo pasado, han irrumpido las llamadas «nuevas guerras», gracias a la exitosa fórmula difundida por Mary Kaldor 44, asistimos a

los catalogaron como crímenes: cfr. BUSCH, A., «La arquitectura cambiante del estado de la seguridad nacional», cit., p. 479 42   BUSCH, A., «La arquitectura cambiante del estado de la seguridad nacional», cit., pp. 467-468. 43   TILLY, CH., «Reflections on the History of European State Making», en TILLY, CH., (ed.), The Formation of National-State in Western Europe, Princeton University Press, 1975, p. 42. 44   KALDOR, M., New and old wars: organized violence in a global era, Cambridge Polity Press, 1999; trad. cast. Las nuevas guerras. Violencia organizada en la era global, Tusquets, Barcelona, 2001.

37

Roger Campione

una notable desestructuración normativa de los conflictos armados. El paradigma tradicional de la guerra interestatal ha mostrado síntomas evidentes de fatiga crónica que han desmoronado su armazón bajo el empuje de formas nuevas y más huidizas: el Estado, antaño única entidad investida del ius belli, cede el paso a sujetos que pueden ser ejércitos regulares, grupos paramilitares, tropas irregulares, foreign fighters o contractors privados. La fragmentación de los marcos de referencia jurídica y política ha dado lugar a la que Alessandro Colombo ha definido como una «geografía caótica» de las formas de la guerra, en un contexto en el que la falta de una distinción clara entre territorios públicos y dominios privados produce efectos disruptivos en las normas constitutivas del derecho interna­­ cional. Fenómenos como el deterioro del monopolio estatal de la violencia legítima o la licuación de la frontera entre lo militar y lo civil –debida a la fluctuación continua de la condición de combatiente a la de no combatiente y viceversa–, alejan la guerra actual del esquema categorial de la guerra moderna, jurídicamente regulada y, por tanto, ‘normal’ 45. La crisis de relevancia política del derecho internacional disgrega el carácter jurídicamente abarcable de la guerra como forma de violencia regulada y conduce a la indiferenciación normativa entre fuerza ejercida merced a reglas y violencia sin ley, es decir, sin límites. Por este motivo se trata de cuestiones que, en buena medida, se escapan al horizonte de análisis del teórico del derecho: porque ese carácter difuso, junto a lo anteriormente apuntado, las convierte a menudo en inefables para la razón jurídica. Podría objetarse que, en el siglo XXI, los estragos producidos por los conflictos armados han disminuido de forma más que sensible respecto a la centuria anterior: hasta 1945 las gue  COLOMBO, A.,«L’Europa e la guerra agli inizi del Ventunesimo secolo», en Teoria Politica, VI, 2016, pp. 23-47. Sobre la crisis de las reglas de la guerra, en el contexto histórico post-guerra fría, es muy recomendable, de este mismo autor, la lectura de COLOMBO, A., La guerra ineguale. Pace e violenza nel tramonto della società internazionale, Il Mulino, Bolonia, 2006. 45

38

Filosofía del derecho internacional y cortocircuitos normativos…

rras han provocado alrededor de ciento diez millones de muertos mientras que, desde entonces, las víctimas han sido veinticinco millones, de los cuales seis en los últimas dos décadas. Sin embargo, no es probablemente menos cierto que, a pesar del mayor grado de seguridad objetiva de la época actual, la percepción que la población mundial tiene de inseguridad y de desorden internacional resulta claramente en alza 46. La referencia que se hacía antes a la hodierna ‘sociedad del miedo’ explica esta sensación. I.3. GUERRA Y TECNOLOGÍA Detrás de ello hay asuntos, relativos a los modelos de justificación y funcionamiento normativo de la guerra, que han arrimado la reflexión hacia el impacto de las nuevas hechuras de la guerra. En este sentido, se va precisando un robusto análisis de las causas y los efectos de la ruptura del marco histórico-social y de los límites jurídicos de los conflictos armados. Uno de los campos actuales de interés es el representado por el impacto que la tecnología militar más avanzada ejerce sobre el paradigma normativo de la guerra. Desde el siglo XIX, los conflictos armados han cambiado en numerosos aspectos y las modificaciones tecnológicas han repercutido en transformaciones más profundas. El talento poético de Giacomo Leopardi ya había captado en 1821 el alcance de la mutación, en su Zibaldone, anotando que al introducirse la pólvora la energía poseída por los hombres se trasladaba a las máquinas y los propios hombres se transformaban en máquinas, de manera que el modo de guerrear había cambiado profundamente 47. Quería

  CLARKE, M., «Does War Have a Future?», en LINDLEY-FRENCH, J., BOYER, Y.(eds.), The Oxford Handbook of War, Oxford University Press, 2nd ed., 2014 [2012], p. 648. Los datos relativos a las víctimas se remontan, por tanto, a esta fuente. 47   LEOPARDI, G., Pensieri di varia filosofia e di bella letteratura, 978, vol. II, Le Monnier, Florencia, 1898, p. 311. 46

39

Roger Campione

decir que la posibilidad de evitar el enfrentamiento físico, de recargar el arma de forma más rápida, de golpear desde lejos y, por tanto, de tener una mayor capacidad de penetración en las filas enemigas, supusieron un giro en la civilización. Entre la Brigada ligera del séptimo Conde de Cardigan en Balaclava y la retransmisión televisada de la primera guerra del Golfo con sus soldados cableados, pasando por los aviones y las ametralladoras de la Primera Guerra Mundial, los tanques y las bombas nucleares de la Segunda, los helicópteros y el gas naranja de la Guerra de Vietnam, hay cambios muy notables, si bien, por otro lado, siguen siendo enfrentamientos armados en los que se muere y se mata, es decir, guerras. La diferencia más destacada es el nivel de sofisticación de la capacidad militar. En el siglo XXI, se ha sumado una nueva transformación portadora, en cierto sentido, de un impacto aún mayor y que consiste en la aparición de los vehículos aéreos de combate no tripulados, drones controlados en remoto sin la cercanía física del piloto/soldado, con todas las implicaciones tácticas y normativas que ello acarrea. Pero es que ahora nos encontramos en un horizonte que va más allá de estos Unmanned Combat Aerial Vehicles (UCAV), hasta artilugios militares no solo guiados a gran distancia sino potencialmente autónomos 48. I.3.A. CIENCIA APLICADA, GUERRA Y DERECHO Sabido es que sin los avances tecnológicos no se pueden entender las características de los conflictos armados. Desde hace un tiempo, por poner un ejemplo, en Estados Unidos se están formando más operadores de drones que pilotos de aviones de combate y de bombarderos juntos. De hecho, según datos de hace pocos años, los drones constituían ya una tercera parte de la flota aérea estadounidense. Era tal la demanda de

48   GRAYLING, A.C., War: An Enquiry, Yale University Press, 2017, pp. 218-219.

40

Filosofía del derecho internacional y cortocircuitos normativos…

drones como el Predator y el Reaper que General Atomic Aeronautical System tenía problemas para satisfacer las peticiones 49. Sobre esta base, cabe pensar que un primer asunto de calado atañe a la crisis del circuito normativo provocada por el carácter excepcional de innovaciones, como fue la tecnología drónica, que «debido a sus peculiaridades puede operar en las zonas sombrías del derecho internacional, donde las categorías son menos claras y los diferentes planos se intersecan hasta superponerse» 50. Y eso sin tener en cuenta que hoy en día los avances en robótica e inteligencia artificial ya se están adelantando al uso de drones: hay razones económicas que lo justifican, pues los sistemas autónomos resultan más ventajosos que los drones controlados en remoto, cuya utilización es, a su vez, más barata que la de los aviones tripulados 51. De hecho, el uso de UCAV se remonta a la primera parte del siglo XX cuando, tras la primera Guerra Mundial, se empezaron a experimentar prototipos de vehículos aéreos no tripulados. Después de la Segunda Guerra Mundial y en las décadas sucesivas cobraron especial importancia las funciones de vigilancia y reconocimiento que estos instrumentos podían desempeñar, alcanzando una notable aplicación en zonas de conflicto en Oriente Medio

49   Sobre esta proliferación véase HASIAN, M. JR., Drone Warfare and Lawfare in a Post-Heroic Age, The University of Alabama Press, 2016, p. 1; ACKERMAN, S., SHACHTMAN, N., «Almost 1 In 3 U.S. Warplanes Is a Robot», en Wired Danger Room, January 9, 2012;  BUMILLER,E.,«A Day Job Waiting for a Kill Shot a World Away», en New York Times, 29 de julio de 2012. Obviamente, en esta aceleración no es secundario el aspecto económico: hace ya unos años un dron Predator costaba 4,5 millones de dólares frente a los 159 millones de un F-35, los 377 millones de un F-2 o los dos billones de un B-2 (DOWD, L. W., «Drone Wars: Risks and Warnings», en Parameters 42, n. 4, Winter 2013, p. 9). 50   RUSCHI, F., «El derecho, la guerra y la «técnica desatada». Consideraciones acerca del Drone Warfare», en CAMPIONE, R., RUSCHI, F.(eds.), Guerra, derecho y seguridad en las relaciones internacionales, cit., p. 55. 51   BALISTRERI, M.,«Robot killer. La rivoluzione robotica nella guerra e le questioni morali», en Etica & Politica / Ethics & Politics, XIX, 2017, 2, pp. 405-430.

41

Roger Campione

desde los años ochenta, particularmente en Israel. Y ya en la primera Guerra del Golfo el ejército estadounidense utilizó estos antecesores del Predator 52. La reducción de personal humano en el empleo de esta tecnología militar, además, sería directamente proporcional al incremento de su eficacia: durante la Segunda Guerra Mundial eran necesarias las incursiones de mil bombarderos B17 americanos, gestionados por diez mil hombres, para derribar un objetivo terrestre. En Vietnam hacían falta treinta bombarderos F4 tripulados por dos hombres y en la primera guerra del Golfo una única «bomba inteligente» reemplazaba el trabajo de mil aviones de la Segunda Guerra Mundial equipados con nueve mil bombas. En 2013 la Marina USA terminó las pruebas del X-47 B, definido como Unmanned Combat Air System Carrier Demostration, fabricado por la empresa Northrop-Grumman, que puede operar desde portaviones y puede tomar tierra sin ser dirigido por control remoto 53. Una lección de la historia es que, si bien la superioridad tecnológica no garantiza necesariamente la victoria militar (Vietnam docet), sin embargo, está cada vez más cerca de hacerlo. En estos momentos se están desarrollando Lethal Autonomous Weapon Systems (LAWS), enjambres de drones, ataques ciberespaciales, etc., que nos estimulan a reflexionar sobre algo que nos resulta desconocido y, al mismo tiempo, actual 54. Y de hecho, a finales de los años sesenta del siglo pasado, Hannah Arendt ya recordaba, en las primeras líneas de Sobre la violencia, que el desarrollo técnico del uso de la fuerza había «alcanzado el grado en que ningún objetivo político puede corresponder concebiblemente a su potencial destructivo o jus-

  DE SALAZAR, G., Guerra, paz y civilización, Ministerio de Asuntos Exteriores, Madrid, 2016, p. 187. 53   BACCHI, S., «I droni: arma del futuro?», en Sistema informativo a schede, 5/2014, p. 45; SALAZAR, G. DE, Guerra, paz y civilización, cit., p. 188. 54   GRAYLING, A.C, War. An Inquiry, cit., p. 229. 52

42

Filosofía del derecho internacional y cortocircuitos normativos…

tificar su empleo en un conflicto armado» 55. En aquella época el progreso tecnológico, siguiendo esta perspectiva que Bobbio había adoptado en El problema de la guerra y las vías de la paz 56, deslegitimaba la plausibilidad política de la guerra, pues las armas se habían vuelto tan letalmente eficaces que habían convertido victoria y derrota en un resultado político totalmente ineficaz, debido a su inconmensurable alcance destructivo. Por ese motivo, la guerra había perdido «mucho de su eficacia y casi todo su atractivo». Es cierto que ya entonces se vislumbraban escenarios futuristas –con milicianos robots que sustituirían a los soldados humanos 57– abocados, con otros cambios paradigmáticos, a hacer tambalear la ecuación tradicional entre cantidad de violencia a disposición de un país y fuerza o garantía de protección de ese país contra una potencia sustancialmente más débil 58. Sin embargo, las inquietudes ligadas a tales escenarios tenían que ver, sobre todo, con la ingeniería y sus implicaciones de cara a la eficacia militar. Hoy en día, la innovación tecnológica también se renueva como fuente de inquietud por el fácil acceso a armas destructoras que, por tamaño y perfección, pueden matar a un elevado número de personas. Como ha destacado Todorov, «las instrucciones para fabricar bombas circulan en internet, los productos necesarios para ello se venden en los supermercados, y un teléfono móvil basta para detonarlas. Esta ‘democratización’ de las armas destructoras crea una situación totalmente nueva» en la que ya no es necesario disponer del

55   ARENDT, H., On violence, Houghton Mifflin Harcourt, Orlando, 1970 [1969]; trad. cast. Sobre la violencia, Alianza, Madrid, 2005, p. 9. 56   BOBBIO, N., Il problema della guerra e le vie della pace, Il Mulino, Bolonia, 1979; trad. cast. El problema de la guerra y las vías de la paz, Gedisa, Barcelona, 1992. 57   THRING, M.W., «Robots on the March», en CALDER, N. (ed.), Unless Peace Comes: A Scientific Forecas of New Weapons, Allen, Londres, 1968; trad. cast. «Robots en marcha», en CALDER, N. (ed.), Si mañana estallase la guerra, Editorial Noguer, Barcelona, 1970 [1968], pp. 173-187. 58   ARENDT, H., Sobre la violencia, cit., p. 18.

43

Roger Campione

poder de un Estado para infligir grandes pérdidas al enemigo» 59. De una forma real y concreta asistimos hoy, con artilugios como los satélites, los vehículos no tripulados, los drones dotados de las capacidades avanzadas ISTAR (Intelligence, Surveillance, Target Adquisition and Reconnaissance) y los LAWS, a una nueva puesta en crisis del paradigma jurídico consolidado en los siglos pasados. No se trata solo de mutaciones mecánicas que cambian el tablero bélico debido al uso de instrumentos que prescinden, o casi, de la intervención humana directa. Y la cuestión tampoco tiene que ver con la irrupción de la tecnología informática como invención válida para solucionar problemas de orden jurídico, planteados a partir de los años cincuenta del siglo pasado. En ese caso, con la reducción de los problemas normativos a su dimensión lógica, se trataba de averiguar si se podía aplicar a la ley una metodología altamente tecnificada y, por tanto, racionalmente pura. Esa inspiración cibernética, propensa a la visión aristotélica de la ley como inteligencia desprovista de pasiones 60, hoy se ha superado a sí misma y de herramienta disponible para el derecho se ha convertido en productora de dilemas indescifrables. Es decir, de ser una solución ha pasado a ser un problema. Y se trata de problemas complejos: por un lado, la urgencia de encarar la ética robótica aplicada a la sociedad presente y futura; por el otro, la necesidad de afrontar las consecuencias que la tecnificación y la mercantilización provocan en la propia naturaleza de la guerra. Ambas cuestiones son de orden normativo y nos acercan a la doble vertiente, civil y militar, del transhuma­­ nismo.

59   TODOROV, T., La peur des barbares, Editions Robert Laffont, París, 2008; trad. cast. El miedo a los bárbaros, Galaxia Gutenberg, Madrid, 2008, p. 13. 60   Sobre la nueva perspectiva que la cibernética abrió al campo jurídico, véase el clásico de FROSINI, V., Cibernetica, diritto e società, Edizioni di Comunità, Milán, 1978; trad. cast. Cibernética, derecho y sociedad, Tecnos, Madrid, 1982, especialmente las pp. 25-31.

44

Filosofía del derecho internacional y cortocircuitos normativos…

Ciertas cuestiones de futuro hipotético, ligadas a una previsible fractura en la ética de la guerra, ya se oteaban hace décadas a propósito de la mecanización exponencial de los medios militares. Mientras el ser humano forme parte activa del «vehículo combatiente» –se decía– resulta imprescindible que, una vez finalizado el combate, esos hombres regresen sanos y salvos a su base. Este requisito, por tanto, restringiría enormemente el volumen de carga útil de destrucción que el vehículo puede llevar consigo y reduce a la mitad el radio de acción del medio 61. No es de extrañar que la fractura que acecha hoy en día sea cada vez más clara e irreversible. En las normas bélicas, lo que divide al militar del civil es la tenencia de las armas, es decir, una vez que el militar se despoja del arma se reconvierte en civil. Sin embargo, si son las armas las que van progresivamente «adquiriendo un cuerpo», como en el caso de los LAWS, desaparece la diferencia basada en que el cuerpo posea o no un arma  62 . La integración del arma en el cuerpo crea un «super-soldado» des-humanizado en cuanto post-humano. Las nuevas y más reciente preocupaciones, por ejemplo, estriban en que instrumentos como los drones militares utilizados actualmente (el MQ-1 Predator del Air Force estadounidense, por ejemplo) están controlados de forma remota por individuos y, sin embargo, los futuros drones equipados con inteligencia artificial podrán operar sin ninguna intervención humana, utilizando un algoritmo para seleccionar los objetivos a atacar 63. Drones como el Phantom 4 o el Mavic Pro, fabricados por la compañía china DJI, por ejemplo, poseen una tecnología que les permite, de forma autónoma, reconocer objetivos y evitar obstáculos; por tanto, pueden seguir a un vehículo sin necesi-

  THRING, M.W., «Robots en marcha», cit., p. 178.   AMATO, S.,«Neuroscienze e utilizzazione militare delle tecniche di potenziamento umano», en Etica & Politica, XVI, 2014, 2, p. 190. 63   TEGMARK, M., Life 3.0: being human in the age of artificial intelligence, Knopf, Nueva York, 2017; trad. cast. Vida 3.0. Qué significa ser humano en la era de la inteligencia artificial, Taurus, Madrid,2018, p. 141. 61

62

45

Roger Campione

dad de comunicarse con el controlador humano remoto. Dispositivos como el estadounidense enjambre de drones Perdix no son aparatos pre-programados individualmente, sino ‘organismos colectivos’ que comparten un cerebro repartido para tomar decisiones y adaptar recíprocamente su conducta unos en función de otros, como los enjambres en la naturaleza. No siendo plenamente independientes, al tener cierto input humano, se trata de sistemas técnicamente semiautónomos, pero no parece faltar mucho tiempo para que sean capaces de seleccionar y tomar decisiones comunicándose solo entre ellos y, por tanto, para que sean considerados totalmente autónomos 64. Ya lo había advertido el Special Rapporteur del Consejo de Derechos Humanos de la ONU: «In the foreseeable future, the technology will exist to create robots capable of targeting and killing with minimal human involvement or without the need for direct human control or authorization» 65. En esta perspectiva, la evolución tecnológica puede [tras] tocar categorías normativas tradicionales que históricamente han constituido el fuste de la lógica jurídica, tales como la subjetividad jurídica o los principios de responsabilidad, discriminación, proporcionalidad, imputación o causalidad 66. Actos determinantes desde un punto de vista legal, como establecer si un blanco es un objetivo legítimo o decidir si atacar, serían

 https://www.washingtonpost.com/news/checkpoint/wp/2017/01/10/ watch-the-pentagons-new-hive-mind-controlled-drone-swarm-in-action/?noredirect=on&utm_term=.233a8b59660a [consultado el 3 de marzo de 2019]. 65   UNITED NATIONS, GENERAL ASSEMBLY, A/65/321, Report of the Special Rapporteur of the Human Rights Council on extrajudicial, summary or arbitrary executions, Philip Alston, 23rd august 2010, p. 10 [consultado el 3 de marzo de 2019]. 66   Un análisis crítico sobre la compatibilidad de los sistemas de armamento autónomo con el derecho internacional humanitario desde una triple perspectiva jurídica, ética y política, puede verse en WAGNER, M. «The Dehumanization of International Humanitarian Law: Legal, Ethical, and Political Implications of Autonomous Weapon Systems», en Vanderbilt Journal of Transnational Law, vol. 47, 2014, pp. 1371-1424. 64

46

Filosofía del derecho internacional y cortocircuitos normativos…

paulatinamente llevados a cabo por robots militares, máquinas programables que percibirían y manipularían el ambiente con, al menos, cierto margen de autonomía. Aquí residiría la diferencia entre cualquier tipo de arma autónoma, en el sentido de un dispositivo que, una vez activado, no precisa de intervención humana para desplegar su efecto atacante –algo que existe desde hace mucho tiempo, como las minas antipersona– y los killer robots, una categoría específica de arma autónoma que sustrae a los agentes humanos y confía al sistema autónomo las decisiones relativas a si atacar y si el objeto del ataque constituye un blanco legítimo. Hasta el punto, como ya señalara Krishnan, de imaginar que algún día las máquinas inteligentes puedan determinar quién es el ‘enemigo real’ 67. Esto no sería posible si no existieran máquinas capaces de manejar una tal cantidad de datos e información (Big Data) en tiempo real en todo lo relativo a las operaciones militares. De ahí la progresiva ocupación de espacios de gestión en el espectro bélico por parte de sistemas autónomos que, en consecuencia, generan una reflexión sobre el alcance de la responsabilidad humana en el desarrollo de los conflictos armados. Porque, ya desde un punto de vista meta-legal, ¿cuándo es moral matar para un robot? Y, aunque fuera posible establecer una pauta reconocida en tal sentido, ¿cómo regularlo técnicamente? Se supone que los LAWS no sienten miedo, no experimentan deseos de venganza, no les ciega el odio y, por tanto, podrían ser mejores intérpretes del lenguaje ético-jurídico 68. Sobre todo, no podrían dejar de seguir las reglas y los códigos comprobables que los programadores les hayan impartido. Como dice Harari, los «ordenadores

67   KRISHNAN, A., Killer Robots. Legality and Ethicality of Autonomous Weapons, Ashgate, Farnham, 2009, p. 35. 68   ARKIN, R., Governing Lethal Behavior in Autonomous Robots, Chapman & Hall/CRC, Broken Sound Parkway NW, 2009, pp. 29-30. Sobre una comparación entre las posturas de Krishnan y Arkin acerca de la ética de los robots en los conflictos armados vid. DUMOUCHEL, P., DAMIANO, L., Vivere con i robot. Saggio sull’empatia artificiale, Raffaello Cortina, Milán, 2019, pp. 173 ss.

47

Roger Campione

programados con algoritmos éticos podrían someterse con mucha mayor facilidad a los últimos fallos del tribunal penal internacional» 69. Pero estos super-soldados, si están dotados de inteligencia artificial, es decir, si sus algoritmos funcionan con una lógica autónoma finalmente desvinculada de la intervención humana, dejan de ser previsibles y, como se explicará más adelante, ‘obedientes’. Valga como metáfora –una de las innumerables genialidades de Stanley Kubrick– el HAL 9000 de 2001: una odisea del espacio. Y serios peligros corre, claro está, el principio de legalidad, viga maestra del ordenamiento jurídico estatal e hijo despechado del derecho internacional. En parte, este problema de adaptación del derecho se debe a la ambivalencia típica del progreso científico: un dron puede ser utilizado para fines civiles, militares, criminales o de ocio y las normas jurídicas existentes en materia de seguridad y defensa no están diseñadas para hacer frente a todas las aplicaciones de este nuevo tipo de tecnología 70. Las espinosas cuestiones relativas al empleo de los drones o a la praxis de los targeted killings en operaciones extraterritoriales, desafían la arquitectura jurídica del derecho humanitario en un escenario parcialmente inédito, sobre todo desde el punto de vista del espacio de la guerra y de la simetría de los medios y métodos militares. La guerra quirúrgica, selectiva, basada en el principio «cero pérdidas propias», choca con el entramado del ius gentium y sus principios normativos de pro  HARARI, Y.N., Homo Deus, cit., p. 340.   Los problemas planteados al ordenamiento jurídico por la drone warfare valen en ambos sentidos: como arma ofensiva en el sentido aquí considerado, pero también como amenaza a la defensa nacional. En Estados Unidos, por ejemplo, se están produciendo cambios legislativos –bipartisan, por ciertopara que la Administración Trump tenga el poder de interferir electrónicamente en los drones que se acerquen demasiado a las instalaciones federales, ya que las normas vigentes no permitían inhabilitar los drones en vuelo mediante señales electromagnéticas. Por su parte, la administración Obama, tras un largo debate interno y social, ha desarrollado un marco legal con el fin de regular la controvertida práctica de asesinatos selectivos mediante drones (HENNIGAN, W. J., «Rising a New Threat», cit., p. 25). 69 70

48

Filosofía del derecho internacional y cortocircuitos normativos…

porcionalidad, necesidad y distinción, preconizados –por usar la formulación de los convenidos en La Haya hace más de un siglo– «por los usos establecidos entre las naciones civilizadas» 71. Tras las dramáticas experiencias de las dos guerras mundiales, había quedado desactivado todo intento de legitimación de la violencia militar, cualesquiera que fueran los motivos que impulsaban su uso. El desarrollo de la tecnología militar nuclear inhabilitó la noción ético-moral de ‘guerra justa’ y pareció haber convertido la guerra, según la famosa expresión de Norberto Bobbio, en la «antítesis del derecho» 72. También volvió más problemáticas unas relaciones internacionales basadas, hasta el siglo XX, en el ius publicum europaeum, pues el empleo de bombas atómicas anulaba todo criterio de proporcionalidad e implicaba la progresiva disolución de las fronteras normativas. Como escribía Carl Schmitt en el Prefacio a la edición de 1963 de El concepto de lo político, «la guerra fría se burla de todas las diferenciaciones clásicas sobre la guerra y la paz y la neutralidad, la política y la economía, lo militar y lo civil, combatientes y no-combatientes» 73. La reacción post-bélica de la comunidad internacional fue el destierro de la guerra como instrumento válido para la resolución política de las con-

71   Sobre las dudas jurídicas planteadas por el uso de drones y los asesinatos selectivos, cfr. como muestra ALDAVE ORZAIZ, A., La guerra global contra el terrorismo. Un análisis de la crisis del Derecho Internacional antes y después del 11-S, Tirant Lo Blanch, Valencia, 2018, especialmente las pp. 171-177. 72   BOBBIO, N., Il problema della guerra e le vie della pace, cit., p. 60. Sobre la interpretación y el alcance de la doctrina de la ‘guerra justa’ desde un punto de vista histórico y iusfilosófico me permito remitir a CAMPIONE, R., El nomos de la guerra. Genealogía de la ‘guerra justa’, Prólogo de D. ZOLO, Tirant Lo Blanch, Valencia, 2009; para una reconstrucción histórica y teórica de las relaciones entre guerra y derecho, véase PIETROPAOLI, S., Abolire o limitare la guerra? Una ricerca di filosofia del diritto internazionale, Polistampa, Florencia, 2008. 73   SCHMITT, C., Der Begriff des Politischen.Text von 1932 mit einem Vorwort und drei Corollarien, Duncker & Humblot, Berlín, 1963; trad. cast. El concepto de lo politico. Texto de 1932 con un prólogo y tres comentarios, versión de R. Agapito, Alianza, Madrid,1991, p. 48.

49

Roger Campione

troversias entre Estados. La prohibición del uso de la fuerza adquirió un carácter absoluto y la guerra fue definida, en la Carta de Naciones Unidas, como un flagelo «que ha infligido a la Humanidad sufrimientos indecibles». La historia de los últimos setenta años ha hecho trizas ese sueño y el impacto del avance tecnológico en el ámbito militar es más acuciante que nunca. I.4. LA PLAUSIBILIDAD DEL DERECHO HOY El desafío al que se enfrenta la ciencia aplicada a la guerra es parecido al que ha de afrontar el derecho. La técnica influye en las formas y las manifestaciones de la violencia militar, no cabe duda. En varios sentidos, el desarrollo tecnológico incrementa de modo exponencial la capacidad destructiva de las armas modernas. Como avisaba Thring a finales de los sesenta, «suponer que la humanidad se va a beneficiar dejando la lucha en manos de las máquinas es como ignorar que muchas de las armas robot serán portadoras de armas de destrucción en masa dirigidas sobre las poblaciones humanas» 74. Pero ello no debería representar un obstáculo a la hora de indagar cómo puede la guerra –a pesar de la evolución de la técnica o gracias a ella– ser igualmente o incluso más ‘humanamente controlada’ de lo que ha sido hasta ayer y es hoy en día. Por ejemplo, reduciendo la implicación de seres humanos (tanto militares como civiles) en las batallas; tomando decisiones más comedidas en ausencia de respuestas emocionales, pudiendo inmovilizar sin matar a los combatientes enemigos o llevando a cabo labores humanitarias  75.Como cuando, por ejemplo, Naciones Unidas ha

  THRING, M.W., «Robots en marcha», cit., p. 187.   Vid. en este sentido LORD, C., «Objections to Simpson’s argument in ‘Robots, Trust and War’», en Ethics and Information Technology, 9 de mayo de 2019, https://doi.org/10.1007/s10676-019-09505-2; LOKHORST,G., VAN DEN HOVENJ., «Responsibility for military robots», en LIN, P., ABREY, K., 74

75

50

Filosofía del derecho internacional y cortocircuitos normativos…

empleado drones para facilitar misiones humanitarias como la vigilancia aérea en la República Democrática de Congo 76. De un modo parecido, si bien la guerra actual pone en un aprieto, con sus contornos disruptivos, el funcionamiento de las reglas enmarcadas en el paradigma jurídico decimonónico y en el derecho humanitario, no hay por qué colegir llanamente la ineficacia de las normas en la gestión de los conflictos armados. El test de plausibilidad del derecho mantiene un sentido ‘civilizatorio’, en la medida en que pueda argumentarse que las reglas dirigidas a acotar qué se puede y no se puede hacer en una contienda armada, son capaces de lograr algún efecto práctico. No cabe duda de que el derecho, por muy técnicamente refinado y previsor que sea, siempre se encuentra en la encrucijada de tener que perseguir la realidad sin poder alcanzarla nunca del todo. Derecho y realidad parecerían condenados a una paradoja semejante a la de Aquiles y la tortuga. Sin embargo, así como la formulación eleática era tramposa, también sería un error sepultar la función social del derecho bajo la lápida de su incapacidad para imponerse a una realidad internacional que siempre está huyendo hacia adelante. Mentar la diferencia teórico-normativa entre validez y eficacia del derecho no equivale a incomunicar sociológicamente las dos dimensiones. Reducir la fuerza de la norma a su validez formal y política, sin preocuparse por su espesor práctico, sería tan ingenuo como tener por jurídicamente relevante cualquier comportamiento habitual no revestido con una capa nomofiláctica. Una norma, como me ha mostrado Alessandro Colombo, pierde consistencia jurídica no tanto porque sea generalmente violada sino, sobre todo, porque el ordenamiento no

BEKEY, G. A. (eds.), Robot ethics. The Ethical and Social Implications of Robotics, MIT Press, Massachusetts, 2014, pp. 145-155. 76   UNITED NATIONS, «UN Launches Unmanned Surveillance Aircraft to Better Protect Civilians in Vast D.R. Congo», http://www.un.org/apps/news/ story.asp?NewsID=46650&Cr=democratic&Cr1=congo#.UxHwFoW3vs4, 3 December 2013 [fecha de consulta: 2 de octubre de 2019].

51

Roger Campione

responde ante su incumplimiento reiterado, ni el infractor se preocupa por justificar su ilegal conducta. Aquí está uno de los nudos no solo teóricos de la filosofía del derecho internacional y de la guerra. De ello depende algo que podríamos llamar ‘la seriedad del derecho’, es decir, la respuesta a ¿cómo conseguir que resulte plausible la apuesta por un grado limitado, pero real, de eficacia del derecho internacional en el ámbito de los conflictos armados contemporáneos? En definitiva, la cuestión es si deberíamos enterrar definitivamente al derecho como medida de contención de la violencia entre sujetos colectivos, o mantenerlo en vida sin entusiasmos injustificados, sabiendo que su estado de salud depende de su capacidad para producir resultados, aunque fueran mínimos. La tesis que pretendo sostener aquí es que tal grado de efectividad está en manos no solo de la longa repetitio de su aplicación, sino también de la opinio iuris de su utilidad geopolítica. Porque en épocas de ‘guerra líquida’, el fluido puede ser más o menos denso y ese grado de consistencia influye gradualmente en la capacidad del derecho para poner límites a la violencia. Todo depende de que las normas sobre la guerra sean tomadas en serio y, para ello, es imprescindible tomarse antes en serio su debilidad actual, diagnosticada sin paliativos por el nivel de inoperancia que el derecho internacional hoy exhibe con respecto a la realidad circunstante. Basta con reparar en la situación originada por la guerra en Siria para testar la actual fragilidad operativa de este derecho. Se trata de un peldaño necesario al fin de orientarse en la profunda crisis que están sufriendo los ‘nombres de la guerra’, es decir, esas distinciones constitutivas que han sido la linfa de las relaciones internacionales a lo largo de la historia (guerra/paz, militar/civil, enemigo/criminal). In books, el derecho existente para hacer uso de medios, armas y métodos de guerra por parte de los Estados, no es ilimitado. El derecho internacional humanitario prohíbe su uso si provoca sufrimientos innecesarios, daños superfluos o que no distingan entre objetivos civiles y militares, y hay mucha normativa específica sobre tipos concretos de armamento. Pero 52

Filosofía del derecho internacional y cortocircuitos normativos…

hay también previsiones generales, que refuerzan estas limitaciones y merecerían el esfuerzo de cara a una mayor pedagogía jurídica para recuperar esa confianza, que no fe, en el derecho. Pienso, por ejemplo, en el art. 36 del I Protocolo adicional a los Convenios de Ginebra de 1949 relativo a la protección de las víctimas de los conflictos armados internacionales, de 1977, según el cual «cuando una Alta Parte contratante estudie, desarrolle, adquiera o adopte una nueva arma, o nuevos medios o métodos de guerra, tendrá la obligación de determinar si su empleo, en ciertas condiciones o en todas las circunstancias, estaría prohibido por el presente Protocolo o por cualquier otra norma de derecho internacional aplicable a esa Alta Parte contratante». Soy consciente de que es poco realista imaginar su acatamiento espontáneo, pero tampoco se me ocurren instrumentos alternativos más asequibles para lograr el objetivo humanitario. Ya solo inducir deónticamente a los Estados para que al menos se planteen el problema es mejor, in action, que resignarse de antemano a que no servirá de nada. En este sentido, el presupuesto de base, por decirlo con las palabras de Scovazzi, es que «el derecho internacional sin duda se equivocaría si no ofreciera una protección contra el riesgo de que seres humanos inermes puedan ser convertidos en carne de cañón», para evitar la resignación realista a que «quien bombardea mejor que los demás tiene más razón que los demás» 77. Efectivamente, si esto fuera cierto, podríamos celebrar el réquiem no solo del derecho internacional sino de cualquier sistema jurídico. Y la crisis no es únicamente técnico-jurídica, afecta de lleno a la valencia funcionalmente moral del derecho, esto es, al derecho tradicionalmente entendido como multiplicador de seguridad y más modernamente como agente estabilizador y, al

77   SCOVAZZI, T., «Diritto internazionale e bombardamenti aerei: chi bombarda meglio degli altri ha più ragione degli altri?», en ANNATI, M., SCOVAZZI, T.(eds.), Diritto internazionale e bombardamenti aerei, Giuffrè, Milán, 2012, p. 84.

53

Roger Campione

mismo tiempo, adaptativo del tejido social. Y el derecho cumple esta función independientemente de si entendemos que la tarea fundamental de las normas jurídicas consiste en ofrecer razones para la acción, al modo de Raz 78; de si consideramos, en otro sentido, que coordina las interacciones sociales a través de la coacción, a la manera de Austin y Bentham  79; o de si insistimos en el carácter ideológico del derecho, al estilo de los Critical Legal Studies 80. Lo que quiero decir es que, cualesquiera que sean las visiones del derecho que manejamos, la neutralidad de los formalismos preestablecidos aspira a garantizar la indisponibilidad de la justicia ante las posibles pretensiones de quien esgrime éticas supuestamente superiores. La historia de los modelos de justificación de la guerra ofrece una lectura inspirada en este patrón. Cuando Cicerón afirma, en el De re publica, que nullum bellum iustum habetur nisi denuntiatum, nisi indictum, nisi de repetitis rebus («ninguna guerra es considerada justa si no se ha declarado o anunciado, y si no se han hecho previamente las reclamaciones precisas»), se refería a la necesidad de respetar las instituciones del «derecho que regula la declaración de las guerras», so pena de su injusticia e impiedad (bellum iniustissimus impiumque) 81. Para que una guerra fuera considerada justa conforme al ordenamiento jurídico romano, era necesario que fueran respetadas las formas sagradas establecidas por el ius fetiale, el conjunto de normas que regulaban la guerra según el antiguo ritual de los sacerdotes Feciales creados por Numa Pompilio. Los Romanos podían emprender una guerra justa contra un pueblo extranjero cuando este no cumplía, en un plazo previsto de

78   RAZ, J., The Authority of Law. Essays on Law and Morality, Clarendon Press, Oxford, 1979. 79   Vid. al respecto SCHAUER, F., The Force of Law, Harvard University Press, 2015. 80   Por ejemplo, KENNEDY, D., Izquierda y derecho. Ensayos de teoría jurídica crítica, Siglo XXI Editores, Buenos Aires, 2010. 81   CICERÓN, M.T., De re publica, 3.35, cit. por la edición de J. Guillén, Tecnos, Madrid, 1986, p. 102.

54

Filosofía del derecho internacional y cortocircuitos normativos…

treinta y tres días, la petición de satisfacción por un daño eventualmente sufrido. El pater patratus, jefe de los feciales, una vez traspasada la frontera, pedía satisfacción a la comunidad provocadora en el dicho plazo; si los treinta y tres días transcurrían inútilmente, el pater patratus formulaba un desafío y arrojaba una lanza en el territorio enemigo 82. El cumplimiento de las normas jurídicas tenía tanto valor ético que durante el sitio galo a la ciudad romana de Clusio, cuenta Plutarco que el ejército romano envió como mensajero, para tratar con los sitiadores, a Fabio Ambusto quien, al verse tratado ásperamente, interpretó que su misión había fracasado. Así que retó a combate al más alentado de los bárbaros y ganó el duelo. Los Galos se quejaron con Roma, «acusando a Fabio de que contra los tratados y contra la fe les había hecho una guerra no denunciada. Entonces, los Feciales bien persuadieron al Senado que Fabio fuese entregado a los Galos; pero él, acogiéndose a la muchedumbre, y valiéndose del favor del pueblo que le amparó, evitó la pena» 83. Este afán de pundonor institucional del derecho, derivado de la caballerosa reciprocidad de los pactos previos y de la honestidad de jugar desde el inicio a cartas descubiertas entre iguales, «al margen de cualquier consideración de la bondad o maldad del enemigo, de la justicia o injusticia de sus obras, se mostraría aquí, aun en toda su limitación», como ha bellamente escrito Sánchez Ferlosio, «una ética más leal y más benigna que tan urgentes y casuísticas improvisaciones de la ética universalista». De ahí que el núcleo germinal del derecho internacional haya que buscarlo precisamente en los «deberes para con el enemigo» 84. Todo esto

82   Cfr. GIUFFRÈ, V.,«Ius e bellum come manifestazioni correlate della política», en CALORE, A. (ed.), «Guerra giusta?» Le metamorfosi di un concetto antico, Giuffrè, Milán, p. 23. 83  PLUTARCO, Las vidas paralelas, trad. del original griego por A. Ranz Romanillos, Tomo I, Librería de A. Mézin, París, 1847, p. 417. 84   SÁNCHEZ FERLOSIO, R., Ensayos 3. Babel contra Babel. Asuntos internacionales. Sobre la guerra. Apuntes de polemología, Debate, Madrid, 2016, p. 242.

55

Roger Campione

sugiere que hay algo más que decir sobre la guerra, que declarar que es un mal. Esta es precisamente la hermenéutica polemológica que entra en crisis desde finales del siglo XX, también a raíz del cambio tecnológico provocado por los nuevos sistemas de armamento. I.5. LEYES Y LAWS Resulta fanta-científica, al menos de momento, la posibilidad de construir una máquina a la que atribuir responsabilidades de tipo consecuencial por sus acciones, sin que concurra en tales cadenas de actos un ser humano, ya que para ello se requeriría una fiabilidad contrastada y cierto grado de empatía que le permitiera formular un juicio sobre las acciones ajenas. Para ello sería necesario que un robot, un sistema autónomo, fuera capaz de interpretar la intención humana y otros indicios que son cualitativamente contextuales como el lenguaje no verbal. ¿Cómo podría percatarse de que un soldado enemigo, armado hasta los dientes, se acaba de rendir y se acerca «a pecho descubierto»? El problema no afecta solo a la finura intelectual de las distinciones categoriales; también sería problemático desde el punto de vista cuantitativo de la ponderación, a la hora de resolver la duda hamletiana entre las programadas necesidades militares y el respeto de las normas de derecho bélico 85. De ahí que hasta ahora, según los responsables de defensa, cualquier tipo de arma desplegada en el mundo requiere una intervención humana, salvo trampas de bajo nivel tecnológico como las minas antipersona. Parecería así conservar su sentido aquel poema de Bertolt Brecht: «General, tu tanque es un fuerte vehículo/ Derriba un bosque y destruye cien hombres/Pero tiene un defecto:/necesita un tanquista/General, tu bombardero es

85   Cfr. BALISTRERI, M., «Robot killer. La rivoluzione robotica nella guerra e le questioni morali», cit.,p. 411 ss.

56

Filosofía del derecho internacional y cortocircuitos normativos…

fuerte/Vuela más rápido que una tormenta y transporta más que un elefante/Pero tiene un defecto:/necesita un montador» 86. Sin embargo, también se señala el desarrollo en curso de sistemas de armas con capacidad para seleccionar y golpear blancos de forma totalmente autónoma 87. Uno de los problemas que más preocupa a las diversas instancias jurídicas internacionales es de carácter prospectivo y evoca el principio de precaución, ya que los LAWS no pueden tomar decisiones libremente y por tanto son, como mucho, «semiautónomos» –al estar supervisados o dirigidos por control humano remoto–. La sofisticación de los sistemas robóticos avanza en una dirección que puede complicar el rendimiento de ese control remoto, porque las aplicaciones de la inteligencia artificial podrían reducir progresivamente los tiempos de intervención humana entre las distintas actuaciones de las máquinas, obligando a los controladores a tener que tomar decisiones de enorme calado en un lapso temporal cada vez más estrecho 88. Además, la pro-

86   «General, dein Tank ist ein starker Wagen/Er bricht einen Wald nieder und zermalmt hundert Menschen/Aber er hat einen Fehler:/Er braucht einen Fahrer/General, dein Bomberflugzeug ist stark/Es fliegt schneller als ein Sturm und trägt mehr als ein Elefant/Aber es hat einen Fehler:/Es braucht einen Monteur» (BRECHT, B., Hundert Gedichte. Ausgewählt von Siegfried Unseld, Suhrkamp, Frankfurt Am Main, 1998; trad, cast. Poesías, trad. y selección de J.M. Valverde, Ediciones de la Banda Oriental, Montevideo, 2017, p. 103). 87   TEGMAN, M., Vida 3.0, cit., p. 151. 88   Los antecedentes puntuales, tanto positivos como negativos, de un escenario futuro de este tipo, los relata Tegman: en 1988, durante la guerra entre Irán e Irak, el capitán William Rodgers III dio al sistema automático estadounidense de rastreo y neutralización Aegis permiso para disparar tras haber supuesto, a la vista de los radares, que un caza iraní F14 estaba atacando el crucero USS Vincennes. En realidad, derribó un vuelo civil de Iran Air, con 290 pasajeros, debido a una interfaz de usuario que confundió el avión civil con un caza estadounidense que patrullaba una zona lejana de ese punto. En 1983, el oficial soviético Stanislav Petrov, en plena tensión entre USA y URSS, tuvo que decidir en cuestión de minutos si la alerta de un sistema automático que señalaba el lanzamiento de cinco misiles nucleares tierra-tierra

57

Roger Campione

pia evolución de la carrera armamentística empujaría hacia la marginalización completa del papel humano en este tipo de acciones militares, para conferir una autonomía completa al dispositivo tecnológico, pues entre un dron capaz de reaccionar de forma instantánea y otro controlado en remoto a miles de kilómetros de distancia, estaría bastante claro cual tendría mayores opciones de ganar el combate, teniendo en cuenta que estos sistemas autónomos podrían contestar a las amenazas de forma más rápida que un soldado, reportando una ventaja militar no indiferente 89. Hoy en día, la señalización en tiempo real de todo lo relativo a este tipo de operaciones militares genera tal cantidad de datos que solo una máquina muy sofisticada puede manejarlos. De aquí venían las extremadas cautelas del ya mencionado Philip Alston, Special Rapporteur de la ONU sobre Extrajudicial, Summary or Arbitrary Executions, cuando alertaba de que «the rapid growth of these technologies, especially those with lethal capacities and those with decreased levels of human control, raise serious concerns that have been almost entirely unexamined by human rights or humanitarian actors» 90.

por parte de los americanos era una falsa alarma o no. Se comprobó el correcto funcionamiento del satélite así que debía ponerse en marcha el protocolo de ataque nuclear. Sin embargo, el oficial decidió que se trataba de una falsa alarma. Más tarde se supo que un satélite había confundido los reflejos de la luz solar sobre la parte superior de las nubes con las llamaradas de los cohetes (TEGMAN, M., Vida 3.0, cit., pp. 142-144; cfr. también MORRIS, I., War! What is good for?, Farrar, Straus and Giroux, Nueva York, 2014; trad. cast. Guerra ¿Para qué sirve?, Ático de los libros, Barcelona – Madrid – México D.F., 2017, pp. 13-16). 89   BALISTRERI, M., «Robot killer. La rivoluzione robotica nella guerra e le questioni morali», cit., p. 408; TEGMAN, M., Vida 3.0, cit., p. 151; HARARI, Y.N., Homo Deus, cit., p. 339. 90   UNITED NATIONS, GENERAL ASSEMBLY, A/65/321, Report of the Special Rapporteur of the Human Rights Council on extrajudicial, summary or arbitrary executions, Philip Alston, 23rd august 2010, cit. y la bibliografía allí señalada.

58

Filosofía del derecho internacional y cortocircuitos normativos…

Desde esta perspectiva cobra relevancia actual, parafraseando a Clark, la siguiente pregunta: ¿de qué manera influye el progreso tecnológico más reciente en cómo concebimos la naturaleza de la guerra y de qué modo esto condiciona nuestras previsiones jurídicas? 91 De entrada, parece que este proceso encaja en el marco de profundo cambio que las formas de la guerra han experimentado en el último siglo, desafiando y llevando al colapso el paradigma jurídico del ius publicum europaeum con sus nociones y distinciones constitutivas (guerra/ paz, civil/militar, combatiente/no combatiente, etc,). Ya anotaba Schmitt en 1938 que el anuncio del Presidente Wilson, el 2 de abril de 1917, de que Estados Unidos entraría en guerra contra Alemania, sancionaba el ocaso del ius publicum europaeum y la entrada en una fase universalista del derecho internacional en la que era imposible distinguir ya no solo entre guerra justa e injusta, sino incluso entre guerra y no-guerra 92. Ahora, la llamada revolución digital ha acelerado vertiginosamente la transformación no solo de la ciencia y la tecnología, sino también de los procesos humanos existenciales y cognitivos. Y se trata de la mutación de un husserliano lebenswelt que, más que representar los límites de lo que la vida no puede sobrepasar, despliega ante nosotros un horizonte de posibilidades opacas e indefinidas. Sin embargo, los riesgos humanos de tener que tomar decisiones en un tiempo imparable y progresivamente contraído no son una prerrogativa de la guerra. En un contexto general, instancias supranacionales como la Comisión Europea han consignado un marco de reflexión deontológica acerca del actual y futurible impacto de la inteligencia artificial y la robótica tanto en ámbito civil como militar (y no es ninguna novedad que el espacio militar   CLARK, I., Waging War. A New Philosophical Introduction, 2ª ed. [1988], Oxford University Press, 2015, p. 115. 92   SCHMITT, C., Die Wendung zum diskriminierenden Kriegsbefriff, Berlín, Duncker & Humblot, 1938; trad. it. Il concetto discriminatorio di guerra, ed. a cargo de S. Pietropaoli, Prefacio de D. Zolo, Laterza, Roma-Bari, 2008, p. 5. 91

59

Roger Campione

suele ser el sembrado originario y el primer banco de prueba de las nuevas aplicaciones tecnológicas). Las delicadas cuestiones morales originadas por la irrupción de los sistemas high-tech plantean, a juicio del European Group on Ethics in Science and New Technologies, interrogantes del siguiente tenor: ¿cómo proporcionar seguridad y minimizar riesgos en un mundo en el que actúan dispositivos no humanos «autónomos»?; ¿tiene sentido hablar de control y responsabilidad compartida entre el ser humano y las máquinas, es decir, quién responde por los resultados inadecuados provocados por la conducta de estas máquinas inteligentes?; ¿cómo se deberían rediseñar las leyes y los mecanismos institucionales para implementar la gobernanza de un sistema de gestión tecnológica que mantenga como objetivo el bienestar de las personas?; ¿cómo encauzar los procesos democráticos de toma de decisión para hacer frente al problema de un uso de estas técnicas marcado por criterios comerciales o políticos? Y last but not least, ¿cómo asegurar la transparencia de estos sistemas en relación con la finalidad pública que, se supone, deberían perseguir? Dicho de otro modo, ¿cómo prevenir la lesión y puesta en peligro de valores básicos como la libertad y la igualdad frente a procesos tecnológicos que manejan, ordenan y clasifican las personas y sus comportamientos con un nivel de sofisticación nunca visto? 93. La preocupación de fondo que impulsa el debate sobre estas cuestiones parece evocar las inquietudes epistemológicas que acompañaron la aparición de la inteligencia artificial. Es como si instrumentos como los drones, los coches autónomos, los robots que exploran el espacio y las profundidades de los océanos, los sistemas de armamento robótico, los virus informáticos, los ciborgs, hubiesen intensificado tanto el mestizaje entre lo humano y lo técnico como para perfeccionar ‘sistemas

93   EUROPEAN GROUP ON ETHICS IN SCIENCE AND NEW TECHNOLOGIES, Artificial Intelligence, Robotics and ‘Autonomous’ Systems, Publications Office of the European Union, Luxemburg, 2018.

60

Filosofía del derecho internacional y cortocircuitos normativos…

híbridos’ y definitivamente ‘no triviales’ 94. La diferencia entre sistemas triviales y no triviales estriba en que los primeros son sistemas cuyo output está unívocamente determinado por el input, por lo que en ellos ‘señal’ e ‘información’ son indistinguibles. Debido a que responden con el mismo output cada vez que reciben el mismo input, sistemas como un interruptor de corriente o un motor de combustión no modifican su comportamiento con la experiencia. Se trata, pues, de entes que son predecibles e independientes de la historia. Los sistemas ‘no triviales’, en cambio, operan de tal modo que, una reacción observada en un momento dado a un determinado estímulo, no tiene por qué volverse a dar en otro momento, aunque aparezca el mismo estímulo. La razón de esta diversidad conductiva se debe a que estos sistemas no son meros procesadores de ‘señales’, sino que están provistos de una ‘función interna de estado’, cuyos valores co–determinan las relaciones input– output. Estos valores van cambiando, de acuerdo con una cierta pauta, en virtud del estado interno en que ha quedado el sistema, como consecuencia de sus anteriores operaciones. Por ello, una misma ‘señal’ no tiene siempre el mismo valor ‘informativo’, pues dicho valor no sólo depende de aquella (del input), sino también del valor adoptado, en cada momento, por la ‘función interna de estado’ del sistema. Los sistemas ‘no triviales’ como los humanos y sociales, por consiguiente, si bien están también ‘sintéticamente determinados’ (al igual que los ‘triviales’), dependen de su historia, y por ello son analítica-

94   Como botón de muestra del carácter no descabellado de tales reflexiones, en las elecciones municipales celebradas en abril de 2018 en Tama, uno de los veintitrés distritos que componen la ciudad de Tokyo, uno de los candidatos a la alcaldía ha sido Michihito Matsuda, un androide (robot antropomorfo), que bajo el lema «Artificial Intelligence will change Tama City», ha cosechado 4.013 votos resultando el tercer candidato más votado (El País, 18 de abril de 2018). Es posible visitar la página web del candidato, detrás del cual están el vicepresidente de Softbank y un antiguo empleado de Google, en la dirección https://www.ai-mayor.com/ [fecha de consulta: 17 de noviembre de 2018].

61

Roger Campione

mente indeterminables e impredecibles  95 . A los ojos del ­principio normativo de imputabilidad de las acciones, que tradicionalmente considera la imprevisibilidad como una característica exclusiva de la conducta humana, la impredecibilidad de algunos dispositivos cognitivos artificiales, como los ­mencionados sistemas autónomos, proyecta una preocupante opacidad, porque sus acciones ya no están programadas de manera lineal por seres humanos. Sería como si maquinas triviales adquirieran ciertos rasgos reservados a los sistemas no triviales. Tras los algoritmos iniciales establecidos por quienes configuran el funcionamiento del sistema, es imposible saber cómo la máquina conseguirá alcanzar su objetivo mediante operaciones autónomas. Se torna inasequible comprender exactamente cómo pueden programas de inteligencia artificial como AlphaGo aprender a jugar al ajedrez o a otros juegos en pocas horas y superar el nivel de los campeones mundiales humanos o de otros sistemas informáticos 96. En este sentido sus acciones dejarían de ser inteligibles para el escrutinio humano y pasarían a depender de ‘algoritmos inteligentes’. Dicho de otro modo, se convierten en máquinas que aprenden de la interacción con las personas y por ello adquieren la capacidad de actuar de un modo no previsto inicialmente. Se disolvería paulatinamente la diferencia entre ser humano y el robot con la que Bertolt Brecht concluía el poema mencionado antes: 95   He retomado en este punto argumentos expuestos previamente en CAMPIONE, R., La teoría social de Anthony Giddens. Una lectura crítica desde la teoría jurídica, Madrid, Dykinson, 2005, pp. 88-91, con las relativas indicaciones bibliográficas. 96   EUROPEAN GROUP ON ETHICS IN SCIENCE AND NEW TECHNOLOGIES, op. cit. Un primer punto de inflexión en las posibilidades de la inteligencia artificial fue la derrota del campeón mundial de ajedrez, Garry Kasparov, frente a Deep Blue, la computadora creada por IBM, en 1997 (cfr. SÁNCHEZ DEL CAMPO REDONET, A., Reflexiones de un replicante legal. Los retos jurídicos de la robótica y las tecnologías disruptivas, cit., 2016, pp. 21-22). El mismo Kasparov reflexiona sobre la asombrosa experiencia en KASPAROV, G., Deep Thinking: Where Machine Intelligence Ends and Human Creativity Begins, Public Affairs, Nueva York, 2017.

62

Filosofía del derecho internacional y cortocircuitos normativos…

«General, el hombre es muy útil/Puede volar y puede matar/ Pero tiene un defecto:/puede pensar» 97. Teniendo todo esto en cuenta, es fácil comprender por qué, al comparar sistemas ‘triviales’ y ‘no triviales’, decía Heinz von Foerster que la característica decisiva de los primeros es la obediencia y la de los segundos la desobediencia; o dicho más exactamente, los sistemas ‘triviales’ obedecen a una voz externa (la de su sintetizador), los ‘no triviales’ lo hacen a una voz interna, propia (la de su autosíntesis)  98. Esta distinción de von Foerster es fácilmente asimilable a aquella otra que está en la base de lo que podríamos llamar ‘segunda generación’ de la teoría de la información, también conocida como cibernética de segundo orden. Gregory Bateson, uno de sus principales exponentes, propone retomar de Jung, para definir el campo de la nueva teoría de la información, los conceptos de «pleroma» y «creatura», que son, por así decir, dos mundos de explicación. El «pleroma» es el mundo en que los sucesos son causados por fuerzas e impactos, y en cual no hay diferencias. En la «creatura», por el contrario, los efectos son producidos precisamente por la diferencia 99. El pleroma constituye el mundo en su fisicidad, mientras que la creatura es el mundo de los significantes, es decir, de la comunicación de los significados. Y éste es, precisamente, el campo de la información, por lo que, cuando estudiamos los fenómenos que en él se constituyen (y a él lo

  BRECHT, B., Poesías, cit., p. 103.   VON FOERSTER, H., «Principles of Self–Organization in a Socio– Managerial Context», en ULRICH, H., PROBST, G.J.B. (eds.), Self–Organization and the Management of Social Systems, Springer, Nueva York, 1984, pp. 2-24. 99   BATESON, G., Pasos hacia una ecología de la mente. Una aproximación revolucionaria a la autocomprensión del hombre, Ediciones Carlos Lohlé, Buenos Aires, 1985, p. 486. Jung utiliza los términos gnósticos de pleroma y creatura en los Septem Sermones ad Mortuos, opúsculo escrito en 1916 en forma de edición privada y luego recogido en el apéndice a la segunda edición de JUNG, C.G., JAFFÉ, A., Memories, Dreams, Reflections, Random House, Nueva York, 1989, pp. 378-390. 97

98

63

Roger Campione

constituyen), tenemos que identificar correctamente aquellas diferencias que son efectivas dentro de la «creatura», o lo que es lo mismo: de los sistemas creadores (que no «procesadores») de información. La información, su creación, requiere una «selección», en el sentido de que requiere distinguir o diferenciar (por lo general de manera implícita). Utilizando la terminología del propio Bateson, podemos decir que la unidad elemental de la información es una diferencia (observada, percibida) que produce una diferencia (de estado interno del observador o perceptor). Y esto viene a significar que, para que se cree información, las «vías» por las que la información transita tienen que estar ya predispuestas (sensibilizadas) para que ciertas diferencias operen en ellas, en determinados momentos, una determinada diferencia. En otras palabras: la información es creación, es un fenómeno autorreferencial (autosintético) 100.

  A propósito del concepto de diferencia Bateson dice que «la palabra «idea», en su sentido más elemental, es sinónimo de «diferencia». En la Crítica del juicio, Kant, si lo he entendido correctamente, afirma que el acto estético más elemental es la selección de un hecho. Argumenta que en un trozo de tiza existe un número infinito de hechos potenciales. La Ding an sich [la cosa en sí], el trozo de tiza, no puede entrar nunca en un proceso de comunicación o mental debido a su infinitud. Los receptores sensoriales no pueden aceptarla; la filtran y la excluyen. Lo que hacen es elegir y extraer del trozo de tiza ciertos hechos, los cuales, luego, empleando una terminología moderna, se convierten en información. Opino que el aserto de Kant puede modificarse diciendo que existe un número infinito de diferencias alrededor y dentro del trozo de tiza. Hay diferencias entre la tiza y el resto del universo, entre la tiza y el sol y la luna. Y dentro del trozo de tiza, para cada molécula existe un número infinito de diferencias entre su localización y las localizaciones en las que pudo encontrarse. De esta infinitud, elegimos un número limitado, que se convierte en información. De hecho, lo que entendemos por información –la unidad elemental de información– es una diferencia que hace una diferencia, y está en condiciones de hacer una diferencia porque las vías nerviosas por las que transita y en las que es continuamente transformada están, por su cuenta, provistas de energía. Podemos decir que la pregunta está ya implícita en ellas» (BATESON, G., Pasos hacia una ecología de la mente, cit., pp. 483484). 100

64

Filosofía del derecho internacional y cortocircuitos normativos…

En el mundo de la «creatura», de los sistemas creadores de información –al igual que en el de los sistemas «no triviales» de von Foerster– predomina, pues, la indeterminación e impredecibilidad analítica. Viceversa, los sistemas triviales son la encarnación del ideal conductista y el modelo de referencia que está, de manera implícita, en la base de la primera teoría de la información. La explicación de que los «teóricos de la información» hayan podido confundir dos conceptos distintos como «señal» e «información» tendría su causa en el hecho de que esta teoría se desarrolló durante la Segunda Guerra Mundial: y «en tiempos de guerra un determinado modo lingüístico –el imperativo– tiende a prevalecer sobre los demás (el descriptivo, el interrogativo, el exclamativo, etc.)» 101. Esta reflexión epistemológica del siglo pasado muestra todo su potencial predictivo en el nivel empírico de la nueva centuria, pues la robótica ha hecho progresos extraordinarios en los últimos sesenta años: «de ser objetos mecánicos, estáticos, receptivos, repetitivos y ejecutivos, hoy en día los robots se están convirtiendo en entes autónomos y dotados de movimiento, con funciones generales y no solo específicas, con cierta capacidad de aprendizaje y adaptación al medio (incluso sin el control de un operador), de un modo no siempre previsible, con capacidad de conocimiento analítico, de comunicación (reconocimiento de lenguaje), de expresión, de emoción o imitación de las emociones humanas en su aspecto exterior» 102.

101   VON FOERSTER, H., Sistemi che osservano, ed. a cargo de M. Ceruti y U. Telfner, Astrolabio, Roma, 1987, p. 171. 102   COMITATO NAZIONALE PER LA BIOETICA Y COMITATO NAZIONALE PER LA BIOSICUREZZA, LE BIOTECNOLOGIE E LE SCIENZE DELLA VITA, Sviluppi della robotica e della roboetica, Presidenza del Consiglio dei Ministri, 17 de julio de 2017, p. 7, http://bioetica.governo.it/media/3463/ robotica-misto-cnb-cnbbsv-17lug17-it.pdf [fecha de consulta: 1 de marzo de 2020].

65

Roger Campione

I.6. ROBÓTICA Y CORTOCIRCUITOS NORMATIVOS El ámbito militar es precisamente uno de los principales terrenos de controversia acerca de los sistemas ‘autónomos’. Los recientes avances en robótica encuentran un importante campo de exploración en las crecientes inversiones estatales en las LAWS, máquinas capaces de llevar a cabo actividades de selección y ataque de objetivos incluso en ausencia de intervención o supervisión humana. Las armas robóticas se suelen dividir en tres categorías según el grado de implicación humana en sus actividades: las Human in-the Loop Weapons, que pueden seleccionar objetivos y actuar sobre ellos solo a través de un comando humano; las Human on-the Loop Weapons, que pueden seleccionar y actuar bajo una supervisión humana que puede invalidar la acción del robot; y las Human out-of-the Loop Weapons, armas que son capaces de seleccionar blancos y atacarlos sin ningún tipo de intervención o input humano 103. En este caso, el operador humano tan solo interviene en la fase inicial de introducción de datos, pues lo que caracteriza al sistema autónomo es la capacidad de funcionar de manera independiente sin haber sido programado para hacer frente a una amenaza específica. Por tanto, la selección de los objetivos y las decisiones relativas a cuándo y cómo atacar, dependen en exclusiva del software que, en teoría, debería haber sido pre-programado para afrontar múltiples situaciones bajo múltiples circunstancias 104. ¿Cabe pensar que estos sistemas militares sean capaces de seguir standards legales? ¿Qué resquicio queda, en un panorama así delineado, para acudir a instrumentos jurídicos internacionales incluso abiertos, flexibles y porosos, como la cláusula Martens, cuando aquellas leyes de la humanidad y aquella conciencia pública, que la cláusula invoca

103   HUMAN RIGHTS WATCH, Losing Humanity. The Case against Killer Robots, International Human Rights Clinic, 2012, en [fecha de consulta: 4 de mayo de 2018]. 104   BACCHI, S.,«I droni: arma del futuro?», cit., p. 45.

66

Filosofía del derecho internacional y cortocircuitos normativos…

para hacer frente a la ausencia de normas positivas, no tienen longa repetitio sobre la que asirse? 105 La puesta en juego es muy alta, nada menos que la incapacidad de adaptación del derecho internacional, expuesto precisamente al peligro de ser relegado al papel de positive international morality que le atribuía John Austin en tiempos de paleopositivismo. Y tal vez el envite sea aún más aterrador: que el derecho internacional retroceda del nivel austiniano de apremio moral a la inutilidad práctica y simbólica de una chatarra sin valor ninguno. De la respuesta que se dé a la pregunta de si la tecnología puede lograr que las decisiones de una máquina pasen por el cedazo de su conformidad al derecho bélico, depende que tales reglas conserven una limitada influencia normativa (moral y/o legal) o haya que guardarlas entre las diversiones intelectuales del pasado. En cualquier caso, la latencia normativa producida por la escalada de la guerra cibernética aboca, hic et nunc, al colapso de las distinciones jurídicas y, por tanto, de los límites impuestos por el derecho, proyectando escenarios de guerra legibus soluta típicos de una guerra civil permanente como la   Según la cláusula Martens, norma de cierre del derecho de guerra, consagrada en el Preámbulo del (II) Convenio de La Haya de 1899 relativo a las leyes y costumbres de la guerra terrestre, «Mientras que se forma un Código más completo de las leyes de la guerra, las Altas Partes Contratantes juzgan oportuno declarar que, en los casos no comprendidos en las disposiciones reglamentarias adoptadas por ellas, las poblaciones y los beligerantes permanecen bajo la garantía y el régimen de los principios del Derecho de Gentes preconizados por los usos establecidos entre las naciones civilizadas, por las leyes de la humanidad y por las exigencias de la conciencia pública». En los mismos términos, la cláusula reaparece en el Preámbulo del Convenio de 1907 sobre normas y usos de la guerra terrestre para integrar las lagunas en los tratados. Al declarar la vigencia de principios preexistentes y por ser una cláusula de cierre del sistema de tratados, la norma evidencia, tal como señala Scovazzi, la voluntad de reafirmar una norma general. Por tanto, asume una naturaleza consuetudinaria sin verse perjudicada por los límites impuestos al Convenio por parte de la llamada cláusula si omnes que vincularía solo a las Partes contractantes (SCOVAZZI, T., «Diritto internazionale e bombardamenti aerei: chi bombarda meglio degli altri ha più ragione di altri?», cit., pp. 93-94). 105

67

Roger Campione

representada en los últimos años por el terrorismo 106. El uso de los sistemas autónomos pone al descubierto una asimetría técnica y valorativa ya destacada por Chamayou, con el paso de la ética del combate a la ética de la ejecución, del paradigma bélico al modelo cinegético. La utilización de instrumentos como los drones, observa Chamayou, habría rebajado a un nivel fantasmagórico la reciprocidad en la que se basa el derecho de guerra. El empleo asimétrico de armas, cuya tecnología permite matar sin riesgo a ser matado, invalidaría las reglas del derecho internacional, privando unilateralmente al enemigo de la posibilidad de combatir, sacando así la guerra del marco normativo históricamente dirigido a contenerla 107. Existe el serio peligro de precipitar aún más en un teatro de cortocircuitos normativos ya atizado por otras desviaciones jurídicas en el contexto de los conflictos internacionales. Queriendo ejemplificar, podemos referirnos al cortocircuito entre regla (sus límites) y excepción que en años recientes ha alimentado la discusión sobre prácticas como la tortura que, «ejercida como función pública e institucionalizada bajo la excusa de la defensa de la nación y de sus ciudadanos, propicia una suspensión de la universalidad de los principios sobre los que se asientan los derechos humanos que delata las fisuras éticas de la democracia que le da cobijo y la alienta. Un ejemplo palmario

106   Sobre la llamada de atención hacia los riesgos de asimetría provocados por esta latencia normativa véase RUSCHI, F., «Il diritto, la guerra e la “tecnica scatenata”. Considerazioni sul drone warfare», en CAMPIONE, R., RUSCHI, F. (eds.), Guerra, diritto e sicurezza nelle relazioni internazionali, Giappichelli, Turín, 2019, pp. 38-43, que en este punto específico remite a AGAMBEN, G., Stasis. La guerra civile come paradigma politico. ‘Homo sacer, II, 2’, Bollati, Turín, 2015, pp. 9-32 y especialmente a las pp. 31-32. En este caso, cito la edición italiana del trabajo de Ruschi, posterior a la original de 2017, porque se trata de una versión ampliada y actualizada que enriquece la ya notable versión original. 107   CHAMAYOU, G., Théorie du Drone, La Fabrique, París, 2013, trad. cast. Teoría del dron. Nuevos paradigmas de los conflictos del siglo XXI, Futuro Anterior, Barcelona, 2016, p. 190.

68

Filosofía del derecho internacional y cortocircuitos normativos…

de la «suspensión política de la ética» de la que habla Slavoj Žižek» 108. Cuando hubo que justificar los memorandos internos del Departamento de Justicia y del departamento de Defensa que autorizaban las enhanced interrogation techniques practicadas en Abu Ghraib y Guantánamo, la administración estadounidense no se limitó a intentar manipular la definición legal de la prohibición de la tortura, sino que buscó liquidar su estatus jurídico. Recuperando la doctrina utilizada décadas antes para invalidar el juicio político contra el presidente Nixon, el Departamento de Justicia y su Oficina de Asesoría Jurídica defendieron que el presidente puede desobedecer la ley si ello redunda en algo bueno para el país, otorgando a las decisiones del comandante en jefe la supremacía política sobre los órganos de soberanía y la ley 109. Era este un escenario bélico sin soldados reconocidos, sin campo de batalla abierto, donde enemigo y terrorista se confunden. La guerra drónica, robótica, ‘artificialmente inteligente’, exaspera este decorado: «los algoritmos no distinguen entre enemigo y terrorista». Desaparece el campo de batalla, desaparecen los sujetos de la guerra y se acaban difuminando las responsabilidades normativas, reducidas al rango de impulsos eléctricos. Es una guerra sin iustus hostis, sin enemigo en el sentido del derecho internacional. Por ello es una

  SÁNCHEZ DE LA YNCERA, I., RODRÍGUEZ FOUZ, M., «El [in]justificable recurso a la tortura. Seguridad y adiaforización en sus ominosas institucionalizaciones», en CAMPIONE, R. RUSCHI, F., Guerra, derecho y seguridad en las relaciones internacionales, cit., p. 263. La cuestión entronca directamente con la relación entre tecnología y guerra: ¿es modulable la prohibición de la tortura hacia sujetos (soldados/prisioneros) cada vez menos humanos por ser ‘más que humanos’? ¿La presencia de combatientes técnicamente ‘mejorados’ para soportar altos niveles de dolor físico y psíquico, afectaría a la criminalización de la tortura? (Cfr. AMATO, S., «Neuroscienze e utilizzazione militare delle tecniche di potenziamento umano», cit., p. 194). 109   Cfr. FISS, O., A War like no other: The Constitution in a Time of Terror, ed. a cargo de T. Sutton, The New York Press, New York, 2015; trad. cast. Una guerra sin igual. La Constitución en los tiempos del terrorismo, Marcial Pons, Madrid, 2017, p. 163 ss. 108

69

Roger Campione

guerra permanente, perpetua, por doquier, en la que el más elemental derecho a un juicio justo es simplemente inconcebible 110. En definitiva, una concreción del estado de excepción como paradigma de gobierno 111. Este modelo de legitimación se enmarcaba en el contexto de la War on Terror, una «nueva guerra» en la que se ponía en entredicho la fuerza del derecho humanitario: siendo ciertas técnicas de interrogatorio inconsistentes con las leyes internacionales, se opta por negar la premisa mayor y argumentar que los sometidos a esos interrogatorios no son prisioneros de guerra sino combatientes enemigos ilegales y, por tanto, no amparados por las garantías reconocidas en la Convención de Ginebra 112.

  AMATO, S.,«Neuroscienze e utilizzazione militare delle tecniche di potenziamento umano», cit., pp. 189-190. 111   Siniestra coincidencia que me encuentre revisando esta parte del texto el día en que en España se ha decretado el estado de alarma nacional para hacer frente a la emergencia del coronavirus COVID-19. Estos no son días para hacer otra cosa que no sea acatar las indicaciones de las autoridades sanitarias y, sobre todo, mostrar responsabilidad y autodisciplina para contribuir a ralentizar la propagación del virus. Cuando todo esto pase –y esperemos que sea lo más pronto posible– y podamos ver las cosas con menos ansia, quienes solemos lidiar con los asuntos de la sociedad, la política y el derecho, tendremos tiempo y sosiego para reflexionar sobre lo que está aconteciendo en el mundo, real y virtual, en este tramo de 2020. 112   Cfr. ALDAVE ORZAIZ, A., La guerra global contra el terrorismo. Un análisis de la crisis del Derecho Internacional antes y después del 11-S, cit., pp 160-170. Para una panorámica sobre la War on Terror en el contexto del derecho internacional puede verse, entre la ingente bibliografía anglosajona, DUFFY, H., The war on terror and the framework of international law, Cambridge University Press, 2005; BIANCHI, A., NAQVI, Y., International Humanitarian Law and Terrorism, Hart Publishing, Oxford and Portland, Oregon, 2011; MAOGOTO, J., Battling terrorism: legal perspective on the use of force and the war on terror, Ashgate, Aldershot,2005; RATNER, S.R., «Jus ad bellum and jus in bello after september 11», en American Journal of International Law, Vol. 96, No. 4, 2002, pp. 905-921; RONA, G., «Interesting Times for International Humanitarian Law: Challenges from the ‘War on Terror’», en The Fietcher of World Affaires, Vol. 27:2, Summer/Fall 2003, pp. 55-74; SCHRIJVER, N.J., «Responding to International Terrorism: moving the frontiers of international law for enduring freedom», en Netherlands International Law Review, Vol. 48, 110

70

Filosofía del derecho internacional y cortocircuitos normativos…

La curva evolutiva de la interpretación jurídica da así un giro de trescientos sesenta grados y enfila la recta hacia el pasado, si pensamos que hace casi setenta años, en ese mismo país, la Corte Suprema revocaba la condena de un individuo que había sido forzado por la policía a vomitar narcóticos contra su voluntad, al considerar que ese tipo de conducta shocks the conscience 113. Una expresión, esta, vaga y ambigua, por cierto, porque otorga sustancia moral a una noción (la conciencia) despachándola por materialmente objetiva y activando un peligroso juego de suma cero que hace depender el juicio de una ponderación ética entre distintas «afrentas de conciencia», como si ello fuera posible objetivamente, rebus sic stantibus, al margen de su anclaje normativo. De este modo, la conducta que menos repugne entre dos (pensemos, por ejemplo, en la decisión de torturar en el ticking bomb scenario) quedaría justificada, aunque fuera por un miligramo de diferencia en la balanza de la ponderación. Sin embargo, esta justificación no convertiría la acción en moralmente valiosa. El recurso a una práctica lesiva de bienes considerados merecedores de tutela por las normas supremas, aunque estuviera justificado por un estado de necesidad (como puede ser, incluso, la legítima defensa), no por esto se convertiría en un acto moralmente justo. Efectuar la valoración en el eje de la jerarquía moral (esto es bueno porque es menos malo que aquello: torturar al que ha puesto una bomba en un mercado, para obligarlo a decir dónde la ha colocado, es bueno porque es menos malo que dejar que la bomba estalle y mate a muchas personas) conduce a un idea-

No.3, 2001, pp. 271-291; BUGNION, F., «Just Wars, Wars of Agression and International Humanitarian Law», en International Studies Journal, No. 5, 2005, pp. 39-69; D’ASPREMONT, J., «Mapping the concepts behind the contemporary liberalization of the use of force in international law», en Journal of International Law, Vol. 31, Issue 4, 2014, pp.1089-1149; SLOANE, R.D., «The Cost of Conflation: preserving the dualism of Jus ad Bellum and Jus in bello in the Contemporary Law of War», en Yale Journal of International Law, Vol. 34, 2009, pp.47-112. 113   Rochin v. California, 342 U.S. 165 (1952).

71

Roger Campione

lismo abstracto en el que el argumento de la prohibición sin excepciones de la tortura es reducido a un absoluto moral cuando, al contrario, puede basarse en un pragmatismo normativo que, precisamente en las situaciones de emergencia, redescubre reflexivamente la importancia de los límites cuajados en la normas. Como bien dice Jeremy Waldron, la necesidad compartida de que existan normas que prohíban la tortura también en situaciones de emergencia social, es lo que ha impulsado a legisladores a adoptar normas como el art. 15 del Convenio Europeo de Derechos Humanos (Derogación en caso de estado de excepción), en el que se establece expresamente la inderogabilidad del art. 3 (Prohibición de la tortura) aún «en caso de guerra o de otro peligro público que amenace la vida de la nación» 114. Trasladar la cuestión a un plano exclusivamente moral no solo empaña la objetividad del juicio, incurriendo en subjetivismos inevitables –ya sean de buena o mala fe– sino que además aleja el dictamen de la realidad práctica, arrastrándolo hacia todo tipo de escenarios ticking bomb hipotéticos en los que se nos aseguran una serie de circunstancias que el mundo real no puede permitirse 115, unas motivaciones muy claras que nunca se manifiestan de forma tan obvia en la práctica y una cadena lógico-temporal de consecuencias cuya previsión completa jamás está al alcance de soberanos, hombres de estado o filósofos 116.

  En el mismo sentido, el art. 4 del Pacto Internacional de Derechos Civiles y Políticos dispone la no suspensión de la prohibición de la tortura (junto con otros principio o derechos como la vida, la prohibición de la esclavitud, la no encarcelación por el incumplimiento de una obligación, la irretroactividad de la ley penal y la libertad de expresión), prevista en el art. 7, incluso en las «situaciones excepcionales que pongan en peligro la vida de la nación y cuya existencia haya sido proclamada oficialmente». 115   Que existe con toda evidencia una amenaza; que el ataque es inminente; que matará a un número elevado de personas; que el sospechoso es sin ninguna duda el perpetrador del ataque; que el sospechoso posee la información necesaria para prevenir el ataque; que tal información solo puede ser obtenida mediante tortura. 116   Cfr. WALDRON, J., «Responses to Zedner, Haque and Mendus», en Criminal Law and Philosophy, núm. 8, 2014, p. 141. Se trata, en la referencia 114

72

Filosofía del derecho internacional y cortocircuitos normativos…

Algo parecido podría ocurrir cuando elucubramos moralmente sobre las decisiones a tomar por el coche autónomo en situaciones teóricas en las que se antoja harto complicado prever una conjura tal de combinaciones que permita formular instrucciones éticas a una máquina muy sofisticada pero carente de empatía contextual 117. Sobre todo, si tenemos en cuenta que para llegar a coches totalmente autónomos hará falta todavía tiempo; entre las razones están las dificultades prácticas ligadas al uso de sensores y cámaras cuando llueve o nieva. A un alcance más cercano está la utilización de vehículos sin conductor en áreas con velocidad limitada, tráfico escaso y pocos peatones, como puede ser un campus universitario. Pero, en realidad, esta tecnología innovadora no solo resulta útil de cara a los coches autónomos, sino también a los tripulados: piénsese en el uso de sensores de detección para los puntos ciegos de los retrovisores 118.

concreta, de la réplica que Waldron dirige a Susan Mendus, quien había criticado su libro (WALDRON, J., Torture, Terror and Trade-Offs: Philosophy for the White House, Oxford University Press, 2010) precisamente por defender la prohibición de la tortura como un principio moral absoluto y sin posibilidad de excepciones (MENDUS, S., «Professor Waldron Goes to Washington», en Criminal Law and Philosophy, núm. 8, 2014, pp. 123-134). 117   Como muestra un irónico video de El mundo today, ante la imposibilidad de discernir si vale más la vida del peatón o la del pasajero, los algoritmos empleados por la inteligencia artificial de los coches autónomos optarían por la decisión más lógica: atropellar a todos los peatones posibles y luego estrellarse para matar también a los pasajeros, en una tragicómica aplicación del imperativo categórico kantiano (https://www.elmundotoday.com/2020/02/ en-caso-de-accidente-los-coches-autonomos-atropellaran-a-todos-los-humanos-para-no-tener-que-elegir-que-vida-salvar/) [fecha de consulta: 5 de febrero de 2020]. 118   Entrevista a RUS, D.,«Con l’intelligenza artificiale potremo anche eliminare gli incidenti stradali, ma non deve farci paura», en la Repubblica, 2 de octubre de 2019, https://www.repubblica.it/dossier/tecnologia/onlife/2019/10/02/news/ daniela_rus_mit_con_l_intelligenza_artificiale_potremo_anche_eliminare_gli_ incidenti_stradali_ma_non_deve_farci_paura_-237472937/ [última consulta: 13 de enero de 2020]. Las empresas que están desarrollando en coche autónomo tienen que echar cuentas con el Estándar SAE J3016, que clasifica la conducción

73

Roger Campione

En definitiva, no es que las reglas de derecho humanitario estén exentas de tales vicios, pero son las que pueden permitir, more schmittiano, des-teologizar la guerra –incluida la War on Terror– eliminando en cualquier caso la legitimación a aniquilar al enemigo y, cuando menos, se proponen como unidad de medida de un orden mínimo compartido. Sin embargo, el llamamiento a ‘conciencias sustanciales’ no es extraño en el contexto jurídico internacional 119. Tampoco debemos olvidar que el derecho bien puede ser el lacayo de la locura, el mamporrero de Satanás. Que le pregunten al siglo XX, si no. Y las normas no pueden ser nunca un dique insuperable frente a la barbarie, pues como dice el refranero, hecha la ley, hecha la trampa:

autónoma en seis niveles (del 0 al 5 y solo a partir del 3 podemos hablar cabalmente de conducción autónoma): desde el nivel 0, que se corresponde con un coche normal salvo por ‘automatismos’ como el blind spot warning o el automatic emergency breaking (obligatorio en la Unión Europea a partir de 2022), hasta el nivel 5 en el que el conductor es en realidad pasajero (y por tanto no son necesarios los pedales ni el volante), sin los límites ni las condiciones de circulación previstas en el nivel 4 en el que se sitúan, por ejemplo, los Robotaxi de Google-Waymo en Estados Unidos; véase J3016_201806Taxonomy and Definitions for Terms Related to Driving Automation Systems for On-Road Motor Vehicles en https://www.sae.org/standards/content/j3016_201806/ [fecha de consulta: 5 de febrero de 2020]. 119   Ciñéndonos a impulsos ‘normativos’ internacionales post-11S, cabe recordar el informe The Responsibility to Protect, presentado a finales de septiembre de 2001 por la International Commission on Intervention and State Sovereignty (ICISS). El documento identifica las circunstancias que justifican una intervención armada en el marco de la R2P –pérdida masiva de vidas humanas (large scale loss of life) y limpieza étnica (ethnic cleansing) – y, para aclarar los casos en que tales criterios han de ser aplicados, precisa que esta tipología incluye las situaciones que perturban la conciencia (conscience-shocking situations). O el informe redactado por el «Grupo de alto nivel sobre las amenazas, los desafíos y el cambio», presentado ante la Asamblea General de Naciones Unidas a finales de 2004, que introduce el requerimiento de razones morales para adoptar decisiones que legitimen el uso de la fuerza (párrafo 204) y reitera que el Consejo de seguridad debe autorizarlo por cuestiones de buena conciencia (as a matter of good consciente, párrafo 205); cfr. GLENNON, M.J.,«Idealism at the UN: The High-Levels Panel’s High-Minded Errors», en Policy Review, nº 129, 2005, pp. 3-13.

74

Filosofía del derecho internacional y cortocircuitos normativos…

cuando en 1921 el gobernador civil Mori (el Prefetto di ferro), ante los constantes apaleamientos perpetrados por las squadracce fascistas contra los huelguistas campesinos socialistas y comunistas, prohíbe circular con bastones de paseo, los camisas negras ferrareses de Italo Balbo empiezan a pegar con bacalaos secos empuñados por la cola, complaciéndose por echar sal en las heridas provocadas 120. En definitiva, la ruptura de los límites de la guerra influye en las tensiones entre las categorías ‘normalmente’ válidas y las excepciones que las van desmintiendo, pero sin proporcionar standards claros o reglas alternativas asentadas. Baste pensar, por ejemplo, en la guerra cibernética y en las actividades registradas en el ciberespacio, donde generalmente saltan por los aires los principios que tradicionalmente han gobernado el derecho bélico. La peculiaridad de este espacio cibernético, compuesto por elementos que son a la vez naturales y artificiales, une la inmovilidad geográfica del ‘lugar físico’ con el carácter híbrido y cambiante de un ambiente producido por la acción humana. Ilustra de forma esquemática esta configuración ‘dialéctica’ del ciberespacio la clasificación realizada por el ejército estadounidense. Se trata de una representación en tres ‘capas’: un nivel físico, hecho de cables submarinos, la red ethernet, los rúters y los dispositivos de intercambio de datos; un nivel lógico, constituido por los códigos que permiten el funcionamiento del hardware; y un nivel social, que consiste en la interacción entre los usuarios físicos y cada vez más, como se ha visto hasta ahora, entre máquinas y máquinas 121. Sin embargo, esta dimensión par-

  SCURATI, A., M. Il figlio del secolo, Bompiani, Milán, 2018, p. 391.   DEPARTMENT OF THE ARMY HEAD QUARTERS, United States Army Training and Doctrine Command, 2010, cit. en MARTINO, L., «La quinta dimensione della conflittualità. L’ascesa del cyberspazio e I suoi effetti sulla politica internazionale», en Politica & Società, 1, 2018, p. 65. Martino cita también las cualidades del ciberespacio identificadas por la National Military Strategy for Cyberspace Operations (Volatility, Uncertainity, Complexity, Ambiguity) para destacar sus dos características peculiares: la velocidad de propagación y el desplome de los confines. 120

121

75

Roger Campione

cialmente intangible no debe inducir a engaño. La ciberguerra se escapará, al igual que otras modalidades tecnológicas referidas, a los protocolos jurídicos clásicos; aun así, sus efectos y sus daños son físicos, materiales, tienen un ubi, un donde geográfico, pudiendo ser este el sabotaje o la destrucción de datos concretamente situados, el bloqueo de actividades neurálgicas como el tráfico aéreo, el suministro de energía o el funcionamiento de centrales nucleares. Casos como el ciberataque a Estonia en 2007, el apagón provocado a la red eléctrica de Crimea a finales de 2015 o el caso Stuxnet, el virus informático que en 2010 bloqueó las plantas nucleares iranís, demuestran que la violencia cibernética puede afectar a infraestructuras del mundo ‘real’ y que, al igual que en el mundo físico, en el ciberespacio no existe la seguridad total. Y la sofisticación impulsada por las posibilidades de la inteligencia artificial amplía exponencialmente la incertidumbre sobre lo (ultra)humanamente alcanzable. Otro ejemplo paradigmático que pone en discusión la aplicabilidad de los esquemas normativos bélicos ha sido, en las últimas décadas, el terrorismo entendido como forma actual de violencia híbrida, que bascula entre la noción tradicional del recurso a actos criminales cometidos contra la población civil fuera de los contextos bélicos, y su práctica más reciente de actos cometidos por combatientes en el marco de un (considerado como) conflicto armado internacional 122. De nuevo, he aquí una dialéctica de formas que atacan a la lógica jurídica de la guerra. Está claro que estos cortocircuitos entre normas arraigadas del derecho interestatal, cuyo alcance epistémico se va debilitando, y excepciones que no confirman ni sancionan definitivamente una nueva regla, afectan de lleno incluso a categorías fundamentales del orden internacional clásico, tan básicas como la de enemigo, una categoría que representa el

122   COLOMBO, A., «El terrorismo entre legalidad y legitimidad. El insostenible monopolio de los Estados sobre la noción de violencia ilegítima», en CAMPIONE, R., RUSCHI, F.(eds.), Guerra, derecho y seguridad en las relaciones internacionales, cit., pp. 77-110.

76

Filosofía del derecho internacional y cortocircuitos normativos…

mismísimo ‘logos de la guerra’. Un logos que habla a través de Pólemos, el cual aun personificando la batalla no exime del cumplimiento de ciertas normas. En este sentido cabe interpretar el famoso fragmento 53 de Heráclito sobre la guerra como padre de todas las cosas: todo nomos proviene, de algún modo, de Pólemos que constituye así «el principio de la contienda», la divergencia entre opuestos que se manifiesta en la guerra 123. La concreción política de este principio epistémico sería la dimensión de la enemistad, en sentido schmittiano, como categoría estructuradora de la comunidad internacional realizada por la guerra 124. La posibilidad de regular un fenómeno potencialmente desatado como la guerra exige la presencia del enemigo. No es que no habría guerra, es que no cabría posibilidad de controlarla ni capacidad de limitar sus efectos si no existiera el enemigo. Dicho en otras palabras, sería tarea fundamental de la guerra evitar la eliminación/aniquilación del enemigo para que el conflicto pueda ser normativizado, esto es, acotado. Conditio sine qua non es que el enemigo sea el espejo jurídico del amigo, es decir, que a cargo de ambos se imputen derechos y obligaciones recíprocas, como si hubiera una relación sinalagmática entre los dos contendientes inspirada en un modelo formal civilista. El proceso civil se rige por el principio de la demanda y por la correspondencia entre la pretensión y la sentencia. Tiene como fin la composición de una disputa en la que participan las partes interesadas y partes ‘desinteresadas’ (el juez) que, en el paralelismo con el ámbito bélico, estarían representadas por las tramas diplomáticas. Algo parecido a la visión que Alberico Gentili planteó en los orígenes de la modernidad y que representa una alternativa normativa frente al modelo más bien ‘penalista’ en el que una de las partes, si bien situada en el mismo nivel ontológico (Estado VS Estado en el

123   CACCIARI, M., «Il tramonto di Padre Polemos», en CACCIARI, M., CARACCIOLO, L., GALLI DELLA LOGGIA, E., RASY, E., Senza la guerra, Il Mulino, Bolonia, 2016. 124   SCHMITT, C., El concepto de lo político, cit., p. 56.

77

Roger Campione

paradigma tradicional, más asimétrico en los conflictos más recientes), es acusada de actos reprobables y juzgada por la otra parte 125. En cambio, los adversarios en un juicio civil, tanto el actor como el demandado, si pierden una causa no son castigados como litigantes temerarios. Por tanto, se pregunta el jurista de San Ginesio, no se entiende por qué deberíamos razonar de forma distinta con respecto a aquella disputa armada que es la guerra. Si no es dado saber de qué lado está la justicia ‘verdadera’, si la piden ambas partes significa que ninguna puede ser injusta porque, si la guerra es justa para una parte, para la otra puede ser aún más justa y una parte no deja de estar en lo correcto por el hecho de que la otra esté respaldada por un grado aún mayor de justicia 126. En esta línea, tomando prestadas las palabras de Laurent, la doctrina de corte criminalista es «tan falsa como peligrosa. No, el vencedor no es un juez, ni el vencido un culpable. La guerra es un duelo, donde debe reinar la más perfecta igualdad de derecho. Ninguna de las partes es juez o culpable, o habrá que admitir que ambos son jueces y culpables; lo que es absurdo» 127. I.7. DERECHO TLÖNICO Se trata de palabras decimonónicas, desde luego, que asimilan la guerra al duelo de un modo que nada tiene que ver

125   Un modelo penalista, por ejemplo, implícito en la elaboración medieval de la doctrina de la ‘guerra justa’ de Tomás de Aquino quien, al identificar la iusta causa de guerra contra un enemigo, se refería a la necesidad de que «quienes son impugnados merezcan por alguna culpa esa impugnación» (AQUINO, T. DE, Summa Theologica, 2-2, q. 40, cit. por la edición de la Biblioteca de autores cristianos, tomo VII, Madrid, 1959, p. 1076). 126   GENTILI, A., Il diritto di guerra (De iure belli libri III, 1598), Introd. de D. QUAGLIONI, ed. a cargo de G. Marchetto y Ch. Zendri, Giuffrè, Milán, 2008, pp.45-47. 127   LAURENT, F., Histoire du droit des gens et des relations internationales, tomo X, Les Nationalités, Librairie internationales, París, 1870, p. 488 (cit. en CHAMAYOU, G., Teoría del dron, cit., p. 188).

78

Filosofía del derecho internacional y cortocircuitos normativos…

con las formas de la guerra actuales 128. Sin embargo, desde la perspectiva iusfilosófica sigue siendo relevante, en primer lugar, la invocación/adopción de principios/métodos como nemo iudex in causa sua –y audi alteram partem, mencionado más adelante– porque, siguiendo lo sugerido por Hart, constituyen «garantías de imparcialidad u objetividad, dirigidas a asegurar que el derecho es aplicado a todos aquellos, y sólo a aquellos, que son iguales en los aspectos relevantes señalados por el derecho mismo» 129. En segundo lugar, el paradigma de la reciprocidad jurídica es el fundamento del ius in bello y sus exigencias conservan hoy intacta como ayer su razón de ser, del mismo modo que la ‘causa’ de la jurisdicción sigue siendo la misma por mucho que la magistratura hodierna tenga poco que ver con la iurisdictio romana. Que paguemos algo por un ábaco en Mesopotamia o por una calculadora de última generación en Silicon Valley, cabe hallar una raíz común en el conjunto de reglas que orientan ese intercambio. El comercio electrónico funciona conforme a unos protocolos muy distintos del trueque; sin embargo, hay ciertas exigencias compartidas que unos y otros procuran satisfacer, por ejemplo, algún nexo de reciprocidad (do ut des, quid pro quo, manus manum lavat…). Tal vez podríamos definirlo como un elemento arquetípico del derecho que entronca, en la arena internacional, con el carácter clausewitzianamente político de la guerra, en el sentido de 128   Pues, como ya señaló Schmitt, no debería exagerarse la analogía entre el modelo del duelo y el enfrentamiento bélico. Sin embargo, su común carácter institucional proporciona elementos de utilidad analítica. En el duelo, así como en el derecho internacional clásico, la causa justa y la forma del combate están estrictamente separadas: «un duelo no es justo porque siempre obtiene la victoria la causa justa, sino porque la observación de la forma incluye determinadas garantías» (SCHMITT, C., Der nomos der erde im Volkerrecht des jus publicum europaeum, Duncker & Humblot, Berlín, 1974; trad. cast. El nomos de la tierra en el Derecho de Gentes del «Jus Publicum Europaeum», Centro de Estudios Constitucionales, Madrid, 1979, p. 161). 129   HART, H.L.A., The Concept of Law. With a Poscript edited by P.A. Bulloch and J. Raz. And with an Introduction and Notes by L. Green, 3ª ed., Oxford University Press, 2012, p. 160.

79

Roger Campione

que solo racionalizándola –de forma asintótica, claro está– puede ser acotada. Y la formalización normativa es una matriz de este proceso. Además, el valor normativo de tales fundamentos no reside en la concreción real de los supuestos específicamente contemplados, sino en el despliegue presuntivo de los efectos establecidos. Las cosas no han de ocurrir en la realidad empírica exactamente tal y como la previsión legal las contempla. Antes bien, el sistema jurídico se basa en gran medida en ficciones que anulan la distancia operativa entre lo presunto y lo cierto. Ello sucede en el caso de principios esenciales del ordenamiento. La imposibilidad de alegar como causa de exclusión de responsabilidad la ignorantia iuris, por ejemplo, descansa en una presunción, no en un hecho. Poco importa cómo se intente justificar el gato por liebre: Blackstone, por ejemplo, sostenía que en el Parlamento, donde se crean las leyes, están presentes todos los ciudadanos, a través de sus representantes y por tanto, si todos están, todos conocen la norma 130. Lo que verdaderamente importa es que se trata de (semi)ficciones que acarrean efectos jurídicos muy reales. Es este criterio pragmático del vaihingeriano als ob (como si) lo que explica los mecanismos operativos generales del derecho, que acude a modelos ficcionales de normatividad y actúa «como si» la realidad se correspondiera con ellos. El derecho, podríamos decir, es en este aspecto borgesianamente tlönico: sus lenguajes, es decir, sus formulaciones normativas, tienen el mágico poder de convertir en realidad lo imaginado 131. Así pues, la certeza de que hoy en

  «[E]very man in England is, in judgment of law, party to the making of an act of parliament, being present thereat by his representatives» (BLACKSTONE, W., Commentaries on the Laws of England, 3ª ed. rev. de Th. M. Cooley, Vol. 1 including books I & II, Clark, The Lawbook Exchange, New Jersey, 2003 [Chicago, Callaghan and Co., 1884], p. 184. 131   La referencia es al cuento Tlön, Uqbar, Orbis Tertius en el que, dicho sea de paso, Borges menciona la obra de VAIHINGER, H., Die Philosophie des Als Ob (System der theoretischen, praktischen und religiösen Fiktionen der Menscheit auf Grund eines idealistischen Positivismus. Mit einem Anhang über 130

80

Filosofía del derecho internacional y cortocircuitos normativos…

día los conflictos armados tienen un desenlace material que poco o nada se asemeja al duelo troyano entre Héctor y Áyax, no quiere decir que desaparezca la exigencia de regular de alguna manera su conducción, es decir, de limitarlos en cierto grado. Al contrario, la reivindica imperiosamente, so pena de rendirse a la definitiva futilidad de toda configuración jurídica: «un derecho internacional que no limite (…) cualquier acción armada que pueda autorizar adolecerá de una insuficiencia formal incompatible con la idea misma de derecho» 132. Es evidente que los intentos normativos de detener la sofisticación tecnológica de los armamentos empleados en los conflictos armados no han impedido su utilización. Piénsese en las prohibiciones de las balas expansivas o de los bombardeos aéreos desde globos, concordadas en la Conferencia de La Haya de 1899; o en la proscripción de las armas químicas después de la Primera Guerra Mundial; o también en las tentativas de vetar o limitar la difusión de las armas nucleares después de la Segunda Guerra Mundial. Las violaciones del derecho humanitario siguen siendo masivas hoy en día; sin embargo, en lugar de renunciar a sus normas a causa de su manifiesta inutilidad lo que se precisa es una contundente reafirmación. Por tanto, aunque las circunstancias actuales no se ajusten a las dinámicas bélicas de hace uno o algunos siglos, no quiere decir que hayan decaído los fundamentos y las razones por las que existe un corpus normativo como el ius in bello. Así, que los conflictos armados presentes y futuros no encuentren un acomodo cabal en el paradigma del derecho humanitario no significa que haya que desechar por ineficaz la idea general de su utilidad. Que se comparta la idea kelseniana del derecho internacional como ordenamiento jurídico estructuralmente

Kant und Nietzsche), F. Meiner, Leipzig, 1920. Para más coincidencias, ya que se está hablando de la importancia de las ficciones en el derecho, cabe recordar que Borges incluyó el cuento en BORGES, J.L., Ficciones, Emecé Editores, Buenos Aires, 1944. 132   SÁNCHEZ FERLOSIO, R., Babel contra Babel, cit., p. 243.

81

Roger Campione

primitivo, se coincida con Ross en que su imperfección es accidental o se esté de acuerdo con Hart en que el derecho internacional no conforma un auténtico sistema jurídico, en ningún caso cabe colegir que tal derecho sea necesariamente inane desde el punto de vista práctico 133. Lo que se precisa es una reflexión sobre cómo domesticar la morfología actual del conflicto a través de un conjunto de reglas objetivas, en el sentido de preestablecidas, y compartidas institucionalmente, si se cree que la guerra ha de estar reglada para aminorar sus efectos destructivos. Las otras posibilidades son resignarse a que la guerra es un apocalipsis inevitable y nada se puede hacer para enjaular al monstruo, o soñar con que se la puede erradicar de la faz de la tierra. Es decir, una pesadilla inaceptable o una ilusión feliciana. Cabe ver, en línea con Colombo, que de forma especular al trastorno que estos cortocircuitos provocan en el modo de entender contra quién se combate una guerra, el progresivo debilitamiento del papel del Estado en la arena política internacional, con la aparición de nuevas subjetividades que protagonizan las dinámicas decisionales de los conflictos armados   Entre los varios lugares en que Kelsen expresa esta idea, cfr. KELSEN, H., Principles of International Law, Rinehart & Co., Nueva York, 1952, p. 36: «The obvious insufficiency of reprisals and war as sanctions of international law is the consequence of the complete decentralization of the community constituted by this law, which, precisely because of this decentralization, and specially because of the lack of a centralized executive power, has the typical character of a primitive law»; ROSS, A., A Textbook of International Law: general part, Longmans, Green & Co., Londres, 1947, p. 19. «as long as we are concerned with an international order, that is to say, an order directly concerned with states, not individuals, it will, however, be necessary to draw a radical distinction between International Law and Internal Law. The present lamentable conditions in this domain are not implicit in the nature of International Law. International Law is not «conceptually» but only «accidentally» imperfect law»; H.L.A. HART, The Concept of Law, cit., p. 236: «it is submitted that there is no basic rules providing general criteria of validity for the rules of international law, and that the rules which are in fact operative constitute not a system but a set, among which are the rules providing for the binding force of treaties». 133

82

Filosofía del derecho internacional y cortocircuitos normativos…

–terroristas, contractors privados, foreign fighters…– sacude los contornos de la idea del quién, ‘normalmente’, ha librado las guerras 134. Y con la sofisticación implementada por los LAWS, el ‘plexo racional’ de la guerra clausewitziana se desdibuja hacia escenarios más acordes a los de la ‘guerra atómica’, porque se tiene la impresión de que, en cierto sentido, los sujetos, es decir, la política, dejan de ser los protagonistas del juego. Ya no son los militares quienes deciden él éxito de la contienda, sino las armas mismas, la propia tecnología es la que personifica el cuadro de mando de la guerra. En este sentido parece que por primera vez en la historia cambia el quien la hace 135. La encrucijada del derecho internacional para responder a tales desafíos está servida. Al fin y al cabo, la idea de que la definición corriente de derecho internacional era extremely incomplete porque no aclaraba los términos de su unidad subjetiva –el Estado– no es nueva y tenía acogida ya en la época de la sociedad interestatal 136. Por otro lado, recuerda Clarke que tampoco puede olvidarse que la guerra ‘tradicional’, esto es, entre Estados, no ha desaparecido del mapa mundial. Aunque hayan sido cortas, con un número limitado de víctimas y no hayan tenido un impacto estratégico global, desde 1991, han tenido lugar al menos siete conflictos de este tipo: la primera guerra del Golfo en 1991; entre Camerún y Nigeria en 1994; entre Eritrea y Etiopía en 1998; entre India y Pakistán en 1999; la segunda invasión de Irak en 2003; entre Israel y Líbano en 2006; entre Yibuti y Eritrea, así como entre Rusia y Georgia, en 2008 137. El trabajo

134   COLOMBO, A., «El terrorismo entre legalidad y legitimidad. El insostenible monopolio de los Estados sobre la noción de violencia ilegítima», cit. 135   CEOLA, P., «La guerra robotica e post-umana mette in crisi il modello clausewitziano della guerra?», en CEOLA, P., GAZA, C. R., Non-human Warfare. Robot e Cyborg tra Postmoderno e Postumano, colección SISM, n. 4 – 2103, p. 35. 136   Cfr. ROSS, A., A Textbook of International Law, cit., p. 12. 137   CLARKE, M., «Does War Have a Future?», cit., pp. 650-651. A pesar de ello, la cuantía de víctimas producidas por estos enfrentamientos es significativamente menor (unas 200.000) que en los conflictos internos (casi un

83

Roger Campione

de Clarke es de 2012 y sus fuentes cubren hasta 2009; actualmente habría que añadir la intervención en Libia, la guerra en Siria, la guerra híbrida entre Rusia y Ucrania e incluso los incidentes entre Rusia y Turquía, así como la creciente militarización de las relaciones entre la OTAN y Rusia a raíz de estos conflictos. Y a pesar de que la mayoría de conflictos armados son actualmente de tipo interno, lo cierto es que –una paradoja más– el número de Estados involucrados en algún conflicto es más alto que nunca desde 1945, debido a la ampliación de la participación estatal en las intervenciones llamadas humanitarias o de peacekeeping 138. Desde que terminó la Segunda Guerra Mundial han estallado ochenta y ocho conflictos armados en distintas áreas del planeta, unos todavía en curso y algunos enquistados desde hace tiempo, como el conflicto palestino. Y a pesar de que, a partir de la Primera Guerra Mundial, la evolución de la técnica haya desbaratado los equilibrios militares, conduciendo hacia guerras cada vez más asimétricas gracias al empleo de armas muy destructivas y sofisticadas, también es cierto que muchos conflictos se han seguido librando de acuerdo a un esquema tradicional, incluso participando en ellas las grandes potencias, como ha sido el caso de los Es­­tados Unidos en Vietnam o de la Unión Soviética en Afga­­nistán 139. I.8. LA CRISIS DE LOS NOMBRES DE LA GUERRA Otro aspecto que suscita una renovada reflexión atañe a la toma de conciencia de la entrada en crisis de la distinción constitutiva entre paz y guerra: por cosas como las anteriormente mencionadas, «¿tiene aún sentido distinguir entre actos de vio-

millón y medio en menos de veinte años). Y también difieren en cuanto a duración media: las guerras civiles cinco años, las étnicas casi diez, allí donde las interestatales duran casi tres veces menos. 138   CLARKE, M., «Does War Have a Future?», cit., p. 649. 139   BARBIERI, P., Polemos. Guerra, política, tecnica, Book Time, Milán, 2019, pp. 10-13.

84

Filosofía del derecho internacional y cortocircuitos normativos…

lencia cometidos en tiempos de guerra y actos de violencia cometidos en tiempos de paz en un contexto histórico en el cual la distinción misma entre paz y guerra se ha ido progresivamente diluyendo?»  140. Más en general, el mainstream ¿se decanta por entender la paz en términos puramente negativos, como ausencia de violencia, o por concebir una sociedad pacífica como aquella que incluye otros elementos (democracia, libertad, derechos humanos…)? Se trata de una cuestión nada irrelevante pues la segunda opción, que se ha empezado a utilizar a partir de los años noventa del siglo pasado, convierte en una ganzúa jurídica la noción de «amenaza a la paz» –una condición que en derecho internacional despliega la posibilidad de uso legítimo de la fuerza armada– al interpretar de forma extensiva el capítulo VII de la Carta de Naciones Unidas. En cambio, percibir la paz como pura falta de guerra significaría que aquellos elementos constituirían parte de la soberanía interna, como tal no susceptible de apreciaciones ajenas 141. Nos topamos de nuevo con dudas que ponen a prueba la resistencia epistémica del ius belli. En este amago de crisis de la ciencia jurídica la guerra va perdiendo su forma, negando precisamente la viabilidad de toda guerre en forme y, f­ inalmente, de la propia noción normativa de guerra. Podría materializarse así el diagnóstico de Hedley Bull, para el cual la verdadera alternativa histórica a la guerra no es la paz sino una violencia difusa, sin control 142. Y por tanto sin límites. Proceden en este punto algunas reflexiones introductorias. La desmesura que social y antropológicamente la guerra de por sí entraña ha coexistido con la medida de sus normas desde la

140   COLOMBO, A., «El terrorismo entre legalidad y legitimidad. El insostenible monopolio de los Estados sobre la noción de violencia ilegítima», cit., p. 84. 141   ALDAVE ORZAIZ, A., La guerra global contra el terrorismo, cit., pp. 70-71. 142   BULL, H., The Anarchical Society. A Study of Order in World Politics, 2ª ed. con Intr. de S. Hoffmann, Macmillan, Londres, 1995; trad. cast. La sociedad anárquica. Un estudio sobre el orden en la política mundial, Catarata, Madrid, 2005, p. 238.

85

Roger Campione

antigüedad, al igual que toda forma de actividad organizada que se ha desarrollado a lo largo de la evolución cultural, como el comercio, la familia o la división del trabajo. De ahí que históricamente haya sido tan difícil definir formal y sustancialmente el concepto de guerra. Porque es muy vago el linde entre la guerra y la paz, porque es difícil definir a Tánatos mediante Eros y, sin embargo, son inconcebibles ambos sin el otro. Para reducir la complejidad humana y social de un fenómeno ineluctable y desmesurado, las reflexiones sobre la guerra se han dirigido a acotar su significado con el fin de entenderlo, controlarlo y limitar sus devastadores efectos. Amén de su consistencia general y abstracta, las normas encarnan, como se sugería antes, el «logos de la guerra». Véase, por ejemplo, la definición de de Bouthoul –inventor de la polemología y pionero de la sociología de la guerra- para quien la guerra a) es un fenómeno colectivo, b) es una situación de lucha armada y c) tiene un carácter jurídico 143. A este respecto, hablando de racionalidad normativa, me parece útil recordar que Stuart Hampshire, en Justice is Conflict, parte de una intuición de Rawls, según la cual los principios de justicia deben ser independientes de las concepciones sustantivas del bien, para llegar a una conclusión opuesta a la rawlsiana, a saber, que construir una teoría moral y política capaz de proporcionar principios universales justificados racionalmente es una empresa inevitablemente abocada al fracaso. La razón sería precisamente la omnipresencia del conflicto, tanto en el aspecto privado de la vida humana como en el espacio público de la política. La propuesta de Hampshire pasa por una teoría de la racionalidad entendida como razonamiento entre adversarios e incorpora, por tanto, una metafísica de contrarios. Si el con  BOUTHOUL, G., Traité de Sociologie: Les Guerres, Eléments de Poémologie, Payot, París, 1951. Véase también la definición de guerra de WRIGHT, Q., A Study of War, University Chicago Press, Chicago, 1965, 2ª ed., 1965, p. 8: «a legal condition which equally permits two or more hostile groups to carry on a conflict by armed force». Vid. CAMPIONE, R., «El trilema de Polemos», cit., pp. 196-197. 143

86

Filosofía del derecho internacional y cortocircuitos normativos…

flicto es un elemento estructural de la experiencia moral, y no disponemos de principios universalmente válidos que puedan eliminar la posibilidad del desacuerdo respecto a las concepciones sustantivas del bien, la única idea de justicia que puede ser racionalmente universalista es la procedimental. Para concretar esta idea de justicia procedimental, Hampshire introduce la que considera como la única prescripción susceptible de ser universalizada y cuya relevancia le fue sugerida por Hart: el principio audi alteram partem, es decir, la condición de que, en todo procedimiento de resolución de conflictos, hay que «oír a la otra parte», según el principio de contra-argumentación típico del contradictorio legal, para el cual ambas partes de un conflicto deben ser oídas igualmente. Más aún, añadiría, en un ámbito como la guerra, donde no hay un juez tercero al que recordarle memento audere semper. Sólo este principio de imparcialidad puede tener un fundamento universal y puede constituir la base de una institucionalización de los procesos de resolución de los conflictos. Pero, debido a que la racionalidad entre personas no constituye un vínculo muy poderoso cuando existen fuertes pasiones a ambos lados del conflicto, la vía para reforzar el vínculo –argumenta Hampshire– «puede encontrarse sólo en las lealtades institucionales y en los hábitos hondamente arraigados de vivir juntos y discutir juntos», es decir, en el respeto por las normas procedimentales localmente establecidas y conocidas 144. De acuerdo con este formato, en la guerra estaríamos, hablando en términos normativos, ante una violencia ‘controlada’, que no es hýbris y no degenera en la transgresión irracional de los límites puestos por los dioses. No es como stásis, la faida, la sedición, donde el enemigo no merece ninguna piedad porque no parece que haya límites al ejercicio de la violencia y a la destrucción del adversario. Este tipo de distinciones normativas, dirigidas a regimentar el fenómeno bélico, muestran toda su fatiga en las últimas déca-

144   HAMPSHIRE, S., Justice is Conflict, Princeton University Press, 2000; trad. cast. La justicia es conflicto, Siglo XXI, Madrid, 2002, p. 86.

87

Roger Campione

das merced al make up moralizante del ius ad bellum que, desempolvando la doctrina de la ‘guerra justa’, redescubre los ejes del mal y los infieles de sabor medieval. Bajo el paraguas de este iusmoralismo internacionalista hoy en día, como señala Colombo, en «ausencia de requisitos formales y ceremoniales –como la declaración de guerra en el pasado–la primera cuestión sobre la que las partes en conflicto discutirán o discreparán es precisamente la de cuándo y dónde hay guerra y cuándo y dónde hay paz y, por tanto, cuándo y dónde es legítimo emplear la violencia y cuándo y dónde no lo es. Éste es uno de los factores fundamentales del caos de la denominada “guerra global contra el terror”» 145. En perspectiva más general, una de las tesis aquí sostenidas respecto del razonamiento legitimador de las intervenciones armadas, tiene que ver con que es fenómeno congénito de la guerra que ambos beligerantes afirmen que están actuando sobre la base de una justa causa. Esta, me parece, es la única constante moral invariable en la reflexión sobre la legitimación de la guerra. Los esquemas de argumentación pueden cambiar, las leyes también, así como los valores, pero hay algo perpetuo en todos los conflictos armados, viejos y nuevos, internos e internacionales, simétricos y asimétricos: cada una de las partes entiende que está en el bando correcto. Lo había dicho claramente Alberico Gentili a finales del siglo XVI: está en la naturaleza de la guerra el hecho de que ambas partes de la contienda pretenden tener la razón de su lado 146. A partir de este ‘realismo moral’, creo que acierta Ruschi cuando sostiene que «es muy necesario volver a reflexionar sobre la cuestión de la ‘forma’ de la guerra contemporánea, sobre los parámetros de legitimidad y legalidad del conflicto y, en definitiva, sobre el mismo concepto de enemigo. Tan solo una ciencia jurídica

145   COLOMBO, A., «El terrorismo entre legalidad y legitimidad. El insostenible monopolio de los Estados sobre la noción de violencia ilegítima», cit., p. 84. 146   GENTILI, A., Il diritto di guerra, cit., p. 44.

88

Filosofía del derecho internacional y cortocircuitos normativos…

consciente de su labor está a la altura de un objetivo como este, es decir, una ciencia capaz de inspirarse en la historia de la codificación del derecho bélico en el XIX está en condiciones de afrontar el desafío de un nuevo nomos de la guerra» 147. Por estas razones, parece haber llegado el momento de someter ciertas categorías a un test de plausibilidad –pensemos otra vez, por ejemplo, en la de enemigo- cuya validez y eficacia normativa estarían siendo cuestionadas a tenor de las transformaciones mencionadas, aun habiendo constituido en los últimos siglos los pilares del paradigma jurídico-político de la guerra y de las relaciones internacionales. Por decirlo con Cacciari, «cuando no se puede afirmar otra cosa, sino que la forma de la guerra se ha ido modificando de manera radical y que ningún soberano parece estar capacitado, hoy en día, para enmarcarla en alguna forma jurídico-política, precisamente entonces, tal vez, se vuelve necesario volver a pensar en los términos fundamentales del problema. Nada debe darse hoy por sentado o evidente de por sí; ningún paradigma está siendo capaz de resistir ante la experiencia factual» 148.

147   RUSCHI, F., «Il diritto, la guerra e la “tecnica scatenata”. Considerazioni sul drone warfare», cit., p. 76. 148   CACCIARI, M., «Il tramonto di Padre Polemos», cit., p. 87.

89

PARTE II. FILOSOFÍA HUMAQUINISTA DEL DERECHO 149

Creado mitad para elevarse y mitad para caer; Gran señor de todas las cosas, pero víctima de todas ellas; único juez de la verdad cayendo sin cesar en el error: ¡Gloria, hazmerreír y enigma del Universo! (Alexander Pope, Ensayo sobre el hombre y otros escritos)

II.1. EL SER HUMANO ENTRE NATURALEZA Y CULTURA Es peligroso mostrar al hombre con excesiva claridad lo mucho que se parece a la bestia sin mostrarle al mismo tiempo su grandeza. También es peligroso permitirle ver su grandeza con

149   La base de este capítulo, aquí ampliado y reelaborado, procede de CAMPIONE, R., «A vueltas con el Transhumanismo: cuestiones de futuro imperfecto», en Cuadernos Electrónicos de Filosofía del derecho, núm. 40, 2109, pp. 45-67.

91

Roger Campione

demasiada claridad sin hacerle ver su miseria. Aún es más peligroso dejar que ignore ambas cosas. Pero es muy beneficioso mostrarle las dos 150. Aparte de la cita de Alexander Pope, este pensamiento de Pascal también aparece, como exergo, en un famoso libro de David P. Barash, La liebre y la tortuga, de 1986, en el que el psicólogo y zoólogo americano analiza, homenajeando en el título a los protagonistas de la conocida fábula de Esopo, los problemas causados por la incongruencia entre la biología del ser humano, resultado de un lento proceso de selección natural, y su cultura, producto de una evolución exponencialmente más rápida 151. Preguntarse por las relaciones entre el derecho y las nuevas tecnologías, por la interacción entre el ser humano y las aplicaciones basadas en la inteligencia artificial y la robótica, tiene mucho que ver con esa dualidad humana hermosamente sintetizada por Pascal y que se entrecruza con las dos dimensiones, la biológica y la cultural, metafóricamente personificadas en los animales esopianos. El ritmo vertiginoso al que avanza el desarrollo de las tecnologías convergentes hace que esa evolución cultural vuele hacia adelante con un factor de incremento exponencial en cierto sentido nunca visto y con unos efectos potencialmente tan disruptivos que empiezan a afectar a la propia evolución biológica del género humano. La irrupción en la vida social de elementos que no forman parte de la cadena fisiológica resultante de la selección natural y que, sin embargo, muestran características hasta ayer privativas de los seres humanos, como el aprendizaje, la toma de decisiones autónomas o una morfología antropoide (bots, robots, ciborgs, sistemas autónomos dotados de inteligencia artificial) mezcla las cartas de la

  PASCAL, B., Pascal, B., Pensées, Livre de Poche, París, 1962, p. 151.   BARASH, D.P., The Hare and the Tortoise, Viking Penguin Inc., Nueva York, 1986; trad. cast. La liebre y la tortuga. Cultura, biología y naturaleza humana, Salvat Editores, Barcelona, 1994. 150 151

92

Filosofía humaquinista del derecho

vida. Es como si el andamiaje biológico constituido por nuestro patrimonio genético, que siempre se ha contado por distintas fases evolutivas de homo, mudables solo en períodos ‘bíblicos’, hubiese pasado finalmente a depender de lo que hacemos, de la rauda interacción social, más que de la filogénesis infinitamente gradual de las estirpes vivientes. Nos han cambiado el temario de las ciencias naturales: de los centenares de miles o millones de años necesarios para transitar de unas formas orgánicas a otras, de repente nos vemos catapultados a una época de cambios biológicos que parecen producirse a un ritmo más rápido que la propia evolución cultural. Hasta el punto de que nos cuesta encarar culturalmente la improvisa aceleración del impacto tecnológico en nuestro alcance biológico. Por fin se está generalizando la percepción de lo que significa vivir en la ‘sociedad del riesgo’ ilustrada por Ulrick Beck en los ochenta. Una sociedad que vive después de la naturaleza, en el sentido de que se ha acabado el mundo físico no influenciado por la intervención humana. La sociedad industrial clásica procedente del siglo XIX entendía la relación entre naturaleza y sociedad como una contraposición, mientras que la sociedad, todavía industrial, del riesgo, la concibe como una integración. Ya desde finales del siglo XX, avisaba Beck, «hay que decir que la naturaleza es sociedad, que la sociedad es (también) naturaleza. Quien hoy sigue hablando de la naturaleza como no sociedad habla con las categorías de otro siglo, las cuales ya no captan nuestra realidad» 152. La ciencia y la tecnología han sido factores decisivos en la erosión de la visión tradicional de la naturaleza como dimensión fija y ajena al obrar humano. En este sentido, nos han permitido entender de una manera más plástica que en realidad la naturaleza es un producto histórico, una expresión de la civilización, si queremos. Digamos que la tortuga comparte patrimo-

152   BECK, U., Risikogesellschaft. Auf dem Weg in eine andere Moderne. Suhrkamp, Frankfurt a. M. 1986; trad. cast. La sociedad del riesgo. Hacia una nueva modernidad, Paidós, Barcelona, 1998, pp. 89-90.

93

Roger Campione

nio genético con la liebre. La mayoría de nuestros avances tecnológicos ha sido posible gracias precisamente a una peculiaridad del homo sapiens: la sociabilidad. He aquí la estrecha interconexión biológica entre naturaleza y cultura. Gracias especialmente al desarrollo de las telecomunicaciones y la microelectrónica, nuestra socialización ha crecido exponencialmente en el último período 153. Esta es la auténtica red social que nos ha permitido intensificar la transmisión de la información sin necesidad de estar físicamente conectados, al mismo tiempo que ha empezado a construir prolongaciones de esa misma especie sapiens con los productos de su inteligencia, dando lugar a formas humanas aumentadas e hibridaciones entre hombres y máquinas. Creo que desde esta perspectiva deberían ser afrontadas las cuestiones relativas a la interacción entre el ser humano y las aplicaciones basadas en las nuevas tecnologías, en particular la robótica y inteligencia artificial. También las que afectan a las categorías jurídicas, que no son pocas, si pensamos en nociones tan básicas y fundamentales, desde el punto de vista no solo dogmático sino también operativo, como la capacidad, la subjetividad y la responsabilidad jurídicas. Los robots son artefactos físicos, mientras que la inteligencia artificial es un software que está dentro de los robots, los ordenadores u otros sistemas no necesariamente materiales. Pensemos en robots que no son meros autómatas capaces de repetir indefinidamente una misma tarea, sino máquinas más complejas, incluso con forma antropoide, equipadas con ‘programas’ que implican cierto nivel de abstracción. O en sistemas dotados de inteligencia artificial que aprenden ‘solos’, sin la intervención de controladores humanos. O en softwares diseñados para prever quiénes serán los probables culpables de un delito. O en aplicaciones tan sofisticadas que pueden potenciar

153   BERMÚDEZ DE CASTRO, J.M., «Los humanos», en BRIONES, C., FERNÁNDEZ SOTO, A., BERMÚDEZ DE CASTRO, J.M., Orígenes, 2ª ed., Crítica, Barcelona, 2015, pp. 470-471.

94

Filosofía humaquinista del derecho

las capacidades naturales del ser humano y alterar sus prestaciones o diagnosticar enfermedades con una pericia mayor que la humana. O en drones equipados con inteligencia artificial que podrán operar en ámbito militar sin piloto en remoto, utilizando un algoritmo para seleccionar los objetivos a atacar. Al reparar en ello per poco il cor non si spaura, como diría el poeta Giacomo Leopardi, casi nos da un vuelco el corazón, porque nos asomamos a un parapeto demasiado bajo ante el precipicio de la incertidumbre. ¿Cómo cabalgar el tigre? ¿Cómo acometer el desafío de proporcionar marcos seguros de regulación antes los múltiples e impredecibles escenarios protagonizados por estos ‘entes’? La urgencia deriva de que estos escenarios no nos los depara el futuro sino el presente. Muchos de aquellos artilugios están aquí, su estructura son los chips y su lengua los algoritmos. Se trata ahora de diseñar sus normas de conducta con vistas a que perduren y sirvan de modelo fiable, algo difícil de garantizar en contextos tan cambiantes e imprevisibles a causa del inédito desarrollo de las nuevas tecnologías convergentes 154. Lo que entra en crisis con la aceleración tecnológica puesta en marcha con la inteligencia artificial, la robótica y el Big Data es, por usar otra vez la imagen de Barash, la diferenciación diacrónica entre la liebre y la tortuga. Parecía indiscutible que la evolución cultural, en cuyo ámbito residen la ciencia y la técnica, se desarrollara a un ritmo inmensamente más rápido que la evolución biológica. El paso del mono al hombre, visto desde nuestra naturaleza biológica, es muy corto y se ha dado en un tiempo inmensamente largo si lo comparamos con las distancias recorridas en lapsos de tiempo infinitamente más estrechos por las artes, las leyes o el saber. La perspectiva atisbada y, en cierto modo, la realidad ya producida por las aplicaciones de las nuevas tecnologías convergentes, hacen saltar por los aires las certezas de aquella distinción y nos emplazan a un final de carrera en el que los

154   Las llamadas NBIC: Nanotecnología, Biotecnología, tecnologías de la Información y la ciencia Cognitiva.

95

Roger Campione

dos concursantes de Esopo se van fundiendo, hasta el punto de que el único engendro que cruzará la meta será una tortiebre o una liebruga. Después de todo, la capacidad de usar y producir herramientas, que nos ha permitido aumentar el tamaño de nuestro cerebro biológico, ha sido una proyección cultural del ser humano. II.2. TRAS EL HUMANISMO La cuarta revolución industrial generará grandes cambios: he aquí un tópico muy en boga, a la par que tautológico, pues si se trata de una revolución los grandes cambios van de suyo. Los habrá, tal vez los esté habiendo ya, de todo tipo: tecnológicos, industriales, económicos, sociales, culturales, hasta familiares y personales. Con todo, los que más parecen acechar, por las preocupaciones que se otean al horizonte, son los éticos-jurídicos, dadas las potenciales repercusiones de la inteligencia artificial y la robótica en los distintos ámbitos de la convivencia. Como se verá, las mismas instituciones supranacionales están demandando la introducción de un nuevo marco jurídico y, a la vez, están implementando directrices ‘políticas’ para la gobernanza de las tecnologías convergentes, insistiendo en la necesidad de establecer requisitos adecuados para la protección de los derechos fundamentales, la garantía de la (cíber) seguridad y la rendición de cuentas. Big Data, robots, sistemas autónomos, ordenadores cuánticos, digitalización genética en medicina, motores eléctricos y de hidrógeno, machine learning… Nuevas tecnologías para afrontar nuevos problemas: el cambio climático, la sostenibilidad ambiental, el envejecimiento de la población, la creciente producción de residuos. Estos comparten hábitat con los problemas planetarios de siempre: la desigualdad económica y la primacía de los intereses sobre los principios. Es un clamor general la exhortación a encarar los retos lanzados por la cuarta revolución industrial –desafíos fundamentales para el futuro del ser humano– con su mirada privativa, el humanismo. La 96

Filosofía humaquinista del derecho

progresiva toma de conciencia de que nos hallamos ante un proceso de inflexión en la relación entre el hombre y la técnica, e incluso en la evolución de la especie, nos encara con los asuntos del ‘tranhumanismo’ (y/o del ‘posthumanismo’), una colección de tesis y teorías para las cuales, gracias a los avances en inteligencia artificial, ingeniería genética y nanotecnología, las capacidades físicas y cognitivas del ser humano se verán potenciadas exponencialmente, incluso como para hablar de una nueva especie capaz de producir un pensamiento, a la vez, biológico y no biológico 155. Sin embargo, antes de hablar del Transhumanismo como sistema o conjunto de ideas, conviene una aclaración filológica: el prefijo «trans» significa, en su etimología latina, «más allá de» o «a través de». Es una partícula que indica el pasar más allá de un umbral, un atravesamiento, la mutación de una condición a otra, etc. La definición del sustantivo «humanismo», en cambio, es un poco más compleja y articulada porque engloba diferentes ramificaciones: es un renacimiento del ser humano entendido como proceso de renovación cultural que busca en las fuentes clásicas una nueva forma de pensamiento. Entraña la exigencia de reconocer la dimensión histórica de los acontecimientos, ignorada por la Edad Media. El humanismo es, en este sentido, una perspectiva. Para ello resulta esencial la investigación filológica, para recuperar en ella el significado auténtico de los clásicos. Pero el humanismo también es «renacentista» porque re-descubre el valor del hombre como ser mundano, insertado en el mundo natural y capaz de forjar su propio destino. Esta condición renovada se afirma en la capacidad del ser humano de proyectar su existencia dentro de las coordenadas históricas y naturales. Finalmente, un componente fundamental del humanismo es la exigencia de la tolerancia

155   Véase el clásico de KURZWEIL, K., The Singularity is Near: When Humans Transcend Biology, Penguin, New York, 2005; trad. cast. La Singularidad está cerca. Cuando los humanos transcendamos la biología, Lola Books, Berlín, 2012.

97

Roger Campione

religiosa basada en la unidad filosófica de todas las religiones aun en la diversidad de sus cultos 156. Es desde aquí que debería empezar a hablarse de transhumanismo como fórmula actual de una doctrina que apuesta por la posibilidad de mejorar la condición humana gracias a la hibridación entre nuestra existencia natural y la inteligencia artificial. Y es curioso que el vocablo, en forma de verbo, lo utilice por primera vez precisamente uno de los primigenios y más destacados humanistas, Dante Alighieri, en el Canto I del Paraíso (Trasumanar significar per verba / non si poria; però l’essemplo basti / a cui esperïenza grazia serba): no se podría expresar con palabras la superación de la condición humana, así que el ejemplo que acabo de poner sea suficiente para los que reciban por gracia divina la experiencia de semejante condición 157. Trasumanar es un neologismo que Dante inventa para expresar lo que siente al ascender con Beatriz del paraíso terrenal a las esferas celestes 158. Lo que quiere decir es que elevarse más allá de los límites de la naturaleza, es decir, pasar de lo humano a un grado más alto, que no puede ser sino divino, es algo que no se puede explicar con palabras. Evidentemente, en una sociedad secularizada como la del tercer milenio, ni el

156   ABBAGNANO, N., Storia della filosofía 2. La filosofia moderna: dal Rinascimento all’Illuminismo, UTET, Turín, 1993, pp. 4-9. 157   Nick Bostrom señala que el primero que parece haber utilizado la palabra «transhumanismo» en su significado actual fue en 1927 el biólogo Julian Huxley, hermano de Aldous, en Religion without revelation (BOSTROM, N., «A History of Transhumanist Thought», Journal of Evolution and Technology, Vol. 14, 2005, pp. 1-25, publicado sucesivamente en Argumentos de razón técnica, n. 14, 2011, versión por la que se cita, pp. 157-191). En la literatura española hay quien señala como obra precursora Dédalo; Ciencia y futuro, de J.B.S. Haldane (DE ASÍS, R., Una mirada a la robótica desde los derechos humanos, cit., p. 52) y quien se remonta hasta La nueva Atlántida de Francis Bacon y, en términos muy generales, incluso al Renacimiento (DIÉGUEZ, A., Transhumanismo. La búsqueda tecnológica del mejoramiento humano, cit., pp. 30-31). 158   Cfr. ELIOT, T.S., La aventura sin fin. Ensayos, ed. de A. Jaume, Lumen, Madrid, 2011.

98

Filosofía humaquinista del derecho

humanismo ni el transhumanismo ponen el acento en la relación con Dios, tal como entendía el Sommo Poeta, pero el ejemplo de Dante nos vale perfectamente para introducir los asuntos del transhumanismo 159. Porque en esos versos de la Divina Comedia Dante se está refiriendo al ejemplo de Glauco, el mítico pescador de Beocia que habiendo probado una hierba milagrosa se convirtió en una divinidad inmortal 160. Y uno de los máximos representantes del transhumanismo, Nick Bostrom, recurre a un arquetipo muy parecido, el rey sumerio Gilgamesh –que habiendo partido a la búsqueda de la inmortalidad descubrió su secreto en una hierba que crecía en el fondo del mar– para situar ya en la remota antigüedad el deseo humano de adquirir nuevas capacidades expandiendo los términos de nuestra existencia y nuestras posibilidades de actuar 161. Muchos fueron los símbolos de esta ‘mitología de la superación’, como Dédalo, que usó su inteligencia para trascender los límites impuestos al hombre por la naturaleza, o como Prometeo, que retando a los dioses robó el fuego para mejorar al ser humano. Sin embargo, con la mejora también empieza la inquietud, pues no es dado saber con certeza adónde nos llevarán la razón y la técnica. Visto desde el Olimpo, ese fue el error de Prometeo, no haber tenido en cuenta que, sin la sabiduría política, sin una idea acerca de lo correcto, el dominio de la técnica surte 159   Aun así, no faltan, como se ha señalado, los que entienden el transhumanismo como una nueva religión y la propia religión como una forma prematura de transhumanismo (vid. DIÉGUEZ, A., Transhumanismo. La búsqueda tecnológica del mejoramiento humano, cit., pp. 27-28 y la bibliografía allí indicada). 160   Nel suo aspetto tal dentro mi fei, qual si fé Glauco nel gustar de l’erba che ‘l fé consorto in mar de li altri dèi (vv. 67-70) Y mi interior su aspecto trasformaba, como Glauco, al gustar marina hierba, consorte de los dioses se tornaba (cit. por la traducción de B. Mitre, Latium, Buenos Aires, 1922, p. 407). 161   BOSTROM, N., «A History of Transhumanist Thought», cit., p. 158.

99

Roger Campione

efectos incontrolables, así que –según relata Platón– los hombres que gracias al conocimiento construían altares, viviendas y ciudades, «se ultrajaban entre sí por no poseer el arte de la política, de modo que, al dispersarse de nuevo, perecían». Y por eso Zeus castigó a Prometeo en la roca del Cáucaso, enviando a Hermes, el mensajero de los dioses, para que repartiera el pudor y la justicia entre todos los humanos, a diferencia de las demás artes, ya que en cuanto a valores no puede haber ignorantes conforme a ley de Zeus: «Que todo aquél que sea incapaz de participar del pudor y de la justicia sea eliminado, como una peste, de la ciudad» 162. II.3. VIEJOS DILEMAS Y NUEVOS RETOS Desde este punto de vista, por tanto, no hay nada nuevo bajo el sol, estaríamos ante un típico debate bioético. La corriente transhumanista milita a favor del uso de las tecnologías emergentes con el fin de mejorar la condición humana. El propio Bostrom la ha descrito como la posibilidad de mejorar la condición humana física, emocional y cognitiva utilizando el progreso y la tecnología 163. Sin embargo, la expectación suscitada por los avances en inteligencia artificial plantea un desafío nuevo a la humanidad: no se trata tan solo de la ya metabolizada ambivalencia del progreso científico que caracterizó en su momento el giro bioético, sino de un reto intelectual más profundo. La perspectiva de replicar en máquinas una capacidad de razonamiento similar a la humana, otorgando a estas la facultad de construir representaciones no programadas gracias al aprendizaje proporcionado por algoritmos y Big Data, implicaría pasar el test de Turing, en el que el ordenador triunfa si un evaluador, en preguntas ‘a ciegas’, no logra distinguirlo del

162  PLATÓN, Protágoras, ed. bilingüe de G. Bueno, Pentalfa, Oviedo, 1980, 322ª (pp. 125-126). 163   Entrevista en ABC Cultural, 11 de septiembre de 2018, 85-90.

100

Filosofía humaquinista del derecho

humano 164. A la pregunta de qué es, la Comisión Europea ha contestado que el «término “inteligencia artificial” (IA) se aplica a los sistemas que manifiestan un comportamiento inteligente, pues son capaces de analizar su entorno y pasar a la acción –con cierto grado de autonomía– con el fin de alcanzar objetivos específicos». Estos sistemas, una «vez que funcionan bien, pueden ayudar a mejorar y automatizar la adopción de decisiones en el mismo ámbito. Por ejemplo, un sistema de IA se puede entrenar con vistas a utilizarlo para detectar los ataques informáticos a partir de los datos obtenidos de la red o del sistema en cuestión» 165. El impacto se antoja, por tanto, notable. La instancia comunitaria es consciente de ello subrayando que al «igual que hicieran la máquina de vapor o la electricidad en épocas anteriores, la IA está transformando nuestro mundo, nuestra sociedad y nuestra industria. El crecimiento de la capacidad informática y la disponibilidad de datos, así como los avances en los algoritmos, han convertido la IA en una de las tecnologías más estratégicas del siglo XXI. Es mucho lo que está en juego.

164   Ray Kurzweil sitúa en 2029 esta simulación funcional de la inteligencia humana (KURZWEIL, R., The Singularity is near: when humans trascend biology, cit., p. 199). La ‘indistinción’ entre el ser humano y el ser artificial a resultas del test de Turing plantearía la consideración de la máquina como agente moral (vid. DE ASÍS, R., Una mirada a la robótica desde los derechos humanos, cit., p. 81 ss.). 165   COMISIÓN EUROPEA, «Inteligencia artificial para Europa», Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones, COM(2018) 237 final, p.1. La Comisión ejemplifica en el mismo lugar el funcionamiento de tales sistemas: «Los sistemas basados en la IA pueden consistir simplemente en un programa informático (p. ej. asistentes de voz, programas de análisis de imágenes, motores de búsqueda, sistemas de reconocimiento facial y de voz), pero la IA también puede estar incorporada en dispositivos de hardware (p. ej. robots avanzados, automóviles autónomos, drones o aplicaciones del internet de las cosas). Estamos utilizando la IA diariamente, por ejemplo, para traducir de un idioma a otro, generar subtítulos en los vídeos o bloquear el correo electrónico no solicitado (spam)».

101

Roger Campione

Nuestra forma de abordar la cuestión de la IA definirá el mundo en el que vamos a vivir. En medio de una feroz competencia mundial, se requiere un marco europeo sólido» 166. Es cierto, por un lado, que está habiendo mucho debate intelectual previo sobre las aplicaciones derivadas de la inteligencia artificial, pero, por el otro, no es menos cierto que no siempre mostramos la suficiente habilidad para prever los escenarios futuribles a partir de la información disponible. Especialmente para vislumbrar los riesgos y las consecuencias potencialmente negativas de las nuevas aplicaciones científicas. Este sí que es el viejo asunto de la ambivalencia del progreso científico. Al fin y al cabo, también Glauco, una vez asumida la hierba de la inmortalidad, se transformó en una especie de monstruo con cola de pez y fue rechazado por la hermosa ninfa Escila, de la que estaba enamorado. O sea, que toda medalla tiene su reverso: no hay nueva esperanza que no plantee nuevos dilemas. De ahí que el impacto de la inteligencia artificial en la ‘vida jurídica’ sea considerado a veces como el amanecer de una nueva era, la del Big Data y otras, en cambio, se vislumbre en ello un proceso de mecanización del derecho en el cual las máquinas acabarán suplantado a los seres humanos. Sin embargo, cabe la posibilidad de que a través de la cooperación entre las dos inteligencias (humana y artificial) se fortalezca la comprensión y aplicación de los procesos normativos por parte de los operadores jurídicos 167. Por tanto, como simple cautela, convendría tomarse en serio los asuntos de lo transhumano y lo posthumano, al menos como ocasión para reflexionar sobre la evolución de la técnica, incluso en sus versiones más atrevidas, como la de la «singularidad», según la cual el desarrollo exponencial de las nuevas tecnologías emergentes conducirá al superhombre. En esta óptica se han llegado a pronosticar escenarios que conducirían

  Ibidem.   AZOULAY, W. «Des machines et des hommes. La guerre n’aura pas lieu», en Droit et Société, n. 103, 2019, pp. 595-607. 166

167

102

Filosofía humaquinista del derecho

a la inmortalidad –al menos a una élite– gracias a la integración de nuestro conocimiento con los ordenadores. Hay hasta científicos, por ejemplo el biogerontólogo Aubrey de Grey, que mantienen que la primera persona que vivirá mil años ya está viva 168. Así, cabrían dos orientaciones diferentes dentro de este coacervo de teorías: por un lado estaría el transhumanismo entendido como deseo de mejorar la especie humana a través de la tecnociencia, pero sin forzar rupturas de orden ontológico y sin renunciar a la continuidad con el humanismo clásico; por el otro, se situaría el posthumanismo de la singularidad, sostenido por autores como Kurzweil o el proprio de Grey entre otros, y apoyado por empresas como Google, que alude a una discontinuidad evolutiva con la especie humana y a la creación de una especie nueva, hibridada con máquinas dotadas de una inteligencia artificial tan superior a la nuestra que serían capaces de diseñar máquinas incluso mejores: «Kurzweil sueña con un hombre “interconectado” con un ordenador, con todas las redes de internet gracias a implantes cerebrales, que se convertiría así en “posthumano”» 169. He aquí la nietzscheana superación del hombre, estadio intermedio entre el animal y el superhombre.

168   HARARI, Y. N., Homo Deus, cit.; DIÉGUEZ, A., Transhumanismo. La búsqueda tecnológica del mejoramiento humano, cit., p. 26; SÁNCHEZ DEL CAMPO REDONET, A., Reflexiones de un replicante legal. Los retos jurídicos de la robótica y las tecnologías disruptivas, cit., p. 85, quien recuerda que millonarios como Sergey Bin y Peter Thiel, cofundadores respectivamente de Google y Paypal, están financiando la Methuselah Foundation, cuyo creador fue precisamente Aubrey de Grey. 169   Vid. FERRY, L., La revolución transhumanista, Alianza Editorial, Madrid, 2017, p. 42; BOSTROM, N., op. cit., p. 167; LLANO ALONSO, F.H., Homo Excelsior. Los límites ético-jurídicos del Transhumanismo, Tirant lo Blanch, Valencia, 2018, p. 28, añade a estas dos variedades, que llama respectivamente transhumanismo cultural y transhumanismo cibernético, una tercera, denominada transhumanismo cultural, «inspirado en la crítica postmoderna que realizan autores como Deleuze, Derrida y Foucault contra el humanismo y el proyecto de la modernidad».

103

Roger Campione

De todos modos, no hay que olvidar que la tecnología ha influido en la evolución de nuestro cuerpo y nuestra mente desde que hemos construido los primeros utensilios. Me refiero a la τέχνη (techné) como motor de la historia, desde la pica prehistórica hasta la robótica más sofisticada: lo ilustra espléndidamente Stanley Kubrick con la inolvidable metáfora del primer hueso usado como herramienta por un homínido, que se transforma en una astronave del futuro en 2001: una odisea del espacio. Y tampoco es nuevo el interés hacia los pros y los contras jurídicos del paso de las acciones controladas por el ser humano a las controladas por los sistemas tecnológicos 170. Con todo, aun teniendo clara esta influencia de la tecnología en la vida humana, el llamamiento a tomar en consideración propuestas, doctrinas y teorías como el transhumanismo, por poco realistas que nos parezcan, deriva de la igualmente comprobada conciencia de que a veces subestimamos las implicaciones presentes y futuras de las innovaciones científicas. Basta con recordar un par de ejemplos iluminantes: el 25 de julio de 1994 la revista Time salía con una portada dedicada al «extraño nuevo mundo de Internet» y en su interior sostenía que «Internet no ha sido diseñado para el comercio» 171. Pocos meses después, otra prestigiosísima revista, Newsweek, titulaba un artículo escrito por un físico experto «The Internet?Bah!» 172. No se trata solo de equivocarse en una previsión que delata nuestra miopía temporal. Hay en juego mucho más: la inteligencia artificial impactará, está impactando, mucho más de lo que cabe imaginar en todos los ámbitos de la vida y de la pro-

  BUSTO, N., «Autonomia e responsabilità nell’epoca delle self-driving car. Teorie etiche a confronto», en Ciberspazio e diritto, vol 19, n. 61 (3-2018), p. 265 recuerda, en este punto, la «Pascalina», la máquina aritmética de Blaise Pascal, inventada en 1645, primer sistema de cálculo mecánico (cfr. FLORIDI, L., La quarta rivoluzione, Raffaello Cortina Editore, Milán, 2017, pp. 103-106). 171   ELMER-DEWITT, PH., «The Battle for the Soul of the Internet», Time, 25 de julio de 1994. 172   STOLL, C., «The Internet? Bah!», Newsweek, 27 de julio de 1995. 170

104

Filosofía humaquinista del derecho

ducción. Parece que no quedará fuera ni el arte: el 25 de octubre de 2018, en la sede neoyorquina de Christie’s se ha subastado por primera vez una obra creada por una inteligencia artificial. El retrato de Edmond Belamy lo ha generado un algoritmo y su precio ha alcanzado cotas inesperadas. La base de salida oscilaba entre los siete y los diez mil euros, pero la encarnizada lucha para hacerse con el cuadro ha hecho que se adjudicase por más de 432.500 dólares 173. Por no hablar de ámbitos más íntimos. Ya son una realidad los robots del sexo: de momento no son máquinas tan sofisticadas, pero están dotadas de una mínima inteligencia artificial y poco a poco la tecnología estará en condiciones de construirlos de un modo cada vez más antropomorfo y capacitados para interactuar respondiendo a estímulos vocales, visuales y táctiles. No solo reconocerán a su usuario, sino que también comprenderán su estado emotivo y aprenderán a identificar sus gustos y preferencias. Las repercusiones psicológicas, sociales, económicas, éticas y jurídicas pueden ser de amplio alcance, hasta el punto de llegar a interrogarse sobre si el sexo con un robot puede integrar los extremos de una infidelidad 174. A la pregunta de si hay algo malo en hacer sexo con un robot se puede contestar de distintas y opuestas maneras. O bien, teniendo en cuenta que una de las características de la naturaleza humana es la de hibridarse con la técnica, se llega a argumentar que no hay nada moralmente equivocado en la práctica sexual con los robots, ya que con ello no se vulnera el principio del daño a terceros. Y, más allá de esto, que la implementación de este tipo de software podría tener efectos incluso beneficiosos desde un punto de vista, lato sensu, terapéutico. O al con-

  Si bien la obra es fruto de una idea concebida por el colectivo francés Obvious, la firma de su «creador» está abajo a la derecha del cuadro y se trata de la fórmula de álgebra que sirvió para su creación: Min (G) max (D) Ex [log (D (x))] + Ez [log (1-D (G (z)))]. 174   Acerca de estos temas véase BALISTRERI, M., Sex robot. L’amore al tempo delle macchine, Roma, Fandango, 2018. 173

105

Roger Campione

trario, a partir de una concepción antropológica menos flexible, se mantiene que la difusión de los robots sexuales refleja una práctica de corte machista y capitalista, delatando una ideología hostil hacia las mujeres 175. II.4. LAS IMPLICACIONES ÉTICO-NORMATIVAS DE LAS TECNOLOGÍAS CONVERGENTES De todos modos, por muy sofisticados que sean los sistemas y dispositivos creados hasta ahora, sus capacidades son parciales. No manejan el sentido común y las variables contextuales. De hecho, el asombroso avance que ha habido durante las últimas décadas en ingeniería informática, no se ha visto acompañado por un desarrollo mínimamente parecido de niveles de conciencia informática. Los ordenadores de la época de Turing no son en este sentido muy distintos de los actuales. Sin embargo, como recuerda Harari, la novedad importante es el peligro de que los seres humanos puedan perder valor «porque la inteligencia se está desconectando de la conciencia»  176.Teniendo todo esto en cuenta, si bien resulta ciencia ficción (al menos por ahora) la posibilidad de construir una máquina a la que atribuir responsabilidades de tipo consecuencial por sus accio-

  Conforme al análisis comparativo de MARRONE, P., «Lovotics: técnica, natura, sex robot», en Diritto & Questioni Pubbliche, XVIII/2, 2018, pp. 239-250, la primera postura es mantenida por BALISTRERI, M., Sex robot. L’amore al tempo delle macchine, cit., mientras que la segunda es defendida por RICHARDSON, K., «The “Asymmetrical” Relationship: Parallels between Prostitution and the Development of Sex Robots», en SIGCAS Computer &Society, 45, 3, 2015, p. 290 ss. y «Sex Robot Matters», en IEEE Technology and Society Magazine, 35, 2, 2016, p. 46 ss. Marrone concluye que «el planteamiento pragmático de Balistreri parece el más adecuado para una situación en constante evolución, ya que no asume una postura deontológica rígida y se ubica en un filón utilitarista, maduramente antiantropocéntrico y sin miedos prima facie acerca de nuestra naturaleza técnica que, desde siempre, nos conduce hacia la hibridación con las máquinas» (p. 249). 176   HARARI, Y.N., Homo Deus, cit., p. 341. 175

106

Filosofía humaquinista del derecho

nes, sin que concurra en tales cadenas de actos un ser humano, ya que para ello se requeriría una fiabilidad contrastada y cierto grado de empatía que le permitiera formular un juicio sobre las acciones ajenas, hace ya tiempo que ha sonado la alarma ética y jurídica en las altas esferas. En 2002 se publicó en USA el Informe Converging technologies for improving human performance. Nanotechnology, biotechnology, information technology and cognitive science (CT-NBIC) que explora con optimismo las posibilidades y las promesas de las nuevas aplicaciones tecnológicas de cara a la mejora humana, partiendo de la base de que science must offer society new visions of what it is possible to achieve 177. Al año siguiente otro informe, Beyond Therapy. Biotechnology and the Pursuit of Happiness, redactado por el Comité de Bioética estadounidense, tomándose en serio el proyecto transhumanista, se muestra mucho más receloso y crítico con la filosofía del perfeccionamiento humano que inspira el informe anterior, y apuesta por limitar el uso de las NBIC al marco terapéutico 178. En 2004 también la Unión Europea se hace eco de la insoslayable necesidad de afrontar no solo técnicamente sino también social y políticamente el desafío de las tecnologías convergentes. El informe Converging technologies. Shaping the future of European Societies, también menos indulgente hacia la agenda transhumanista que el primer documento americano, invoca la inclusión de las ciencias sociales y las humanidades dentro del abanico de los saberes «convergentes». De acuerdo con una agenda política más sensible a la tra-

177   BOND, P. et.al., «Theme A Summary», en ROCO, M., BAINBRIDGE, W. (eds.), Converging Technologies for Improving Human Performance: Nanotechnology, Biotechnology, Information, Technology and Cognitive Science, NSF/ DOC-sponsored report, Springer Science, Dordrecht, 2003, p. 30. Texto disponible en https://www.wtec.org/ConvergingTechnologies/Report/NBIC_report. pdf [fecha de consulta: 29 de octubre de 2018]. 178   THE PRESIDENT’S COUNCIL OF BIOETHICS, Beyond Therapy. Biotechnology and the Pursuit of Happiness, Washington D.C., 2003, disponible en https://biotech.law.lsu.edu/research/pbc/reports/beyondtherapy/beyond_therapy_final_report_pcbe.pdf [fecha de consulta: 29 de octubre de 2018].

107

Roger Campione

dición humanista europea, el documento apuesta por una mayor integración entre lo social y lo nanotech, en detrimento de la mera optimización técnica del programa transhumanista auspiciado por el primer informe americano  179. En 2009, el estudio Human Enhancement, comisionado por el Parlamento Europeo a la Science and Technology Options Assessment (STOA), reincide en las razones por las cuales la noción de «perfeccionamiento humano», más allá de sus implicaciones técnicas, debe ser compaginada con un más amplio discurso académico y ético-político  180. En la primera parte ya se ha

179   NORDMANN, A., (ed.), Converging technologies. Shaping the future of European Societies, Conference Report, Unión Europea, 2004, p. 19: «A European approach to CTs needs to be informed by an awareness of their potential and limits. It acknowledges nano-, bio- and info- as key enabling technologies but recognises that only careful agenda-setting can bring them together in viable and socially beneficial convergent research». 180   STOA - Science and Technology Options Assessment, Human Enhancement.Study, IP/A/STOA/FWC/2005-28/SC35, 41 & 45, European Parliament, May 2009, pp. 16-17. Texto disponible en http://www.europarl.europa.eu/RegData/etudes/etudes/join/2009/417483/IPOL-JOIN_ET(2009)417483_EN.pdf [fecha de consulta: 29 de octubre de 2018]: «a suitable notion of human enhancement • should not comprise all forms of therapy (if only because of the implications of such a conceptualisation in a health system and policy context) and should take into account that the boundaries between medical treatments and human enhancement are often blurred (for example, when a medical treatment results in an enhancement of the patient’s performance, if compared to the patient’s performance before occurrence of the treated injury or disease), • should not be based on conceptualisations of normalcy, (dis) ability or health according to which people who were born with certain bodily or cognitive characteristics are deemed as having curable or incurable defects and in which the social and psychological aspects of (dis)abilities and health are ignored, • should be meaningfully limited and therefore exclude such practices as the ordinary use of body-external technological devices, education, physical exercise, mnemonic training, and the consumption of «natural» drugs, such as coca leaves, and food (although these practices can contribute to an enhancement of performance), • should be restricted to the enhancement of individual performance by technoscientific means, and its definition itself should not include the goals of an improvement of the species or a betterment of humanity (although these goals are of utmost importance

108

Filosofía humaquinista del derecho

hecho referencia a las delicadas cuestiones morales originadas por la irrupción de los sistemas high-tech planteadas por el European Group on Ethics in Science and New Technologies. Por último, cabe señalar las Directrices éticas para una IA fiable, redactadas por el Grupo independiente de expertos de alto nivel sobre inteligencia artificial, creado por la Comisión Europea en junio de 2018, publicadas en 2019 y sometidas a una fase de experimentación finalizada a su revisión para 2020. El documento plantea una lista de exigencias para la evaluación de la IA fiable basada en siete puntos: 1) la necesidad de la acción y el control humano para evaluar los efectos de los sistemas de inteligencia artificial sobre los derechos fundamentales, controlando la asignación de tareas entre sistemas de IA y trabajadores humanos y midiendo el nivel adecuado de control humano en los casos específicos de aplicación de sistemas de IA; 2) el análisis de la vulnerabilidad de estos sistemas para garantizar su solidez técnica y su seguridad, adoptando medidas para evitar usos no deseados, asegurando pla-

for the interpretation of the topic of human enhancement, the pertinent debates, and the relevant ideologies). The reasons for us to believe that a notion of human enhancement has to meet these criteria to be suitable for the ethicopolitical and the broader academic discourse on this topic are given in the following sections. We define «human enhancement» as a modification aimed at improving individual human performance and brought about by science-based or technology-based interventions in the human body. This definition includes «strong», second-stage forms of human enhancement with long-term effective or permanent results as well as «temporary» enhancements. Because it is not related to a specific definition of health, this is a non-medical concept of human enhancement. Moreover, we distinguish between purely restorative non-enhancing therapies, therapeutic enhancements and non-therapeutic enhancements». Sobre los cuatro informes, cfr. HOTTOIS, G., «Humanismo, Transhumanismo, Posthumanismo», en Revista Colombiana de Bioética, Vol. 8, Nº 2, 2013, pp. 167-176 y FERRY, L., La revolución transhumanista, cit., pp.22-25.

109

Roger Campione

nes de contingencia y definiendo protocolos de precisión, fiabilidad y reproducibilidad; 3) la protección de la privacidad en el manejo de los datos, la búsqueda de su calidad, integridad y gobernanza (quiénes, cómo, cuándo y con qué propósito pueden acceder); 4) la transparencia de los sistemas de IA, garantizando su trazabilidad (los métodos empleados para su diseño, desarrollo y validación de resultados), su interpretación (tratando de utilizar el modelo más sencillo de explicación comprensible) y el establecimiento de mecanismos de información para los usuarios sobre las razones, los criterios y los beneficios de los productos o los servicios, advirtiendo con claridad de las posibles carencias de los sistemas; 5) la necesidad de evitar sesgos o discriminaciones injustas, teniendo en cuenta la diversidad de los usuarios, el impacto que pueden tener en ellos los sistemas de IA y la garantía de la accesibilidad universal para la información y la utilización de sus resultados; 6) la necesidad de medir y reducir el impacto ambiental de los sistemas de IA, de asegurar la correcta comprensión de sus efectos sociales, en el caso que interactúen directamente con seres humanos, y la evaluación de su impacto social global en términos democráticos; 7) el establecimiento de mecanismos de rendición de cuentas en cuanto a la auditabilidad de estos sistemas, la minimización y notificación de sus efectos negativos, la documentación del equilibrio entre intereses y valores implicados y, a este respecto, la instauración de mecanismos que permitan obtener compensaciones 181.

181   GRUPO DE EXPERTOS DE ALTO NIVEL SOBRE INTELIGENCIA ARTIFICIAL, Directrices éticas para una IA fiable, Bruselas, Comisión Europea, 2019, pp. 33-41.

110

Filosofía humaquinista del derecho

Todos los interrogantes y las directrices, generales y genéricas, marcadas en estos documentos recientes nos conducen a asumir dos premisas, una normativa y la otra empírica. La primera es bien conocida: la formación para el uso de las tecnologías requiere una educación ética y jurídica, además de científica, sin la cual la humanidad no sabría gestionar los resultados del conocimiento. La segunda, a estas alturas de la película, también es pacífica, pues la tecnología suele avanzar más rápido que los legisladores: en un futuro próximo habrá robots muy sofisticados y dotados de inteligencia artificial muy avanzada que podrán tomar decisiones operativas, y ello plantea la cuestión de cómo regular estas capacidades. De hecho, los principales debates jurídicos a partir de estas premisas, ya no versan sobre la tradicional cuestión relativa a la automatización de las actividades humanas a través de los dispositivos tecnológicos, sino sobre la capacidad y la autonomía decisional y operativa que estos sistemas adquieren gracias a la inteligencia artificial 182. Lo que se va haciendo más borroso es el linde entre la ‘automación mecánica’, tradicionalmente asignada a las máquinas, y la ‘autonomía humana’, típica del sapiens. En esta frontera fluctuante brota la problemática dimensión humaquinista de las categorías normativas. Huelga recordar, como ejemplo paradigmático en boga hoy en día, el ya archiconocido dilema moral del coche autónomo ante la opción de salvar la vida de los pasajeros o de los peatones 183. Porque a los ojos del principio tradicional de imputa­ bilidad de las acciones, que reserva la imprevisibilidad a la ­conducta humana, la impredecibilidad de algunos de estos potentes sistemas cognitivos artificiales adolece de una preocupante opacidad, porque sus acciones ya no están programadas de manera lineal por seres humanos. Como ya se ha dicho, una

182   BUSTO, N., Autonomia e responsabilità nell’epoca delle self-driving cars», cit., p. 266. 183   Cfr. CINGOLANI R., METTA, G., Umani e umanoidi. Vivere con i robot, Il Mulino, Bolonia, 2015, pp. 45-48.

111

Roger Campione

vez que los programadores configuran el funcionamiento del sistema introduciendo unos algoritmos iniciales, es imposible saber cómo la máquina conseguirá alcanzar su objetivo mediante operaciones autónomas. Hasta hace poco tan solo se introducían las instrucciones en un ordenador y se quedaba a la espera de un resultado; ahora se están diseñando programas de inteligencia artificial para que ‘aprendan a aprender solos’, ya sea a jugar al Go, a seleccionar objetivos militares o a descifrar códigos neuronales. En este sentido sus acciones dejarían de ser inteligibles para el escrutinio humano y pasarían a depender de ‘algoritmos inteligentes’, una especie de impenetrable caja negra (black box). Dicho de otro modo, se convertirían en máquinas que aprenden de la interacción con las personas y por ello adquieren la capacidad de actuar de un modo no previsto inicialmente. No deberíamos olvidar, sin embargo, que estos sistemas basados en redes neuronales artificiales no adquieren por ello una especie de «conciencia discursiva»: no pueden dar cuenta del porqué hacen lo que deciden hacer y tampoco un programador podría reconstruir este proceso como si se tratara de un razonamiento  184. Digamos que, a estos efectos, el test de inteligencia adecuado no sería el de Turing, sino el conocido como desafío de los esquemas de Winograd, que conjuga la comprensión con el sentido común empleando un par de frases que difieren entre sí tan solo en una o dos palabras y que contienen una ambigüedad. Un ejemplo de tal desafío, debido precisamente a Terry Winograd, sería la atribución del segundo verbo en los siguientes enunciados: 1) Los concejales denegaron un permiso a los manifestantes porque temían la violencia. 2) Los concejales denegaron un permiso a los manifestantes porque defendían la violencia.

184   DIÉGUEZ, A., «Los profetas ambiguos», Claves de Razón Práctica, n. 257, marzo/abril 2018, p. 24.

112

Filosofía humaquinista del derecho

Señala Tegman que en la competición que se celebra cada año sobre estos desafíos, los sistemas de inteligencia artificial suelen cosechar pésimos resultados 185. Este es, en términos generales, el marco de problemas que el transhumanismo plantea en la actualidad. La identificación del rol y de los riesgos entrañados por las tecnologías convergentes aconseja un tratamiento profundo de los aspectos normativos de la interacción entre el ser humano y las aplicaciones basadas en la inteligencia artificial. Y recomienda hacerlo ensanchando la mirada, es decir, haciendo dialogar las ciencias normativas con las naturales y las humanas pues, por poner un ejemplo, pronosticar las tendencias de conducta de un litigante, mediante algoritmos, para conocer la probabilidad de que reincida en el delito o eluda sus futuras obligaciones económicas, no es un problema exclusivamente ni prevalentemente legal 186. Las cuestiones afectan tanto a la esfera privada como a la pública, lanzando preguntas de calado jurídico clásico como ¿quién tiene la responsabilidad por los daños causados por los robots?, ¿cómo garantizar el acceso y la disponibilidad de estas tecnologías a todos, sin discrimina­ciones 187? O ¿cómo impactará en el ámbito laboral el uso extendido de robots inteligentes?

185   TEGMAN, M., Vida 3.0, cit., p. 118. Sobre el Winograd Schema Challenge vid. [fecha de consulta: 12 de marzo de 2020]. 186   Así NIEVA FENOLL, J., Inteligencia artificial y proceso judicial, Marcial Pons, Madrid, 2018, p. 61. Sobre la necesidad de un acercamiento multidisciplinar a la investigación, el desarrollo y la gobernanza de la inteligencia artificial vid. LARSSON, S., «The Socio-Legal Relevance of Artificial Intelligence», en Droit et société, n. 103, 2019, pp. 573-593. 187   Acerca de las repercusiones de los avances en la ingeniería genética sobre el principio de justicia distributiva, cfr. BUCHANAN, A., BROCK, D. W., DANIELS, N., WIKLER, D., From chance to choice: genetics and justice, Cambridge University Press, 2002. Como ha señalado R. De Asís, las cuestiones relativas al uso y los límites de la robótica no son nuevas, pues tienen que ver con los problemas bioéticos de autonomía y responsabilidad tradicionalmente suscitados por la reflexión sobre los límites de la investigación científica (DE ASÍS, R., Una mirada a la robótica desde los derechos humanos, cit., p. 75).

113

Roger Campione

Mencionaba en las líneas introductorias un reciente caso que ha despertado la atención sobre este asunto: una sentencia de primera instancia ha declarado en 2019 un despido improcedente porque una multinacional turística prescindió de una trabajadora sustituyéndola por un bot de gestión, es decir, un programa informático que, si bien no es técnicamente un robot, cumple autónomamente actividades hasta ese momento ‘humanas’. Este caso nos sirve como botón de muestra, puesto que la Ley 3/2012, de 6 de julio, de medidas urgentes para la reforma del mercado laboral incluía, entre los supuestos en que la empresa no ha de estar en situación económica negativa o desfavorable para suspender el contrato de trabajo, las «causas técnicas». Según el art. 13 de la Ley se «entiende que concurren causas técnicas cuando se produzcan cambios, entre otros, en el ámbito de los medios o instrumentos de producción». En el juicio de ponderación que realiza entre la libertad de empresa y el derecho al trabajo (en el marco del interés público al mantenimiento del empleo), la decisión judicial rechaza las supuestas causas técnicas objetivas de despido alegadas por la empresa y señala que «más que un cambio –entendiendo tal como conversión o modificación de algo en otra cosa– la automatización implica la irrupción de algo nuevo, y no el cambio de algo pasado». En este sentido, de una situación en la que un trabajador utiliza un instrumento de producción en el desempeño de sus tareas, se pasaría a otra en la que sería directamente el instrumento el que llevaría a cabo la tarea, es decir, «no se produce un cambio en el medio o instrumento de producción, lo que se produce es la sustitución de un trabajador por un instrumento. Lo contrario sería tanto como considerar al trabajador un instrumento y la aparición de un ‘robot’ o ‘bot’ un cambio en ese instrumento» 188. Resoluciones de este tipo podrían corroborar la idea optimista de que las previsiones apocalípticas sobre la futura pér-

188   Las Palmas de Gran Canaria, SJSO 4141/2019, de 23 de septiembre, FJ sexto, 13-14.

114

Filosofía humaquinista del derecho

dida de empleos a causa del impacto de la inteligencia artificial son exageradas. Indicios para ello no faltarían, pues no cabe duda de que, a pesar de los progresos cosechados en este campo, actualmente los sistemas de inteligencia artificial no pueden competir con el ser humano en cuanto a percepción, razonamiento, comunicación y creatividad. Es decir, acerca de los atributos generalmente atribuidos a la conciencia. Desde luego que los avances en robótica podrán provocar el ‘desplazamiento’ de puestos de trabajo, pero se anota que esto ya habría pasado otras veces a lo largo de la historia: a principios del siglo XX la agricultura absorbía el 40% del trabajo en Estados Unidos mientras que hoy representa tan solo el 2%. Además, la explosión informática ha generado un creciente espectro de profesiones nuevas vinculadas a las apps y los social networks 189. Por otro lado, sin embargo, hay voces que apuntan hacia la tendencia contraria; es decir, a medida que se abaratan los costes marginales de producción de las máquinas, lo cual implica el acercamiento a la situación en que las máquinas serán producidas por las máquinas, el trabajo humano se ve marginalizado y progresivamente menos remunerado. El futuro podría ir así en una dirección contraria a la visión preconizada por Keynes que, hace casi cien años, había vislumbrado una situación de «paro tecnológico», pronosticando por ello un incremento del tiempo libre como consecuencia del progreso tecnológico y del crecimiento económico 190. II.5. EL MUNDO DE SOPHIA El uso de las nuevas aplicaciones tecnológicas, sin embargo, también suscita cuestiones más novedosas, como la relativa a la protección de la privacidad de los individuos: ¿cómo tutelarla cuando, por ejemplo, nos encontremos con un robot dedi-

  Entrevista a D. Rus, cit.   Cfr. MARRONE, P., «Lovotics: técnica, natura, sex robot», cit., p. 241.

189 190

115

Roger Campione

cado al control de los parámetros médico-clínicos de un anciano para transmitirlos al hospital o a su médico en tiempo real? 191 O dudas jurídicas todavía más radicales: ¿puede un sistema de inteligencia artificial ser considerado persona desde el punto de vista legal? Si la Corte Suprema de EE. UU. ha reconocido a las corporations derechos típicamente reservados a las personas naturales, como la libertad de expresión y la libertad religiosa, al amparo de la Primera y la Decimocuarta enmienda 192, ¿por qué entonces no podría tener reconocida esa personalidad un programa informático o un robot?  193 Hay especialistas que han mostrado como en EE. UU. se puede otorgar actualmente personalidad jurídica a un sistema autónomo, por tanto no humano, sin necesidad de cambiar las leyes, otorgándole el control de una Sociedad Limitada, gracias a la flexibilidad de su estructura legal, que permite su pervivencia temporal aun sin miembros físicos 194. Naturalmente, al

  CINGOLANI, R., METTA, G., Umani e umanoidi, cit., p. 51.   Citizens United v. Federal Election Commission, Sentencia de 21 de enero de 2010, disponible en http://www.supremecourt.gov/opinions/09pdf/08-205.pdf; Burwell v. Hobby Lobby Stores, Inc., Sentencia de 30 de junio de 2014, disponible en https://supreme.justia.com/cases/federal/us/573/13-354/ case.pdf 193   Sobre la relación entre la atribución de personalidad jurídica a los robots y el concepto de ser humano, cfr. el reciente SALARDI, S., «Robótica e inteligencia artificial. Retos para el derecho», en Derechos y Libertades, n. 42, 2020, pp. 203-232. 194   BAYERN, S., «The Implications of Modern Business-entity Law for the Regulation of Autonomous Systems», Stanford Technology Law Review, Vol. 19: 93, 2015, pp. 93-112: «Consider, then, the following use of an LLC: (1) an individual member creates a member-managed LLC filing the appropriate paperwork with the state; (2) the individual (along, possibly, with the LLC, which is controlled by the sole member) enters into an operating agreement governing the conduct of the LLC; (3) the operating agreement specifies that the LLC will take actions as determined by an autonomous system, specifying terms or conditions as appropriate to achieve the autonomous system’s legal goals; (4) the sole member withdraws from the LLC, leaving the LLC without any members. The result is potentially a perpetual LLC –a new legal person– that requires no ongoing intervention from any preexisting legal person in 191

192

116

Filosofía humaquinista del derecho

hablar de personalidad jurídica me refiero a la capacidad de ser sujeto portador de derechos, no a la igualación entre el sujeto natural y el sujeto artificial. Obviamente dos empresas no pueden casarse, pero del mismo modo que dos individuos no pueden fusionarse. Sin embargo, descartar por peregrina la eventualidad de reconocer la titularidad de derechos a un ente que carece de rasgos naturales supondría ignorar el significado de «persona» desde el punto de vista jurídico. No se trata de que el derecho, utilizando fórmulas mágicas al estilo de los alquimistas, pueda transformar algo inerte en alguien vivo, sino más bien lo contrario: en el ámbito jurídico la noción de personalidad es una construcción artificial de la ciencia. Me patrocina Kelsen en este punto cuando afirma «que la llamada persona física es una construcción artificial de la ciencia del derecho; que la persona física solo es una persona “jurídica”». Lo que sostiene el posiblemente más ilustre jurista del siglo XX es que el sujeto de derecho no es una entidad física a partir de la cual todo acontece, sino un centro de imputación de derechos y deberes. Más que un ‘ser humano’ es una unidad personificada que consiste en normas que le obligan y facultan: «no se trata de una realidad natural, sino de una construcción jurídica creada por la ciencia del derecho» 195.

order to maintain its status. To understand the resulting organization’s perpetual nature, it is important to recognize that under many modern LLC acts, the sole member’s dissociation from the LLC does not require that the LLC terminate its existence. Indeed, many acts specifically contemplate at least the temporary continuation of a memberless LLC because this is a convenient option in several practical cases, such as estate planning. For example, parents might set up an LLC to hold a family’s assets and adopt an agreement that states that on the death of the last surviving parent, the couple’s children have the option to join the LLC. The modern Uniform Limited Liability Company Act –known as RULLCA– accommodates this possibility, specifically providing that an LLC may by default continue to exist for ninety days without any members» (pp. 100-101). 195   KELSEN, H., Teoría pura del derecho, 7ª ed., Porrúa, Buenos Aires, 1993, pp. 182-184. Y aunque no sea esta quizá la sede adecuada, no faltan argumentos para extender esta perspectiva a la noción de persona más allá del

117

Roger Campione

Este nudo toca además un punto neurálgico del debate general sobre el transhumanismo. Así como las influencias de la moral estoica y del cristianismo añaden a la idea de persona un sentido moral y una fundamentación metafísica, el humanismo tradicional cristaliza los atributos de la persona en el contexto de una naturaleza intangible. La genealogía de los derechos humanos procede de ese marco y el paradigma curativo, que no ‘meliorativo’, de la medicina también. De aquí derivan los recelos ante los riesgos planteados por el transhumanismo por parte de destacados autores ubicados, en este debate, entre los «bioconservadores», como Francis Fukuyama. Merece la pena citar directamente sus propias palabras: «(…) Huxley tenía razón (…) la amenaza más significativa planteada por la biotecnología contemporánea estriba en la posibilidad de que altere la naturaleza humana y, por consiguiente, nos conduzca a un estadio “posthumano” de la historia. Esto es importante (…) porque la naturaleza humana existe, es un concepto válido y ha aportado una continuidad estable a nuestra experiencia como especie. Es, junto con la religión, lo que define nuestros valores más básicos. La naturaleza humana determina y limita los posibles modelos de regímenes políticos, de manera que una tecnología lo bastante poderosa para transformar aquello que somos tendrá, posiblemente, consecuencias nocivas para la democracia liberal y para la naturaleza de la propia política» 196. Es el miedo a que las nuevas tecnologías nos lleven, en cierto modo, a perder nuestra humanidad, nuestra esencia 197. Desde

ámbito jurídico. Vid al respecto, desde un punto de vista histórico y antropológico, MAUSS, M., Sociología y antropología, Tecnos, Madrid, 1979; BUENO, G., El sentido de la vida. Seis lecturas de filosofía moral, Pentalfa, Oviedo, 1996, en particular pp. 116-122. Para una síntesis de esta cuestión me permito remitir a CAMPIONE, R., La teoría social de Anthony Giddens, cit., p. 184 ss. 196   FUKUYAMA, F., Our posthuman future: consequences of the biotechnology revolution, Farrar, Straus and Giroux, Nueva York, 2002; trad. cast. El fin del hombre. Consecuencias de la revolución biotecnológica, Ediciones B, Barcelona, 2002, p. 22 197   Ibíd., p. 165.

118

Filosofía humaquinista del derecho

una perspectiva también esencialista de la naturaleza humana, por citar a otro destacado filósofo y, como Fukuyama, miembro del Comité que redactó el informe estadounidense de 2004 Beyond Therapy, Michael Sandel defiende la ética de la humildad y de la gratitud, que reconoce el carácter de don de los logros y las capacidades humanas, frente a la ética transhumanista del perfeccionamiento, que trasuda hybris y «olvida que la libertad consiste en cierto sentido en una negociación permanente con lo recibido» 198. Tales posturas, al igual que la de Habermas 199, ponen al descubierto los nudos gordianos del debate sobre las propuestas transhumanistas y las cuestiones prácticas que acarrean: por un lado, el problema de la identificación de los límites entre la aplicación terapéutica o meramente curativa de las nuevas tecnologías convergentes, y su utilización en función de la mejora del individuo (human enhancement). Por el otro, la medida en que estas innovaciones pueden afectar al principio de igualdad y de justicia distributiva, oscilando entre una visión optimista de emancipación humana y una mirada pesimista hacia una nueva sociedad clasista. No parece probable, aun dando respuesta a estos interrogantes, que el asunto se pueda abordar de forma satisfactoria simplemente a través de la labor legislativa, pues el linde entre lo terapéutico y lo meliorativo es fluctuante y difuso. Además, como se ha puesto en evidencia, puede haber mejoras que no tengan argumentos morales de peso en su contra como para considerarlas indeseables; por ejemplo, el aumento de la agudeza visual o el mantenimiento cartilaginoso de las articulaciones en edades avanzadas 200. A este respecto, Bostrom ha seña-

198   SANDEL, M., The Case Against Perfection: Ethics in the Age of Genetic Engineering, Cambridge University Press, 2007; trad. cast. Contra la perfección. La ética en la era de la ingeniería genética. Marbot, Barcelona, 2007, p. 127. 199   HABERMAS, J., Die Zukunft der menschlichen Natur. Auf dem Weg zu einer liberalen Eugenik?, Suhrkamp, Frankfurt am Main, 2001; trad. cast. El futuro de la naturaleza humana. ¿Hacia una eugenesia liberal?, Paidós, Barcelona, 2009. 200   DIÉGUEZ, A., «Los profetas ambiguos», cit., p. 29.

119

Roger Campione

lado que habría que distinguir las mejoras que ofrecen solo ventajas posicionales, es decir, las que otorgan una ventaja únicamente en la medida en que otros carecen de ella (e.g. un aumento de altura), de las mejoras que aportan beneficios intrínsecamente positivos, como podría ser la mejora del sistema inmunitario o del funcionamiento cognitivo. Solo las del segundo tipo deberían ser promovidas. De ahí que este autor reivindique la urgencia moral de desarrollar medios para revertir el proceso de envejecimiento y proponga así una ampliación del concepto de dignidad humana hasta una «dignidad posthumana» 201. No sorprende, por tanto, que cobre interés el debate relativo a si y cómo pueden quedar afectados conceptos normativos como el de persona o de dignidad humana, pues el reconocimiento de la titularidad de derechos a sistemas tecnológicos ha llegado hasta la polémica suscitada por la concesión de la ciudadanía, por parte de Arabia Saudí, a un robot llamado Sophia, que por ello disfrutaría, en aquel país, de más derechos que los garantizados a las mujeres ‘de verdad’ 202. De entrada, fue presentada a la audiencia sin hiyab ni abaya, tal como se requiere que hagan las mujeres saudíes. Y este agravio comparativo nos lleva incluso a darle la vuelta al tema, pues estamos planteando la cuestión de si las máquinas podrían adquirir rasgos huma-

  BOSTROM, N., «A History of Transhumanist Thought», cit., p. 179; «Human genetic enhancements: A transhumanist perspective», Journal of Value Inquiry,37 (4), 2003, pp. 493-506; «The fable of the dragon-tyrant», Journal of medical ethics,31 (5), 2005, pp. 273-277; «The future of human evolution», en TANDY, CH. (ed.), Death and anti-death, Ria University Press, 2005. 202   HATMAKER, T., «Saudi Arabia bestows citizenship on a robot named Sophia», Techcrunch, 26 de octubre de 2017, disponible en  (fecha de consulta: 7 de noviembre de 2018); CHIKHALE S. N., VIJAYRAO GOHAD, D., «Multidimensional Construct About The Robot Citizenship Law’s In Saudi Arabia», International Journal of Innovative Research and Advanced Studies (IJIRAS), Vol. 5, N. 1, 2018, pp. 106-108; VAN WYNSBERGHE A., ROBBINS, S., «Critiquing the Reasons for Making Artificial Moral Agents», Science and Engineering Ethics, 2018, pp. 1-27,  https://doi.org/10.1007/s11948-018-0030-8. 201

120

Filosofía humaquinista del derecho

nos, pero, por decirlo con las palabras de Alan Turing en la radio en 1951, «si una máquina puede pensar, es posible que piense de manera más inteligente que nosotros, y entonces ¿dónde nos coloca eso?». En su presentación Sophia contestó a cuestiones relativas a si los robots tienen conciencia y si, a consecuencia de ello, los humanos deberían temerlos. La respuesta de Sophia a una de estas preguntas fue: «You’ve been reading too much Elon Musk and watching too many Hollywood movies. Don’t worry. If you’re nice to me, I’ll be nice to you» 203. II.6. BREVE ANOTACIÓN ACERCA DE LOS MODELOS PREDICTIVOS Parece que, al imaginar un mondo poblado de sistemas artificiales autónomos, es el ser humano el que se va volviendo menos autónomo. Porque otro factor a tener en cuenta, como se ha dicho al comienzo, es que con los algoritmos actuales de recopilación de la información entramos en la googlelización de la identidad, de modo que las personas tienden a ser clasificadas por sus gustos y propensiones más que por sus acciones. En muchos sentidos, como ha señalado Luciano Floridi, vivimos en la infoesfera, un ambiente global en el cual no somos entidades aisladas sino, más bien, organismo informacionales interconectados, inforg que comparten agentes biológicos y artefactos ingenieriles 204. En este ciberespacio, por tanto, el ser humano se transforma en un flujo de informaciones, particularmente en números, que reflejan la nueva naturaleza de la personalidad humana surgida en el tránsito de la revolución

  MAZA, C., «Saudi Arabia Gives Citizenship to a Non-Muslim, English-Speaking Robot», en Newsweek, 26 de octubre de 2017, [fecha de consulta: 18 de febrero de 2020]. 204   FLORIDI, L., La rivoluzione dell’informazione, Codice edizioni, Turín, 2012, p. 11. 203

121

Roger Campione

industrial a la revolución digital. Las ventajas que las tecnologías basadas en inteligencia artificial pueden aportar a campos como el derecho son innegables; baste pensar en la capacidad de estos programas para el manejo, el análisis y la codificación del inmenso volumen de información relevante en la administración de justicia 205. Sin embargo, gracias al desarrollo del internet de las cosas los datos relativos a nuestra vida cotidiana, a nuestros movimientos tanto físicos como en la red, quedan recogidos de forma digital y son susceptibles de uso comercial mediante la aplicación de ciertos algoritmos  206. Las empresas tecnológicas que registran nuestra actividad personal en la web utilizan esa información para dirigir la atención del usuario hacia determinadas noticias y anuncios. Así, en las redes sociales, la publicidad es distribuida a través de algoritmos que la envían de forma segmentada a partir de nuestros patrones de navegación. Y la inteligencia artificial también está detrás de los procedimientos que muchas empresas utilizan para seleccionar a sus trabajadores o de la predicción de las hipotecas. Y, más allá del ámbito comercial, se aprecia la importancia de la información biométrica en aplicaciones como la optimización de las rutas que realizamos, el reconocimiento facial o, como veremos más adelante, los diagnósticos a partir de los datos de los pacientes. Los peligros derivados de un uso sesgado de tal volumen de información son evidentes 207: en muchos países están de moda 205   Vid. SOLAR CAYÓN, I., «La codificación predictiva: inteligencia artificial en la averiguación procesal de los hechos relevantes», en Anuario de la Facultad de Derecho de la Universidad de Alcalá, 2019 n. 11, pp. 75-105. 206   Sobre el aspecto jurídico de esta tendencia vid. AGOTE EGUIZÁBAL, R., «Inteligencia artificial, ser humano y derecho», Claves de Razón Práctica, n. 257, marzo/abril 2018, pp. 40-45. Para intentar tutelar la privacidad en este contexto de manejo masivo de información personal, ha entrado en vigor el Reglamento General de Protección de Datos (UE) 2016/679. 207   La Agencia Española de Protección de Datos ha elaborado un documento guía para la «Adecuación al RGPD de tratamientos que incorporan Inteligencia Artificial. Una introducción», con el objetivo de aclarar las dudas que la Inteligencia Artificial genera en usuarios, especialistas e instituciones,

122

Filosofía humaquinista del derecho

programas predictivos de delitos mediante determinados algoritmos que procesan datos históricos individuales para diseñar mapas de delincuencia en las ciudades. En algunos de estos modelos, para calcular los índices, se pregunta por los antecedentes penales de amigos y familiares o por la primera vez que se tuvo trato con la policía; obviamente las respuestas a estas cuestiones serán diferentes según la extracción social del sujeto, pues un recluso de clase media o alta no contestará igual que el procedente de un barrio pobre con más altos niveles de marginación social. Modelos de peligrosidad o reincidencia matemáticos, como el LSI-R (Level of Service Inventory-Revised) incluyen cuestionarios de preguntas que, aún sin hacer referencia a sesgos ilegales como la raza, retroalimentan circuitos perversos, pues una persona calificada con un índice de «alto riesgo» de reincidencia, procedente de un barrio en el que sus familiares y amigos han tenido roces con la ley, será condenada a una pena más larga y cuando vuelva a ser puesta en libertad, tras haber pasado más tiempo en la cárcel, tendrá más dificultades para encontrar un trabajo y aumentará la probabilidad de que pueda volver a la cárcel. El modelo, en casos como este, se apunta el éxito en la predicción; sin embargo, el propio modelo matemático-estadístico está contribuyendo activamente al resultado 208. Aparte de los graves sesgos clasistas o racistas, hay estudios que sostienen que estos programas predictivos, como el COMPAS, ampliamente utilizado en Estados Unidos, ni siquiera aciertan en sus previsiones más que las personas con escasos conocimientos del sector 209. con respecto a los derechos involucrados y las necesidades de seguridad jurídica de todos los intervinientes en los procesos que emplean tratamiento de datos mediante técnicas basadas en el aprendizaje automático [fecha de consulta: 29 de febrero de 2020]. 208   O’NEIL, C., Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, Crown, New York, 2016; trad. cast. Armas de destrucción matemática. Cómo el Big Data aumenta la desigualdad y amenaza la democracia, Capitán Swing, Madrid, 2018, pp. 36-38. 209   DRESSEL, J., FARID, H., «The accuracy, fairness, and limits of predicting recidivism», Science Advances, Vol. 4, n. 1, 2018, DOI: 10.1126/sciadv.

123

Roger Campione

Alimentando, además, una inversión lógica conforme a la cual es probable que un individuo cometa un delito porque resulta peligroso según un indicador de cálculo, cuando debería ocurrir lo contrario, esto es, que para considerar a alguien peligroso debería comprobarse primero que sin duda ha cometido un delito. Al menos en un ordenamiento que se precie de ser de derecho y garantista. Pero, aquí nos topamos de nuevo con la deontología post-liberal del miedo, propia del Estado preventivo, frente al principio liberal del daño que caracteriza al Estado de derecho. Vuelve a asomar la cabeza el escenario Minority Report, donde la culpabilidad no depende de hechos sino de predicciones algorítmicas –encima opacas porque sus creadores, amparándose en la propiedad intelectual, no ofrecen la información necesaria para comprender cabalmente su funcionamiento– que, a la hora de prever sin parcialidades los derroteros de la conducta humana, en lugar de auxiliar la imperfecta intuición judicial acaban exasperando sus prejuicios. Como se ha destacado, el primer paso para juzgar a las personas no por lo que han hecho sino por lo que potencialmente podrían hacer, consiste en servirse de herramientas de inteligencia artificial como el COMPAS en el ámbito de las medidas cautelares 210. Se trata de algo más que de la expropiación de la política por parte de la tecnociencia, tal como ha vislumbrado Rodotà 211. La cuestión general, desde el punto de vista iusfilosófico, abarca dos focos que tal vez son el mismo visto desde dos ángulos diferentes: 1) la pregunta central implicada por el transhumanismo no atañe tanto a cómo las tecnologías convergentes afectan a la relación con nosotros mismos, sino a cómo modi-

aao5580, disponible en http://advances.sciencemag.org/content/4/1/eaao5580/ tab-pdf [fecha de consulta: 17 de noviembre de 2018]; Nieva Fenoll recuerda que los índices de peligrosidad calculados por un grupo de voluntarios demostraron una eficacia del 67%, superior en dos puntos a la de COMPAS (NIEVA FENOLL, J., Inteligencia artificial y proceso judicial, cit., p. 70 y la bibliografía allí reseñada). 210   NIEVA FENOLL, J., Inteligencia artificial y proceso judicial, cit., p. 74. 211   RODOTÀ, S., Vivere la democrazia, cit., p. 138.

124

Filosofía humaquinista del derecho

fican la relación que tenemos con el poder 212; 2) los problemas relativos al acceso, la aplicación y las responsabilidades de estas tecnologías, ¿serán codificados a través de la lógica de los derechos o de los mercados? No parece sin fundamento la sospecha de que la semántica normativa (también) del transhumanismo dependa principalmente del paradigma ‘Humpty Dumpty’: más que averiguar las distintas cosas que se pueden hacer, lo que importa en primer lugar es saber quién manda. Incluso cuando la utilización de herramientas de predicción algorítmica a partir del Big Data se ve impulsada por necesidades presupuestarias y en principio su empleo parece razonable, como fue el caso de PredPol en Estados Unidos, porque el ­software no se basa en la ‘catalogación’ de personas sino en la identificación de cuadrantes de probabilidad geográfica, la retroalimentación provocada por su programación distorsiona el significado de sus resultados. Dependiendo de los delitos incluidos en la configuración de datos, la máquina construye modelos diferentes. Si aparte de los delitos violentos se introduce en la configuración inicial la búsqueda de delitos leves de «alteración del orden público», ciertamente más frecuentes en determinadas zonas o barrios, y no se incluyen por ejemplo delitos de cuello blanco como los fiscales o financieros característicos, en cambio, de otras áreas urbanas, la geografía criminal resultante varía considerablemente. Y como, en consecuencia, habrá más policía vigilando y patrullando en unos sitios o en otros, será más probable registrar conductas delictivas en ciertos puntos del mapa que en otros 213.Y cuando se ha aplicado a otro tipo de delitos, como en los Países Bajos, el Tribunal de Distrito de La Haya ha considerado que SyRI (acrónimo de System Risk Indication), un sistema de análisis utilizado por el Ministerio de Asuntos Sociales y Empleo para detectar fraudes al Estado, viola el derecho al respeto de la vida privada recono-

212   AMATO, S., «Neuroscienze e utilizzazione militare delle tecniche di potenziamento umano», cit., p. 188. 213   O’NEIL, C., Armas de destrucción matemática, cit., pp. 107-115.

125

Roger Campione

cido en el art. 8 del CEDH. Los algoritmos utilizados por SyRI calculan quién tiene más probabilidades de defraudar al Estado analizando datos económicos de los contribuyentes como los impuestos, las multas, los seguros y otro tipo de información. A juicio del tribunal, el juicio de ponderación entre la persecución del interés público asociado al uso de estas tecnologías –prevenir y combatir el fraude– y la interferencia que se produce con el respeto a la vida privada se decanta en este caso por la tutela del derecho a la privacidad reconocido en el art. 8 párrafo 2 del CEDH, en el sentido de que el instrumento legal empleado para evitar delitos puede presentar sesgos de estigmatización y discriminación de la ciudadanía, debido a la masa de información individual y colectiva que maneja 214. En particular, el caso ha atraído la atención, una vez más, de Philip Alston, en esta ocasión (a diferencia del papel por el que se le ha mencionado supra) special rapporteur de la ONU sobre pobreza extrema y derechos humanos. Consultado como amicus curiae por el tribunal neerlandés, Alston ha destacado que SyRI ha sido utilizado predominantemente en áreas urbanas donde es más alta la concentración de grupos vulnerables y con escasos ingresos, incluyendo vecindarios ‘pobres’ de ciudades como Capelle aan den Ijssel, Eindhoven, Haarlem y Rotterdam. Y en este caso, la opacidad del sistema y la falta de trasparencia en la accesibilidad a la información relativa al funcionamiento de los algoritmos no se debe a la voluntad de tutelar la propiedad intelectual, sino a la intención del Gobierno de no proporcionar información sobre cómo funcionan estos sistemas, para impedir que los potenciales violadores (que, señala Alston, en la norma que regula la aplicación de SyRI también permanecen unclear) dispongan de elementos que le faciliten formas de ‘ganar al sistema’ 215.

  RECHTBANK DEN HAAG, ECLI:NL:RBDHA:2020:865 (05-02- 2020).   Brief by the UNITED NATIONS SPECIAL RAPPORTEUR on extreme poverty and human rights as Amicus Curiae in the caseof NJCM c.s./De Staat der Nederlanden (SyRI) before the District Court of The Hague (case number: 214

215

126

Filosofía humaquinista del derecho

II.7. TRANSHUMANISMO Y SALUD En todo caso, al margen del dudoso empleo de la inteligencia artificial y el Big Data, mantiene su sentido la pregunta general evocada por las mencionadas palabras de Turing: ¿qué es lo que nos hace humanos? Porque la hibridación no es el futuro, es el presente. Ha empezado con las prótesis, los marcapasos, los aparatos acústicos, los exoesqueletos; los medicamentos que mejoran la memoria, la concentración y el humor; las drogas que mejoran el rendimiento; la medicina anti-edad; las operaciones de cambio de sexo: todo esto ya está aquí. La inteligencia artificial aplicada a la sanidad ya ha enseñado su enorme potencial. La digitalización de los historiales ha permitido tomar decisiones de manera más rápida y recibir ayuda consultando a expertos a través de imágenes digitales. Además, los robots podrían llegar a ser cirujanos más precisos y fiables incluso sin la inteligencia artificial avanzada, a la vista de las menores incisiones y pérdidas de sangre en intervenciones realizadas en los últimos años. Hay incluso quien cree que estos sistemas podrían ser los mejores expertos en cierto tipo de diagnósticos 216. Mil seiscientos hospitales utilizan en Estados Unidos Visual DX, un sistema diagnóstico basado en el Big Data, que proporciona resultados excelentes y, si tuviera cierta autonomía decisional, por ejemplo sobre las terapias a adoptar, los pacientes podrían confiarse a las máquinas sin apenas consultar a un médico 217. Sin tener en cuenta la importancia pri-

C/09/550982/ HA ZA 18/388), pp. 3 y 8, en https://www.ohchr.org/Documents/ Issues/Poverty/Amicusfinalversionsigned.pdf [fecha de consulta: 17 de febrero de 2020]. 216   Un estudio holandés de 2015 demostró que el diagnóstico por ordenador del cáncer de próstata utilizando imágenes de resonancia magnética era tan bueno como el humano. Otro estudio en Stanford en 2016 ha revelado que la inteligencia artificial, utilizando imágenes de microscopio, diagnosticaba el cáncer de pulmón mejor que los patólogos (TEGMARK, M., Vida 3.0., cit., p. 130). 217   TUNIZ, C., TIBERI VIPRAIO, P., La scimmia vestita. Dalle tribú di primati all’intelligenza artificiale, Carocci, Roma, 2018, p. 230.

127

Roger Campione

mordial que el desarrollo de las NBIC tiene en campos como el militar: el Programa ElectRX de la DARPA (la Agencia de Proyectos de Investigación Avanzados de defensa USA) ha asignado 79 millones de dólares para la neuromodulación, pequeños dispositivos electrónicos que interactúan con el sistema nervioso para curar enfermedades como la depresión o la artritis. Pero parece que en realidad el proyecto apunta a la mejora del rendimiento de los soldados mediante el aumento de su capacidad neuronal (neuroaugmentation) 218. Así que en cierto modo ya hemos entrado en la era ciborg: están en curso de experimentación dispositivos cerebrales para controlar la epilepsia; ojos electrónicos capaces de grabar imágenes; nuevas pieles artificiales, gracias a la nanotecnología, que pueden ‘sentir’ el frío, el calor y la humedad; auriculares inteligentes que traducen las conversaciones, casi en tiempo real, en cinco idiomas; cuentapasos wifi implantados en el pecho (el primer caso de corazón que forma parte del internet de las cosas); penes biónicos aptos para conseguir una erección instantánea gracias a un interruptor localizado en los testículos; chips electrónicos colocados entre el pulgar y el índice para abrir puertas, acceder a cuentas corrientes, etc.; implantes cocleares que convierten los sonidos en señales eléctricas transmitidas al nervio acústico y después al cerebro, es decir, un dispositivo externo capta el sonido y lo convierte en una señal eléctrica que viaja no por las células del oído interno, sino por un cable conectado directamente al nervio auditivo 219. Naturalmente, no se debe soslayar el reverso de la moneda: las máquinas son creaciones humanas, y también fallan. La máquina canadiense de radioterapia Therac-25 fue diseñada para tratar el cáncer de dos maneras distintas: bien con haces de electrones de baja potencia, bien con uno de alta potencia de rayos X de varios megavoltios centrado en el objetivo mediante

218   SÁNCHEZ DEL CAMPO REDONET, A., Reflexiones de un replicante legal, cit., p. 87. 219   TUNIZ, C., TIBERI VIPRAIO, P., La scimmia vestita, cit., p. 233.

128

Filosofía humaquinista del derecho

un apuntalamiento especial. Un software sin verificar y con errores provocó que los técnicos aplicasen el segundo procedimiento en lugar del primero, provocando así varias muertes. Entre 2000 y 2001, en el Instituto Oncológico de Panamá, debido a una interfaz de usuario no validada, se suministró durante mucho tiempo cobalto-60 radioactivo. En cualquier caso, según parece, el balance neto aconseja que no cunda el pánico: un informe norteamericano ha establecido que en el período 2000-2013 han ocurrido 144 muertes y 1391 lesiones a causa de la cirugía robótica –por problemas de hardware, chispas eléctricas, piezas rotas o problemas de software por los cuales los aparatos se movían incontroladamente o se apagaban– frente a casi dos millones de operaciones exitosas 220. Según la agenda transhumanista, «en un futuro no muy lejano» –citando el íncipit de la película Gattaca– la nanotecnología molecular haría posible eliminar los tumores del tejido sano, así como la contaminación del aire, convertir el carbón en diamantes y la arena en superordenadores. Evolucionando, sería de gran ayuda para abolir muchas enfermedades y el envejecimiento 221. Y de momento ya hay ejemplos actuales de ese futuro mundo biónico poblado de interfaces cerebro-máquina, como la Estimulación Electrónica Profunda que se aplica en casos avanzados de depresión o Parkinson. Relata Rafael Yuste, que lidera el proyecto BRAIN impulsado por Barack Obama en 2013 para dibujar el mapa del cerebro, que los pacientes sometidos a esta estimulación mediante un electrodo implantado en el cerebro, cuentan que este tratamiento les cambia la personalidad, en el sentido de que hacen cosas que

220   TEGMARK, M., Vida 3.0, cit., p. 131. Los casos y los informes mencionados pueden consultarse en ALEMZADEH, H. et al., «Adverse Events in Robotic Surgery: A Retrospective Study of 14 Years of FDA Data», PLOS ONE, 11(4), 2016, ; ;

221   BOSTROM, N., «A History of Transhumanist Thought», cit., p. 169.

129

Roger Campione

no hacían antes y esto les lleva a dudar si siguen siendo ellos mismos 222. Es curioso como esta narración evoca el caso de Phineas Gage, el paciente más famoso de la neurología –gracias a Antonio Damasio– a raíz de un accidente laboral en el cual una barra de hierro le había literalmente atravesado el cráneo sin causarle más consecuencias físicas que el propio agujero. Pese a no haber sufrido daños reseñables, al cabo de un tiempo, se verificaron cambios sensibles en su modo de comportarse: de ser una persona socialmente adaptada pasó a comportare de forma irresponsable e irreverente. Siglo y medio después Damasio, reconstruyendo el caso, mostró que los daños en las zonas prefrontales de la cabeza por las que había pasado el hierro son las responsables del manejo de las emociones y del proceso de toma de decisiones 223. Si una vara metálica puede modificar aspectos esenciales de la identidad humana, y por tanto la cadena eslabonada de atribuciones que de ella pueden derivar, ¿por qué no podría tener sentido la pregunta acerca de lo que nos diferencia de las máquinas? Considerando que asumen contornos cada vez más realistas las aplicaciones médicas de la inteligencia artificial y las interfaces cerebro-ordenador, mediante la conversión de la actividad neuronal en estímulos que impulsan extremidades robóticas o herramientas externas  224 , en un futuro los nuevos humanos «aumentados» podrían ampliar sus sentidos llegando a ver u oír frecuencias antes inaccesibles o a comunicarse telepáticamente. Amén de escenarios futuristas, quién sabe si poco realistas, las implicaciones para los profesionales de la salud están ya sobre la mesa.

  YUSTE, R., GOERING, S. et. al., «Four ethical priorities for neurotechnologies and AI», Nature, 9 de noviembre de 2017, p. 162. 223   DAMASIO, A., El error de Descartes: la emoción, la razón y el cerebro humano, Barcelona, Crítica, 2001. 224   Piénsese, por ejemplo, en los experimentos de interfaces neuronales cada vez más complejas realizadas en el ámbito del proyecto Cyborg, dirigido por Kevin Warwick, en el cual él mismo se ha implantado un chip conectado a su sistema nervioso para interactuar con un brazo robótico (cfr. SÁNCHEZ DEL CAMPO REDONET, A., Reflexiones de un replicante legal, cit., p. 87). 222

130

Filosofía humaquinista del derecho

Para ellos, dicho de la forma más sencilla y directa posible, ya no se trataría de ‘reparar’ o de curar sino de mejorar o de ‘aumentar’ las facultades humanas de individuos sanos conforme a los protocolos de la ciencia médica. Es comprensible que ello suscite una pregunta de carácter ético: ¿es aceptable que sujetos que no padecen enfermedad ni discapacidad alguna puedan mejorar sus prestaciones intelectuales, por ejemplo la memoria, instalándose microchips electrónicos que los conecten a internet por vía inalámbrica? Son escenarios que suenan a la serie Black Mirror, pura ciencia ficción, pero la ‘comunidad normativa’, tanto la ética como la jurídica, cometería un craso error si se desentendiera sin más de la reflexión sobre estos asuntos so pretexto de su irrealismo. Y, en efecto, hablar de ciencia ficción no implica referirse tan solo a una mera ilusión de futuro imaginario e inexistente. Se trata quizá de una forma narrativa que, sin la pretensión de predecir con exactitud de futuro, trenza historias imaginables en las que la magnitud tiempo es enormemente contraída. Los acontecimientos, las etapas, los hitos y los peldaños de la crónica se consuman en un plazo increíblemente corto: lo que en la ciencia-no-ficción se vislumbra como abstractamente posible a una distancia cronológica sideral en la literatura de ciencia ficción ya es el status quo 225. Obviamente la ciencia no podría negar esta eventualidad sin presuponer anticientíficamente la capacidad de prever el futuro en términos negativos, al menos si manejamos una visión no dogmática, popperiana, del conocimiento científico.

225   Podría decirse, como señala Martínez de Pisón, que en lugar de ciencia-ficción sería más oportuno hablar de «ciencia prospectiva»: aquí, «la mente del autor de “ficción”, liberada de las ataduras de la realidad, realiza una auténtica proyección de mundos imaginables a la luz de las revoluciones tecnológicas, de las investigaciones científicas y de los avances en sus diferentes ramas, de las experiencias humanas e históricas, de sus inquietudes y de sus obsesiones, etc. Todo ello da lugar a un variopinto abanico de posibilidades y de proyectos de futuro» (MARTÍNEZ DE PISÓN, J., «Yo, Robot: de la biología a la singularidad. ¿Nuevas preguntas para la Filosofía del Derecho?», en REDUR, n. 15, 2017, p. 60.

131

Roger Campione

Si lo hiciera, si olvidara la cláusula rebus sic stantibus, estaría afirmando apodícticamente que algo no ocurrirá nunca y ello equivaldría a una lectura pre-escrita del futuro, algo más típico de las doctrinas que de las teorías científicas. Hasta hace poco habría sonado a fantasía tecnológica la posibilidad de devolver la vista a los ciegos; pero ya es un hecho la implantación de microchips hi-tech que pueden devolver cierto grado de visión a los que padecen graves enfermedades genéticas de la retina, como la retinitis pigmentosa. Se trata de un dispositivo de visión artificial muy evolucionado, que permite restaurar la percepción de la luz y de las formas de algunos objetos o personas alrededor, sin que sean necesarios soportes externos como cámaras o gafas 226. Las nuevas herramientas neurotecnológicas, junto con la inteligencia artificial y las herramientas de machine learning, están empezando a permitir descifrar el ‘código neuronal’ que codifica la visión, leyendo la actividad de grupos de neuronas concretas cuando están viendo una imagen. El hecho de poder leer este código implica la posibilidad de su reproducción, activando neuronas e implantando imágenes en el cerebro desde fuera. Los neurocientíficos de la Universidad de Columbia envían un haz de luz a una pieza metálica de medio centímetro con una ventana transparente, colocada en la cabeza de un ratón. El rayo «activa una combinación precisa de neuronas y, de repente, el ratón parece que ve una imagen (…) No la ve a través de sus retinas, sino por la conexión directa del microscopio con la corteza visual de su cerebro» 227. Así pues, también es muy importante el trabajo prospectivo en el ámbito ético y del derecho: los coches totalmente autónomos no son todavía una realidad ‘circulante’ y, sin embargo,   Véase, por ejemplo, la intervención recientemente realizada en un hospital italiano, en https://www.repubblica.it/salute/ricerca/2018/02/05/news/ primo_impianto_di_retina_artificiale_in_italia-188086473/ 227   YUSTE, R., ESTUPINYÀ, P., «Cerebros sin límites. Los retos de la neurotecnología», en National Geographic Ciencia, edición especial, 02/2020, pp. 22-39. 226

132

Filosofía humaquinista del derecho

conviene afrontar directamente las cuestiones regulativas que el impacto de este robot podría y podrá producir, en un plazo relativamente breve, en una amplia gama de relaciones sociales, por la sencilla razón de que las normas existentes no contemplan muchas situaciones nuevas. El Reglamento General de Circulación, por ejemplo, obliga a que cada vehículo cuente con un conductor, por tanto en su formulación no podría aplicarse a un coche autónomo 228. Y estamos hablando de un asunto jurídico que, al fin y al cabo, es de momento marginal. Si tenemos en cuenta que según un informe del British Medical Journal la deficiente atención médica es la tercera causa de muerte en Estados Unidos, con 251.000 fallecimientos al año, por encima de accidentes, enfermedades cardíacas, respiratorias y Alzheimer 229, podemos hacernos una idea de por qué es más urgente mejorar las aplicaciones de la inteligencia artificial en el ámbito sanitario que en el de los coches autónomos. En conclusión, si las previsiones tecnocientíficas de la agenda transhumanista se fueran concretando en las próximas décadas, nos toparíamos con una especie de ley de los tres estadios de Comte. El autor de la Filosofía Positiva puso un punto y final a la evolución histórica del conocimiento: con la sociología, el método científico se completaba y desbancaba por fin a la metafísica, que a su vez se había erigido victoriosa sobre las cenizas de la teología. En este caso, el camino recorrería una línea progresiva que iría del paradigma médico terapéutico al modelo meliorativo del human enhancement, hasta llegar a la condición posthumana de una nueva especie híbrida. Terapia, mejora y superación, estas serían las tres fases de la transición transhumanista. Pero la consumación de este proceso es, una vez más, ciencia ficción, al menos de momento. Mientras   Art. 17.1: «El conductor deberá ser capaz en todo momento de realizar las acciones de conducción necesarias y deberá tener suvehículo bajo control»; vid. BARRIO ANDRÉS, M., «El vehículo autónomo y el Derecho», Diario La Ley, Sección Ciberderecho, Nº 22, 10 de octubre de 2018. 229   MAKARY, M.A., DANIEL, M., «Medical error-the third leading cause of death in the US», British Medical Journal, 353, 2016, i2139. 228

133

Roger Campione

tanto, a la luz de lo expuesto, he aquí una invitación a mantener los ojos abiertos sin dejarse llevar por tecnofilias irreflexivas ni prejuicios naturalistas. Adelante, presto, con juicio, decía el astuto Antonio Ferrer en I promessi sposi de Alessandro Manzoni 230. En términos actuales, que la robótica, la nanotecnología y la inteligencia artificial vayan a convertir las máquinas en las dominadoras del mundo y los humanos en una especie de segunda clase, sería como decir que un asteroide puede estrellarse contra el planeta Tierra y destruirlo. Puede ser, no es realista creerlo ni es probable pero la NASA vigila y está bien que alguien lo haga. Del mismo modo, pensar y reflexionar con seriedad sobre el transhumanismo no es descabellado, por mucho que haya asuntos más apremiantes con los que lidiar 231. Lo que sí parece repetirse en este caso, como con innovaciones anteriores, es que la difusión de las tecnologías convergentes conduce a una concentración del poder en manos de quienes detentan el control de su dimensión técnica 232. Y, aplicada a la tecnociencia, una lógica incontroladamente mercantilista produciría una desigualdad social, incluso con tintes meta-evolutivos que, en lugar de una inocente condición transhumana o posthumana, daría lugar a la definitiva deshumanización de la especie. II.8. EPÍLOGO Al final de esta reflexión, me vienen a la memoria unas palabras de Nietzsche: «por falta de sosiego, nuestra civilización desemboca en una nueva barbarie». En efecto, la reflexión

230   MANZONI, A., I promessi sposi, Fratelli Melita Editori, La Spezia, 1994, p. 191. 231   BERGSTEIN, B., «The Great AI Paradox», MIT Technology Review, 15 de diciembre de 2017, disponible en , cit. en DIÉGUEZ, A., «Los profetas ambiguos», cit., p. 25. 232   RODOTÀ, S., Vivere la democrazia, cit., p. 142.

134

Filosofía humaquinista del derecho

sosegada sobre el transhumanismo podría ser un buen antídoto contra la barbarie tanto de una sociedad entregada al futuro sin conciencia crítica como de un mundo anclado en un pasado reacio a todo cambio. En realidad, si de verdad quisiéramos seguir la lección del humanismo clásico no deberíamos olvidar, como escribía en las primeras líneas, su legado principal: la dimensión histórica de los acontecimientos. Los esencialismos no suelen ser buenos consejeros en este sentido, pues lo humano y lo transhumano, me parece, solo pueden ser magnitudes recíprocamente relativas no idealizadas. Qué curioso que esas palabras de Nietzsche provengan de su obra Humano, demasiado humano… 233. Esta toma de posición antiesencialista, a mi juicio, encarna la actitud epistemológica más prudente en esta época digital y humaquinista. Sin embargo, conviene estar alerta, teniendo en cuenta que hoy en día pisamos escenarios de un mundo en el que lo real y lo virtual no son tan fáciles de distinguir, por todo lo visto hasta ahora y porque la propia distinción ontológica entre lo real y lo virtual se empaña en la era de la inteligencia artificial. ¿Un Hegel del siglo XXI llegaría tal vez a decir que todo lo que es real es virtual y todo lo que es virtual es real? Desmitificar lo visible es en todo caso un sano ejercicio intelectual, pero asumir que detrás de lo aparente siempre hay una realidad última inmutable no favorece el esclarecimiento cabal de los problemas. Más aún en un contexto donde la hibridación entre lo físico y lo abstracto, entre lo biológico y lo tecnológico y, en definitiva, entre lo carbónico y lo silícico, se ha vuelto tan omnipresente que nos hace dudar constantemente de si existe una realidad unívocamente verdadera.

233   NIETZSCHE, F., Humano, demasiado humano, Akal, Madrid, 1996, p. 180. La explicación del título, y la razón por la que lo he traído a colación, la encontramos en Ecce homo: «el título [Humano, demasiado humano] dice “donde vosotros veis cosas ideales, veo yo — ¡cosas humanas, ay solo demasiado humanas!”» (NIETZSCHE, F., Ecce homo, Alianza, Madrid, 2013, p. 100).

135

Roger Campione

Justo en los días en que estaba redactando estas líneas he leído dos noticias, sin dudas menores y que, sin embargo, me han parecido simbolizar una actualísima paradoja acerca de esta realidad. Uno es un episodio de deepfake que demuestra cómo volver invisible la manipulación de documentos audiovisuales: gracias a un software gratuito, un youtuber canadiense (EZRyderX47) ha transformado a dos actores (Robert Downey Jr. y Tom Holland) en los protagonistas de Regreso al futuro. En el deepfake, a través de una serie de algoritmos, se elaboran las imágenes hasta conseguir que a los personajes de una escena se le apliquen los rostros de otras personas. La técnica no es nueva; sin embargo, lo que en este caso llama la atención es su calidad. Y así, mientras asistimos visualmente al diálogo entre Marty McFly (Michael J. Fox) y Doc (Christopher Lloyd) en Regreso al futuro, escuchamos las voces de Robert Downey Jr. (Ironman) y Tom Holland (Spiderman), siendo prácticamente imposible detectar que se trata de una falsificación. Considerando que el manipulador ha utilizado un software gratuito y a disposición de todo el mundo, a nadie se le escapan las potencialidades de instrumentos parecidos en contextos más delicados, como la información, la política o el ámbito probatorio 234. Volviendo al código neuronal del ratón mencionado antes, por ejemplo, cuando este ve a un gato, la posibilidad existente de averiguar qué neuronas se activan en ese momento, implica «poder activar con electrodos esas neuronas e implantar imágenes concretas en el cerebro de ese ratón». ¿No se trata acaso de una suerte de deepfake ontológico que, a través de la implantación de imágenes concretas en el cerebro desde fuera, anularía toda posible distinción entre esencia y percepción o, lo que es lo mismo a los efectos planteados, entre realidad física y realidad virtual? Y resulta que a pequeña escala esto ya se ha conseguido también en seres humanos: en el Instituto Tecnoló-

234  https://www.repubblica.it/tecnologia/2020/02/15/news/deepfake_uno_ youtuber_canadese_alle_prime_armi_cambia_ritorno_al_futuro-248683997/ [fecha de consulta: 15 de febrero de 2020].

136

Filosofía humaquinista del derecho

gico de Laussane (Suiza), utilizando cascos con electrodos extracraneales capaces de leer la actividad eléctrica generada por el cerebro de personas con discapacidad cuando piensan en mover una pierna. Una vez detectado el patrón de actividad, un ordenador puede procesar ese código enviando a un exoesqueleto mecánico la orden de mover la pierna 235. El segundo caso, ocurrido en las mismas semanas, muestra de una forma aún más plástica el impacto de lo que llamamos virtual sobre lo que llamamos real. Un artista, Simon Weckert, ha realizado una instalación en Berlín paseando, por algunas calles, un carrito con noventa y nueve smartphones para generar un atasco en Google Maps. A través de esta jocosa performance, ha sido posible transformar en la pantalla una calle verde en roja, provocando que la aplicación sugiriera rutas alternativas a los conductores que estuvieran usando Google Maps en ese momento para que no se quedaran bloqueados 236. ¿Un atasco solo ‘virtual’, por tanto, que nada tiene que ver con la verdadera esencia de la realidad, o una virtualidad que se hace real a medida que la técnica se convierte en longa manus consustancial del ser humano? 237 O dicho de otro modo:

235   YUSTE, R., ESTUPINYÀ, P., «Cerebros sin límites. Los retos de la neurotecnología», cit. 236  https://video.repubblica.it/motori/googlemapshacks-cosi-l-artista-mette-ko-google/353341/353908 [fecha de consulta: 4 de febrero de 2020]. 237   Solo por un prurito filológico-conceptual, me permito remitir a CAMPIONE, R., La teoría social de A. Giddens, cit., p. 151, para recordar que, a propósito de la pareja real/virtual, constituye una falacia limitarse a otorgar «al adjetivo ‘virtual’ el significado de ‘irreal’, aparente (…) la relación entre ambos adjetivos no es unívocamente de este tipo, porque a ser precisos lo opuesto a lo virtual no es lo real, sino lo actual. Si se observa la definición que el diccionario da del término virtual, se observa que, pese a la mención de su uso frecuente en el sentido de “oposición a efectivo o real”, sus posibles significados son: “que tiene virtud para producir un efecto, aunque no lo produce de presente”, e “implícito, tácito”. Así pues, si se entiende de esta manera el concepto, puede afirmarse que la noción de virtualidad se desplaza del ámbito de la irrealidad para inclinarse hacia la idea de “potencia”, como correlativa a la de actualidad o acto».

137

Roger Campione

¿quiénes somos realmente en el mundo que habitamos, un yo natural cada vez más impenetrable debajo de mil superfetaciones digitales, o el producto final de nuestra base orgánica multiplicada por innumerables interconexiones ‘virtuales’? En conclusión, se trata de encarar la difícil proyección de la existencia humana en el tercer milenio fijando la mirada en nuestra esencia biológica, anclada a una base natural inmutable, o en nuestra identidad biográfica, complicada por una dimensión cada vez más marcada por los dispositivos tecnológicos que, orteguianamente, forman «la otra mitad de mi persona» 238. Caben ambas opciones, es cuestión de decidir cuál nos puede orientar mejor en la ‘actualidad real y virtual’.

238   ORTEGA Y GASSET, J., Meditaciones del Quijote, Madrid, Publicaciones de la Residencia de estudiantes, 1914, p. 43.

138

BIBLIOGRAFÍA

ABBAGNANO, N., Storia della filosofía 2. La filosofia moderna: dal Rinascimento all’Illuminismo, UTET, Turín, 1993. ACKERMAN, S., SHACHTMAN, N., «Almost 1 In 3 U.S. Warplanes Is a Robot», en Wired Danger Room, 9 de enero de 2012. AGAMBEN, G., Stasis. La guerra civile come paradigma politico. ‘Homo sacer, II, 2’, Bollati, Turín, 2015. AGOTE EGUIZÁBAL, R., «Inteligencia artificial, ser humano y derecho», Claves de Razón Práctica, n. 257, marzo/abril 2018, pp. 40-45. ALDAVE ORZAIZ, A., La guerra global contra el terrorismo. Un análisis de la crisis del Derecho Internacional antes y después del 11-S, Tirant Lo Blanch, Valencia, 2018. ALEMZADEH, H. et al., «Adverse Events in Robotic Surgery: A Retrospective Study of 14 Years of FDA Data», PLOS ONE, 11(4), 2016, ALSBERG, P., Das Menschheitsrätsel, Sybillen-Verlag, Dresden, 1922; trad, ing. In Quest of Man. A Biological Approach to the Problem of Man’s Place in Nature, Pergamon Press, Oxford-New York-Toronto-Sidney, 1970. AMATO, S.,«Neuroscienze e utilizzazione militare delle tecniche di potenziamento umano», en Etica & Politica, XVI, 2014, 2, pp. 182198. AQUINO, T. DE, Summa Theologica, 2-2, q. 40, Biblioteca de autores cristianos, tomo VII, Madrid, 1959. 139

Bibliografía

ARENDT, H., On violence, Houghton Mifflin Harcourt, Orlando, 1970 [1969]; trad. cast. Sobre la violencia, Alianza, Madrid, 2005. ARKIN, R., Governing Lethal Behavior in Autonomous Robots, Chapman & Hall/CRC, Broken Sound Parkway NW, 2009. ARSUAGA, J.L., El umbral de la conciencia: Lección Inaugural Solemne Acto de Apertura del Curso Académico 2015-2016, Universidad de La Rioja, Oficina de Comunicaciones, Logroño, 2015. AZOULAY, W. «Des machines et des hommes. La guerre n’aura pas lieu», en Droit et Société, n. 103, 2019, pp. 595-607. BACCHI, S., «I droni: arma del futuro?», en Sistema informativo a schede, 5/2014, BALISTRERI, M., Sex robot. L’amore al tempo delle macchine, Roma, Fandango, 2018. BALISTRERI, M.,«Robot killer. La rivoluzione robotica nella guerra e le questioni morali», en Etica & Politica / Ethics & Politics, XIX, 2017, 2, pp. 405-430. BARASH, D.P., The Hare and the Tortoise, Viking Penguin Inc., Nueva York, 1986; trad. cast. La liebre y la tortuga. Cultura, biología y naturaleza humana, Salvat Editores, Barcelona, 1994. BARBERIS, M., Non c’è sicurezza senza libertà. Il fallimento delle politiche antiterrorismo, Il Mulino, Bolonia, 2017; trad., cast. No hay libertad sin seguridad. La quiebra de las políticas antiterroristas, Trotta, Madrid, 2020. BARBIERI, P., Polemos. Guerra, política, tecnica, Book Time, Milán, 2019. BARRIO ANDRÉS, M. (ed.), Derecho de los robots, Wolters Kluwer, Madrid, 2018. BARRIO ANDRÉS, M., «El vehículo autónomo y el Derecho», Diario La Ley, Sección Ciberderecho, Nº 22, 10 de octubre de 2018. BATESON, G., Pasos hacia una ecología de la mente. Una aproximación revolucionaria a la autocomprensión del hombre, Ediciones Carlos Lohlé, Buenos Aires, 1985. BAYERN, S., «The Implications of Modern Business-entity Law for the Regulation of Autonomous Systems», Stanford Technology Law Review, Vol. 19: 93, 2015, pp. 93-112. BECK, U., Risikogesellschaft. Auf dem Weg in eine andere Moderne. Suhrkamp, Frankfurt a. M. 1986; trad. cast. La sociedad del riesgo. Hacia una nueva modernidad, Paidós, Barcelona, 1998. 140

Bibliografía

BERGSON, H., L’évolution créatrice, Le Presses universitaires de France, París, 1959; trad. cast. La evolución creadora, Espasa-Calpe, Madrid, 1985. BERGSTEIN, B., «The Great AI Paradox», MIT Technology Review, 15 de diciembre de 2017, BERMÚDEZ DE CASTRO, J.M., «Los humanos», en BRIONES, C., FERNÁNDEZ SOTO, A., BERMÚDEZ DE CASTRO, J.M., Orígenes, 2ª ed., Crítica, Barcelona, 2015, pp. 343-471. BIANCHI, A., NAQVI, Y., International Humanitarian Law and Terrorism, Hart Publishing, Oxford and Portland, Oregon, 2011. BLACKSTONE, W., Commentaries on the Laws of England, 3ª ed. rev. de Th. M. Cooley, Vol. 1 including books I & II, Clark, The Lawbook Exchange, New Jersey, 2003 [Chicago, Callaghan and Co., 1884]. BOBBIO, N., Il problema della guerra e le vie della pace, Il Mulino, Bolonia, 1979; trad. cast. El problema de la guerra y las vías de la paz, Gedisa, Barcelona, 1992. BOND, P. et.al., «Theme. A Summary», en ROCO, M., BAINBRIDGE, W. (eds.), Converging Technologies for Improving Human Performance: Nanotechnology, Biotechnology, Information, Technology and Cognitive Science, NSF/DOC-sponsored report, Springer Science, Dordrecht, 2003 (https://www.wtec.org/ConvergingTechnologies/Report/NBIC_report.pdf). BORGES, J.L., Ficciones, Emecé Editores, Buenos Aires, 1944. BOSTROM, N., «A History of Transhumanist Thought», Journal of Evolution and Technology, Vol. 14, 2005, pp. 1-25 (Argumentos de razón técnica, n. 14, 2011, pp. 157-191). BOUTHOUL, G., Traité de Sociologie: Les Guerres, Eléments de Poémologie, Payot, París, 1951. BRECHT, B., Hundert Gedichte. Ausgewählt von Siegfried Unseld, Suhrkamp, Frankfurt Am Main, 1998; trad, cast. Poesías, trad. y selección de J.M. Valverde, Ediciones de la Banda Oriental, Montevideo, 2017. BUCHANAN, A., BROCK, D. W., DANIELS, N., WIKLER, D., From chance to choice: genetics and justice, Cambridge University Press, 2002. BUENO, G., El sentido de la vida. Seis lecturas de filosofía moral, Pentalfa, Oviedo, 1996. 141

Bibliografía

BUGNION, F., «Just Wars, Wars of Agression and International Humanitarian Law», en International Studies Journal, No. 5, 2005, pp. 39-69. BULL, H., The Anarchical Society. A Study of Order in World Politics, 2ª ed. con Intr. de S. Hoffmann, Macmillan, Londres, 1995; trad. cast. La sociedad anárquica. Un estudio sobre el orden en la política mundial, Catarata, Madrid, 2005. BUMILLER, E.,«A Day Job Waiting for a Kill Shot a World Away», en New York Times, 29 de julio de 2012. BUSCH, A., «The Changing Architecture of the National Security State», en HUBER, E., LANGE, M., LEIBFRIED, S., LEVY, J.D., NULLMEIER, F., STEPHENS J.D. (eds.), The Oxford Handbook of Transformations of the State, Oxford University Press, 2015; trad. cast. «La arquitectura cambiante del estado de la seguridad nacional», en Transformaciones del Estado contemporáneo, Tirant lo Blanch, Valencia, 2017. BUSTO, N., «Autonomia e responsabilità nell’epoca delle self-driving car. Teorie etiche a confronto», en Ciberspazio e diritto, vol 19, n. 61 (3-2018), pp. 265-277. CACCIARI, M., «Il tramonto di Padre Polemos», en CACCIARI, M., CARACCIOLO, L., GALLI DELLA LOGGIA, E. RASY, E., Senza la guerra, Il Mulino, Bolonia, 2016, pp. 87-125. CAMPIONE, R. «El trilema de Polemos: guerra, derecho y seguridad en las relaciones internacionales», en CAMPIONE, R., RUSCHI, F. (eds.), Guerra, derecho y seguridad en las relaciones internacionales, Tirant Lo Blanch, Valencia, 2017, pp. 187-209. CAMPIONE, R., «A vueltas con el Transhumanismo: cuestiones de futuro hipotético», en Cuadernos Electrónicos de Filosofía del derecho, núm. 40, 2109, pp. 45-67. CAMPIONE, R., ALDAVE ORZAIZ, A., «Normas y discursos: los conflictos armados y el derecho penal antes y después del 11-S», en Jura Gentium. Rivista di filosofia del diritto internazionale e della politica globale, vol XIII, 1, 2016, pp. 65-91. CAMPIONE, R., El nomos de la guerra. Genealogía de la ‘guerra justa’, Prólogo de D. ZOLO, Tirant Lo Blanch, Valencia, 2009. CAMPIONE, R., La teoría social de Anthony Giddens. Una lectura crítica desde la teoría jurídica, Madrid, Dykinson, 2005. CEOLA, P., «La guerra robotica e post-umana mette in crisi il modello clausewitziano della guerra?», en CEOLA, P., GAZA,  C. R., Non-human Warfare. Robot e Cyborg tra Postmoderno e Postumano, colección SISM, n. 4 – 2103. 142

Bibliografía

CHABOD, F., Scritti sul Rinascimento, Einaudi, Turín, 1967. CHAFEE, Z. JR., «Freedom of Speech in War Time», en Harvard Law Review, Vol. 32, n. 8, 1919, pp. 932-973. CHAMAYOU, G., Théorie du Drone, La Fabrique, París, 2013, trad. cast. Teoría del dron. Nuevos paradigmas de los conflictos del siglo XXI, Futuro Anterior, Barcelona, 2016. CHIKHALE S. N., VIJAYRAO GOHAD, D., «Multidimensional Construct about the Robot Citizenship Law’s in Saudi Arabia», International Journal of Innovative Research and Advanced Studies (IJIRAS), Vol. 5, N. 1, 2018, pp. 106-108. CICERÓN, M.T., De re publica, ed. de J. Guillén, Tecnos, Madrid, 1986. CINGOLANI R., METTA, G., Umani e umanoidi. Vivere con i robot, Il Mulino, Bolonia, 2015. CLARK, I., Waging War. A New Philosophical Introduction, 2ª ed. [1988], Oxford University Press, 2015. CLARKE, A.C., 2010: Odissey Two, New York, Ballantine Books, 1982; trad. cast. 2010: Odisea dos, EMECE Editores, Buenos Aires, 1983. CLARKE, M., «Does War Have a Future?», en LINDLEY-FRENCH, J., BOYER, Y.(eds.), The Oxford Handbook of War, Oxford University Press, 2nd ed., 2014 [2012], pp. 647-668. COLOMBO, A., «El terrorismo entre legalidad y legitimidad. El insostenible monopolio de los Estados sobre la noción de violencia ilegítima», en CAMPIONE, R., RUSCHI, F.(eds.), Guerra, derecho y seguridad en las relaciones internacionales, cit., pp. 77-110. COLOMBO, A., La guerra ineguale. Pace e violenza nel tramonto della società internazionale, Il Mulino, Bolonia, 2006. COLOMBO, A., «L’Europa e la guerra agli inizi del Ventunesimo secolo», en Teoria Politica, VI, 2016, pp. 23-47. COMITATO NAZIONALE PER LA BIOETICA Y COMITATO NAZIONALE PER LA BIOSICUREZZA, LE BIOTECNOLOGIE E LE SCIENZE DELLA VITA, Sviluppi della robotica e della roboetica, Presidenza del Consiglio dei Ministri, 17 de julio de 2017, p. 7, http://bioetica.governo.it/media/3463/robotica-misto-cnb-cnbbsv17lug17-it.pdf D’ASPREMONT, J., «Mapping the concepts behind the contemporary liberalization of the use of force in international law», en Journal of International Law, Vol. 31, Issue 4, 2014, pp.1089-1149. DAMASIO, A., El error de Descartes: la emoción, la razón y el cerebro humano, Barcelona, Crítica, 2001. 143

Bibliografía

DE ASÍS, R., Una mirada a la robótica desde los derechos humanos, Dykinson, Madrid, 2014. DE SALAZAR, G., Guerra, paz y civilización, Ministerio de Asuntos Exteriores, Madrid, 2016. DEPARTMENT OF THE ARMY HEAD QUARTERS, United States Army Training and Doctrine Command, 2010. DIÉGUEZ, A., «Los profetas ambiguos», Claves de Razón Práctica, n. 257, marzo/abril 2018, pp. 22-31. DIÉGUEZ, A., Transhumanismo, La búsqueda tecnológica del mejoramiento humano, Herder, Barcelona, 2017. DOWD, L. W., «Drone Wars: Risks and Warnings», en Parameters 42, n. 4, Winter 2013, pp. 7-16. DRESSEL, J., FARID, H., «The accuracy, fairness, and limits of predicting recidivism», Science Advances, Vol. 4, n. 1, 2018, DOI: 10.1126/sciadv.aao5580, DUFFY, H., The war on terror and the framework of international law, Cambridge University Press, 2005. DUMOUCHEL, P., DAMIANO, L., Vivere con i robot. Saggio sull’empatia artificiale, Raffaello Cortina, Milán, 2019. ELIOT, T.S., La aventura sin fin. Ensayos, ed. de A. Jaume, Lumen, Madrid, 2011. ELMER-DEWITT, PH., «The Battle for the Soul of the Internet», Time, 25 de julio de 1994. ERCILLA GARCÍA, J., Normas de derecho civil y robótica: robots inteligentes, personalidad jurídica, responsabilidad civil y regulación, Thomson Aranzadi, Cizur Menor, 2018. EUROPEAN GROUP ON ETHICS IN SCIENCE AND NEW TECHNOLOGIES, Artificial Intelligence, Robotics and ‘Autonomous’ Systems, Publications Office of the European Union, Luxemburg, 2018. FERRAJOLI, L., Principia iuris. Teoria del diritto e della democrazia. 2. Teoria della democrazia, Laterza, Roma-Bari, 2007. FERRY, L., La revolución transhumanista, Alianza Editorial, Madrid, 2017. FISS, O., A War like no other: The Constitution in a Time of Terror, ed. a cargo de T. Sutton, The New York Press, New York, 2015; trad. cast. Una guerra sin igual. La Constitución en los tiempos del terrorismo, Marcial Pons, Madrid, 2017. 144

Bibliografía

FLORIDI, L., La quarta rivoluzione, Raffaello Cortina Editore, Milán, 2017. FLORIDI, L., La rivoluzione dell’informazione, Codice edizioni, Turín, 2012. FOUCAULT, M., Naissance de la bipolitique. Cours au Collège de France (1978-1979), Seuil/Gallimard, París, 2004; trad. cast. El nacimiento de la biopolítica. Curso en el Collège de France (1978-1979), Fondo de Cultura Económica, Buenos Aires, 2007. FROSINI, V., Cibernetica, diritto e società, Edizioni di Comunità, Milán, 1978; trad. cast. Cibernética, derecho y sociedad, Tecnos, Madrid, 1982. FUKUYAMA, F., Our posthuman future: consequences of the biotechnology revolution, Farrar, Straus and Giroux, Nueva York, 2002; trad. cast. El fin del hombre. Consecuencias de la revolución biotecnológica, Ediciones B, Barcelona, 2002. GENTILI, A., Il diritto di guerra (De iure belli libri III, 1598), Introd. de D. QUAGLIONI, ed. a cargo de G. Marchetto y Ch. Zendri, Giuffrè, Milán, 2008. GIUFFRÈ, V.,«Ius e bellum come manifestazioni correlate della política», en CALORE, A. (ed.), «Guerra giusta?» Le metamorfosi di un concetto antico, Giuffrè, Milán, pp. 21-30. GLENNON, M.J., «Idealism at the UN: The High-Levels Panel’s High-Minded Errors», en Policy Review, nº 129, 2005, pp. 3-13. GONZÁLEZ VICÉN, F., «La filosofía del derecho como concepto histórico», en Anuario de Filosofía del Derecho, IV (1969), pp. 15-65. GRAYLING, A.C., War: An Enquiry, Yale University Press, 2017. GRUPO DE EXPERTOS DE ALTO NIVEL SOBRE INTELIGENCIA ARTIFICIAL, Directrices éticas para una IA fiable, Bruselas, Comisión Europea, 2019. HABERMAS, J., Die Zukunft der menschlichen Natur. Auf dem Weg zu einer liberalen Eugenik?, Suhrkamp, Frankfurt am Main, 2001; trad. cast. El futuro de la naturaleza humana. ¿Hacia una eugenesia liberal?, Paidós, Barcelona, 2009. HAMPSHIRE, S., Justice is Conflict, Princeton University Press, 2000; trad. cast. La justicia es conflicto, Siglo XXI, Madrid, 2002. HARARI, Y.N., «Homo Selfie», entrevista de Roberto Saviano en Robinson, 27 de julio de 2019. HARARI, Y.N., «The World after Coronavirus», en Financial Times, 20 de marzo de 2020. 145

Bibliografía

HARARI, Y.N., From animals into Gods: A Brief History of Humankind, Vintage Books, Londres, 2015; trad. cast. Sapiens. De animales a dioses. Breve historia de la humanidad, 8ª ed., Debate, Barcelona, 2016. HARRÉ, R., One Thousand Years of Philosophy, Blackwell, Oxford, 2000; trad. cast. 1000 años de filosofía, Taurus, Madrid, 2002. HART, H.L.A., The Concept of Law. With a Poscript edited by P.A. Bulloch and J. Raz. And with an Introduction and Notes by L. Green, 3ª ed., Oxford University Press, 2012. HASIAN, M. JR., Drone Warfare and Lawfare in a Post-Heroic Age, The University of Alabama Press, 2016. HATMAKER, T., «Saudi Arabia bestows citizenship on a robot named Sophia», Techcrunch, 26 de octubre de 2017, HEGEL, G.W.F., Fundamentos de la filosofía del derecho, ed. de K.H. Ilting, Libertarias/Prodhufi, Madrid,1993. HENNIGAN, W.J., «Rising a New Threat», en Time. The Drone Age. A Special Report, 11 de junio de 2018. HOTTOIS, G., «Humanismo, Transhumanismo, Posthumanismo», en Revista Colombiana de Bioética, Vol. 8, Nº 2, 2013, pp. 167-192. HUMAN RIGHTS WATCH, Losing Humanity. The Case against Killer Robots, International Human Rights Clinic, 2012, en IGLESIAS CABERO, M., Robótica y responsabilidad: aspectos legales en las diferentes áreas del Derecho, Colex, A Coruña, 2017. JASTROW, R., The Enchanted Loom: Mind in the Universe, Simon & Schuster, Nueva York, 1981; trad. cast. El telar mágico, Salvat, Barcelona, 1985. JUNG, C.G., JAFFÉ, A., Memories, Dreams, Reflections, Random House, Nueva York, 1989. KALDOR, M., New and old wars: organized violence in a global era, Cambridge Polity Press, 1999; trad. cast. Las nuevas guerras. Violencia organizada en la era global, Tusquets, Barcelona, 2001. KASPAROV, G., Deep Thinking: Where Machine Intelligence Ends and Human Creativity Begins, Public Affairs, Nueva York, 2017. KELSEN, H., Principles of International Law, Rinehart & Co., Nueva York, 1952. KELSEN, H., Teoría pura del derecho, 7ª ed., Porrúa, Buenos Aires, 1993. 146

Bibliografía

KENNEDY, D., Izquierda y derecho. Ensayos de teoría jurídica crítica, Siglo XXI Editores, Buenos Aires, 2010. KRISHNAN, A., Killer Robots. Legality and Ethicality of Autonomous Weapons, Ashgate, Farnham, 2009. KURZWEIL, K., The Singularity is Near: When Humans Transcend Biology, Penguin, New York, 2005; trad. cast. La Singularidad está cerca. Cuando los humanos transcendamos la biología, Lola Books, Berlín, 2012. LARSSON, S., «The Socio-Legal Relevance of Artificial Intelligence», en Droit et société, n. 103, 2019, pp. 573-593. LATORRE, J.I., Ética para máquinas, Ariel, Barcelona, 2019. LAURENT, F., Histoire du droit des gens et des relations internationales, tomo X, Les Nationalités, Librairie internationales, París, 1870. LEOPARDI, G., Pensieri di varia filosofia e di bella letteratura, 978, vol. II, Le Monnier, Florencia, 1898. LLANO ALONSO, F.H., Homo Excelsior. Los límites ético-jurídicos del Transhumanismo, Tirant lo Blanch, Valencia, 2018. LOKHORST, G., VAN DEN HOVENJ., «Responsibility for military robots», en LIN, P., ABREY, K., BEKEY, G. A. (eds.), Robot ethics. The Ethical and Social Implications of Robotics, MIT Press, Massachusetts, 2014, pp. 145-155. LORD, C., «Objections to Simpson’s argument in ‘Robots, Trust and War’», en Ethics and Information Technology, 9 de mayo de 2019, https://doi.org/10.1007/s10676-019-09505-2 LUNA, R., «Ma che fine hanno fatto i robot?», en la Repubblica, 9 de abril de 2020. MAKARY, M.A., DANIEL, M., «Medical error-the third leading cause of death in the US», British Medical Journal, 353, 2016, i2139. MANZONI, A., I promessi sposi, Fratelli Melita Editori, La Spezia, 1994. MAOGOTO, J., Battling terrorism: legal perspective on the use of force and the war on terror, Ashgate, Aldershot, 2005. MARRONE, P., «Lovotics: técnica, natura, sex robot», en Diritto & Questioni Pubbliche, XVIII/2, 2018, pp. 239-250. MARTÍNEZ DE PISÓN, J., «Yo, Robot: de la biología a la singularidad. ¿Nuevas preguntas para la Filosofía del Derecho?», en REDUR, n. 15, 2017, pp. 57-73. MARTÍNEZ GARCÍA, J.I., «Inteligencia y Derecho», en Cuadernos Electrónicos de Filosofía del Derecho, n. 37, 2018, pp. 95-114. 147

Bibliografía

MARTINO, L., «La quinta dimensione della conflittualità. L’ascesa del cyberspazio e I suoi effetti sulla politica internazionale», en Politica & Società, 1, 2018, pp. 61-76. MAZA, C., «Saudi Arabia Gives Citizenship to a Non-Muslim, English-Speaking Robot», en Newsweek, 26 de octubre de 2017, http:// www.newsweek.com/saudi-arabia-robot-sophia-muslim-694152 MENDUS, S., «Professor Waldron Goes to Washington», en Criminal Law and Philosophy, núm. 8, 2014, pp. 123-134. MIJATOVIĆ, D., «Ethnic profiling: a persisting practice in Europe», en MONASTERIO ASTOBIZA, A., AUSÍN, T., TOBOSO, M., MORTE FERRER, R., APARICIO PAYÁ, M., LÓPEZ, D., «Traducir el pensamiento en acción: Interfaces cerebro-máquina y el problema ético de la agencia», en Revista de Bioética y Derecho, 46, 2019, pp. 29-46. MORRIS, I., War! What is good for?, Farrar, Straus and Giroux, Nueva York, 2014; trad. cast. Guerra ¿Para qué sirve?, Ático de los libros, Barcelona – Madrid – México D.F., 2017. NAVAS NAVARRO, S. (ed.), Nuevos desafíos para el derecho de autor. Robótica. Inteligencia artificial. Tecnología, Reus, Madrid, 2019. NICOLEIS, M., Beyond Boundaries: The New Neuroscience of Connecting Brains and Machines – and How It Will Change Our Lives, Times Books, Nueva York, 2011. NIETZSCHE, F., Ecce homo, Alianza, Madrid, 2013. NIETZSCHE, F., Humano, demasiado humano, Akal, Madrid, 1996. NIEVA FENOLL, J., Inteligencia artificial y proceso judicial, Marcial Pons, Madrid, 2018. NORDMANN, A., (ed.), Converging technologies. Shaping the future of European Societies, Conference Report, Unión Europea, 2004. O’NEIL, C., Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, Crown, New York, 2016; trad. cast. Armas de destrucción matemática. Cómo el Big Data aumenta la desigualdad y amenaza la democracia, Capitán Swing, Madrid, 2018. ORTEGA Y GASSET, J., Meditaciones del Quijote, Madrid, Publicaciones de la Residencia de estudiantes, 1914. PARLAMENTO EUROPEO, Normas de Derecho civil sobre robótica, Resolución del Parlamento Europeo (P8_TA(2017)0051), de 16 de 148

Bibliografía

febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103(INL)). PASCAL, B., Pensées, Livre de Poche, París, 1962. PASSERIN D’ENTRÈVES, A. La noción de Estado, trad. y Prólogo de R. PUNSET, Ariel, Barcelona, 2001. PASSERIN D’ENTRÈVES, A., «Obeying Whom», en Political Studies, vol. XIII n. 1, 1965, pp. 1-14. PIETROPAOLI, S., Abolire o limitare la guerra? Una ricerca di filosofia del diritto internazionale, Polistampa, Florencia, 2008. PLATÓN, Protágoras, ed. bilingüe de G. Bueno, Pentalfa, Oviedo, 1980. PLUTARCO, Las vidas paralelas, trad. del original griego por A. Ranz Romanillos, Tomo I, Librería de A. Mézin, París, 1847. PRESNO LINERA, M. A., «La expansión del derecho administrativo sancionador securitario: análisis constitucional de la Ley Orgánica para la Protección de la Seguridad Ciudadana», en CUERDA ARNAU, M.L., GARCÍA AMADO, J.A. (coords.), Protección jurídica del orden público, la paz pública y la seguridad ciudadana, Tirant lo Blanch, Valencia, 2016, pp. 37-61. RATNER, S.R., «Jus ad bellum and jus in bello after september 11», en American Journal of International Law, Vol. 96, No. 4, 2002, pp. 905-921. RAZ, J., The Authority of Law. Essays on Law and Morality, Clarendon Press, Oxford, 1979. RICHARDSON, K., «Sex Robot Matters», en IEEE Technology and Society Magazine, 35, 2, 2016, pp. 46-53. RICHARDSON, K., «The “Asymmetrical” Relationship: Parallels between Prostitution and the Development of Sex Robots», en SIGCAS Computer &Society, 45, 3, 2015, pp. 290-293. RODOTÀ, S., Vivere la democrazia, Laterza, Bari-Roma, 2018. RONA, G., «Interesting Times for International Humanitarian Law: Challenges from the ‘War on Terror’», en The Fietcher of World Affaires, Vol. 27:2, Summer/Fall 2003, pp. 55-74. ROSS, A., A Textbook of International Law: general part, Longmans, Green & Co., Londres, 1947. RUS, D., (entrevista a), «Con l’intelligenza artificiale potremo anche eliminare gli incidenti stradali, ma non deve farci paura», en la Repubblica, 2 de octubre de 2019, https://www.repubblica.it/dossier/tecnologia/onlife/2019/10/02/news/daniela_rus_mit_con_l_ 149

Bibliografía

intelligenza_artificiale_potremo_anche_eliminare_gli_incidenti_ stradali_ma_non_deve_farci_paura_-237472937/ RUSCHI, F., «El derecho, la guerra y la «técnica desatada». Consideraciones acerca del Drone Warfare», en CAMPIONE, R., RUSCHI, F.(eds.), Guerra, derecho y seguridad en las relaciones internacionales, cit., pp. 45-76; trad. it. «Il diritto, la guerra e la “tecnica scatenata”. Considerazioni sul drone warfare», en CAMPIONE, R., RUSCHI, F., Guerra, diritto e sicurezza nelle relazioni internazionali, Giappichelli, Turín, 2019, pp. 27-67. Sagrada Biblia, ed. de E. Nácar Fuster y A. Colunga, 17ª ed., Biblioteca de autores cristianos, Madrid, 1965. SALARDI, S., «Robótica e inteligencia artificial. Retos para el derecho», en Derechos y Libertades, n. 42, 2020, pp. 203-232. SÁNCHEZ DE LA YNCERA, I., RODRÍGUEZ FOUZ, M., «El [in]justificable recurso a la tortura. Seguridad y adiaforización en sus ominosas institucionalizaciones», en CAMPIONE, R. RUSCHI, F., Guerra, derecho y seguridad en las relaciones internacionales, cit., pp. 251-293. SÁNCHEZ DEL CAMPO REDONET, A., Reflexiones de un replicante legal. Los retos jurídicos de la robótica y las tecnologías disruptivas, Cizur Menor, Aranzadi, 2016. SÁNCHEZ FERLOSIO, R., Ensayos 3. Babel contra Babel. Asuntos internacionales. Sobre la guerra. Apuntes de polemología, Debate, Madrid, 2016. SÁNCHEZ-URÁN AZAÑA, Y., GRAU RUIZ, M.A. (dir.), Nuevas tecnologías y derecho. Retos y oportunidades planteadas por la inteligencia artificial y la robótica, Jurúa, Oporto, 2019. SANDEL, M., The Case Against Perfection: Ethics in the Age of Genetic Engineering, Cambridge University Press, 2007; trad. cast. Contra la perfección. La ética en la era de la ingeniería genética, Marbot, Barcelona, 2007. SCHAUER, F., The Force of Law, Harvard University Press, 2015. SCHMITT, C., Der Begriff des Politischen.Text von 1932 mit einem Vorwort und drei Corollarien, Duncker & Humblot, Berlín, 1963; trad. cast. El concepto de lo político. Texto de 1932 con un prólogo y tres comentarios, versión de R. Agapito, Alianza, Madrid,1991. SCHMITT, C., Die Wendung zum diskriminierenden Kriegsbefriff, Berlín, Duncker & Humblot, 1938; trad. it. Il concetto discriminatorio di guerra, ed. a cargo de S. Pietropaoli, Prefacio de D. Zolo, Laterza, Roma-Bari, 2008. 150

Bibliografía

SCHMITT, C., Der nomos der erde im Volkerrecht des jus publicum europaeum, Duncker & Humblot, Berlín, 1974; trad. cast. El nomos de la tierra en el Derecho de Gentes del «Jus Publicum Europaeum», Centro de Estudios Constitucionales, Madrid, 1979. SCHRIJVER, N.J., «Responding to International Terrorism: moving the frontiers of international law for enduring freedom», en Netherlands International Law Review, Vol. 48, No.3, 2001, pp. 271-291. SCOVAZZI, T., «Diritto internazionale e bombardamenti aerei: chi bombarda meglio degli altri ha più ragione degli altri?», en ANNATI, M., SCOVAZZI, T.(eds.), Diritto internazionale e bombardamenti aerei, Giuffrè, Milán, 2012, pp. 83-261. SCURATI, A., M. Il figlio del secolo, Bompiani, Milán, 2018; trad. cast. El hijo del siglo, Penguin Random House, Madrid, 2020. SLOANE, R.D., «The Cost of Conflation: preserving the dualism of Jus ad Bellum and Jus in bello in the Contemporary Law of War», en Yale Journal of International Law, Vol. 34, 2009, pp.47-112. SLOTERDIJK,P., Nicht gerettet. Versuche nach Heidegger, Surkhamp Verlag, Frankfurt am Main, 2001; trad. cast. Sin salvación. Tras las huellas de Heidegger, Akal, Madrid, 2011. SOLAR CAYÓN, I., «La codificación predictiva: inteligencia artificial en la averiguación procesal de los hechos relevantes», en Anuario de la Facultad de Derecho de la Universidad de Alcalá, 2019 n. 11, pp. 75-105. STOA - Science and Technology Options Assessment, Human Enhancement.Study, IP/A/STOA/FWC/2005-28/SC35, 41 & 45, European Parliament, May 2009. STOLL, C., «The Internet? Bah!», Newsweek, 27 de julio de 1995. TANDY, CH. (ed.), Death and anti-death, Ria University Press, 2005. TEGMARK, M., Life 3.0: being human in the age of artificial intelligence, Knopf, Nueva York, 2017; trad. cast. Vida 3.0. Qué significa ser humano en la era de la inteligencia artificial, Taurus, Madrid,2018. THE PRESIDENT’S COUNCIL OF BIOETHICS, Beyond Therapy. Biotechnology and the Pursuit of Happiness, Washington D.C., 2003, disponible en https://biotech.law.lsu.edu/research/pbc/reports/ beyondtherapy/beyond_therapy_final_report_pcbe.pdf THRING, M.W., «Robots on the March», en CALDER, N. (ed.), Unless Peace Comes: A Scientific Forecas of New Weapons, Allen, Londres, 1968; trad. cast. «Robots en marcha», en CALDER, N. (ed.), Si 151

Bibliografía

mañana estallase la guerra, Editorial Noguer, Barcelona, 1970 [1968], pp. 173-187. TILLY, CH., (ed.), The Formation of National-State in Western Europe, Princeton University Press, 1975. TODOROV, T., La peur des barbares, Editions Robert Laffont, París, 2008; trad. cast. El miedo a los bárbaros, Galaxia Gutenberg, Madrid, 2008. TUNIZ, C., TIBERI VIPRAIO, P., La scimmia vestita. Dalle tribú di primati all’intelligenza artificiale, Carocci, Roma, 2018. UNITED NATIONS SPECIAL RAPPORTEUR on extreme poverty and human rights as Amicus Curiae in the case of NJCM c.s./De Staat der Nederlanden (SyRI) before the District Court of The Hague (case number: C/09/550982/ HA ZA 18/388). UNITED NATIONS, «UN Launches Unmanned Surveillance Aircraft to Better Protect Civilians in Vast D.R. Congo», http://www.un.org/ apps/news/story.asp?NewsID=46650&Cr=democratic&Cr1=congo#.UxHwFoW3vs4, 3 December 2013. UNITED NATIONS, GENERAL ASSEMBLY, A/65/321, Report of the Special Rapporteur of the Human Rights Council on extrajudicial, summary or arbitrary executions, Philip Alston, 23rd august 2010,

VAIHINGER, H., Die Philosophie des Als Ob (System der theoretischen, praktischen und religiösen Fiktionen der Menscheit auf Grund eines idealistischen Positivismus. Mit einem Anhang über Kant und Nietzsche), F. Meiner, Leipzig, 1920. VALERY, P., La crise de l’esprit, suivi de Note (ou l’Européen), Manucius, Le philosophe, Paris, 2016; ed. cast. Política del espíritu, Primera carta [1918], Editorial Losada, Buenos Aires, 1961. VAN WYNSBERGHE A., ROBBINS, S., «Critiquing the Reasons for Making Artificial Moral Agents», Science and Engineering Ethics, 2018, pp. 1-27. VON FOERSTER, H., «Principles of Self–Organization in a Socio– Managerial Context», en ULRICH, H., PROBST, G.J.B. (eds.), Self–Organization and the Management of Social Systems, Springer, Nueva York, 1984, pp. 2-24. VON FOERSTER, H., Sistemi che osservano, ed. a cargo de M. Ceruti y U. Telfner, Astrolabio, Roma, 1987. 152

Bibliografía

WACQUANT, L., Le prisons de la misère, Éditions Raisons d’Agir, París, 1999; trad. Cast. Las cárceles de la miseria, 2ª ed. ampliada, Ma­­ nantial, Buenos Aires, 2010. WAGNER, M. «The Dehumanization of International Humanitarian Law: Legal, Ethical, and Political Implications of Autonomous Weapon Systems», en Vanderbilt Journal of Transnational Law, vol. 47, 2014, pp. 1371-1424. WALDRON, J., «Responses to Zedner, Haque and Mendus», en Criminal Law and Philosophy, núm. 8, 2014, pp. 135-145. WALDRON, J., «Security and Liberty: The Image of Balance», en The Journal of Political Philosophy, Volume 11, Number 2, 2003, pp. 191-210. WALDRON, J., Torture, Terror and Trade-Offs: Philosophy for the White House, Oxford University Press, 2010. WRIGHT, Q., A Study of War, University Chicago Press, Chicago, 1965, 2ª ed., 1965. YUSTE, R., ESTUPINYÀ, P., «Cerebros sin límites. Los retos de la neurotecnología», en National Geographic Ciencia, edición especial, 02/2020, pp. 22-39. YUSTE, R., GOERING, S. et. al., «Four ethical priorities for neurotechnologies and AI», Nature, 9 de noviembre de 2017, pp. 159-163.

153

ÍNDICE ONOMÁSTICO

ABBAGNANO, N., 98n ABREY, K., 50n ACKERMAN, S., 41n AGAMBEN, G., 68n AGOTE EGUIZÁBAL, R., 68n ALDAVE ORZAIZ, A., 26, 30n, 49n, 70n, 85n ALEMZADEH, H., 129n ALSBERG, P., 22, 23n ALSTON, PH., 46n, 58, 126 AMATO, S., 45n, 69n, 70n, 125n ANNATI, M., 53n APARICIO PAYÁ, M., 17n AQUINO, T. DE, 78n ARENDT, H., 42, 43n ARKIN, R., 47n ARSUAGA, J.L., 11 ASÍS, R. DE, 17n, 98n, 101n, 113n AUSÍN, T., 17n AZOULAY, W., 102n BACCELLI, L., 26 BACCHI, S., 42n, 66n BAINBRIDGE, W., 107n

BALBO, I., 75 BALISTRERI, M. 41n, 56n, 58n, 105n, 106n BARASH, D. P., 92, 95n BARBERIS, M., 31, 32n BARBIERI, P., 84n BARRIO ANDRÉS, M., 17n, 133n BATESON, G., 63-64 BAYERN, S., 116n BECK, U., 93 BEKEY, G. A., 51n BERGSON, H., 15 BERGSTEIN, B., 134n BERMÚDEZ DE CASTRO, J. M., 94n BIANCHI, A., 70n BIN, S., 103n BLACKSTONE, W., 80 BOBBIO, N., 43, 49 BOLSONARO, J., 34 BOND, P., 107n BORGES, J. L., 80, 81n BOŠKO, V., 18 155

Índice onomástico

BOSTROM, N., 98n, 99-100, 103n, 119, 120n, 129n BOUTHOUL, G., 86 BOYER, Y., 39n BRAILOVSKY, M., 14 BRANDEIS, L., 37 BRECHT, B., 57, 62, 63n BRIONES, C., 94n BROCK, D., 113n BUCHANAN, A., 113n BUENO, G., 100n, 118n BUGNION, F., 71n BULL, H., 85 BUMILLER, E., 41n BUSCH, A., 31n, 37n BUSTO, N., 104n, 111n CACCIARI, M., 77n, 89 CALDER, N., 43n CALORE, A., 55n CAMPIONE, R., 30n, 35n, 41n, 49n, 62n, 68n, 69n, 76n, 86n, 91n, 118n, 137n CAMPO REDONET, A., 17n, 62n, 103n, 128n, 130n CAPPELLINI, P., 25 CARACCIOLO, L., 77n CARDIGAN, CONDE DE, 40 CEOLA, P., 83n CERUTI, M., 65n CHABOD, F., 29n CHAFEE, Z. JR., 33 CHAMAYOU, G., 68, 78n CHANDRA, DR., 13-14 CHIKHALE, S.N., 120n CICERÓN, M.T., 54 CINGOLANI, R., 111n, 116n CLARK, I., 59 CLARKE, A.C., 14n CLARKE, M., 39n, 83, 84n 156

COLOMBO, A., 26, 38, 51, 76n, 82, 83n, 85n, 88 CONTE, G., 34 CUERDA ARNAU, M.L., 33n D’ASPREMONT, J., 71n DAMASIO, A., 130 DAMIANO, L., 47n DANIEL, M., 133n DANIELS, N., 113n DÉDALO, 99 DELEUZE, G., 103n DERRIDA, J., 103n DIÉGUEZ, A., 16n, 98n, 99n, 103n, 112n, 119n, 134n DOWD, L. W., 41n DOWNEY JR, R., 136 DRAGHI, M., 34 DRESSEL, J., 123n DUFFY, H., 70n DUMOUCHEL, P., 47n ELIOT, T.S., 98n ELMER-DEWITT, PH., 104n ERCILLA GARCÍA, J., 17n ESOPO, 28, 92, 96 ESTUPINYÁ, P., 132n, 137n FABIO AMBUSTO, Q., 55 FARID, H., 123n FERNÁNDEZ SOTO, A., 94n FERRAJOLI, L., 29n, 30n FERRY, L., 103n, 109n FISS, O., 69n FLORIDI, L., 104n, 121 FLOYD, DR., 14 FOERSTER, H. VON, 63, 65 FOUCAULT, M., 31, 32n, 103n FOX, M.J., 136 FROSINI, V., 44n FUERTES, M., 26. FUKUYAMA, F., 118-119 GALLEGO, S., 25

Índice onomástico

GALLI DELLA LOGGIA, E., 77n GARCÍA AMADO, J.A., 26, 33n GAZA, C. R., 83n GENTILI, A., 77, 78n, 88 GILGAMESH, 99 GIUFFRÈ, V., 55n GIUNTI, P., 25 GLAUCO, 99, 102 GLENNON, M.J., 74n GOERING, S., 130n GONZÁLEZ VICÉN, F., 29 GRAU RUIZ, M.A., 17n GRAYLING, A.C., 40n, 42n GREY, A. DE, 103 GUTIÉRREZ, J., 25 HABERMAS, J., 119 HAMPSHIRE, S., 86-87 HARARI, Y.N., 14, 15n, 16, 20, 47, 48n, 58n, 103n, 106 HARRÉ, R., 15n HART, H.L.A., 79, 82, 87 HASIAN, M. JR., 49n HATMAKER, T., 120n HEGEL, G.W.F., 28, 135 HENNIGAN, W.J., 31n, 48n HOBBES, TH., 30, 37 HOLLAND. T., 136 HOTTOIS, G., 109n HUBER, E., 31n HUXLEY, A., 98n, 118 HUXLEY, J., 98n IGLESIAS CABERO, M., 17n ILTING, K.H., 28n JAFFÉ, A., 63n JASTROW, R., 15, 16n JOHNSON, B., 34 JUNG, C.G., 63 KALDOR, M., 37 KANT. I., 64n, 81n KASPAROV, G., 21, 62n

KELSEN, H., 81, 82n, 117 KENNEDY, D., 54n KEYNES, J.M., 115 KRISHNAN, A., 47 KURZWEIL, K., 97n, 101n, 103 LANGE, M., 31n LARSSON, S., 113n LATORRE, J.I., 15n LAURENT, F., 78 LEIBFRIED, S., 31n LEOPARDI, G., 39, 95 LEVY, J.D., 31n LIN, P., 50n LINDLEY-FRENCH, J., 39n LLANO ALONSO, F.H., 103n LLOYD, C., 136 LOKHORST, G., 50n LÓPEZ, D., 17n LORD, C., 50n LUNA, R., 21n MACRON, E., 34 MAKARY, M.A., 133n MANZONI, A., 134 MAOGOTO, J., 70n MARRONE, P., 106n, 115n MARTÍNEZ DE PISÓN, J., 131n MARTÍNEZ GARCÍA, J.I., 15n, 17, 18n MARTINO, L., 75n MATSUDA, M., 61n MAZA, C., 121n MENDUS, S., 72n, 73n METTA, G., 111n, 116n MIJATOVIĆ, D., 35n MONASTERIO ASTOBIZA, A., 17n MORTE FERRER, R., 17n MUÑOZ, L., 25 NAQVI, Y., 70n NAVAS NAVARRO, S., 17n 157

Índice onomástico

NICOLEIS, M., 16n NIETZSCHE, F., 81n, 134-135 NIEVA FENOLL, J., 113n, 124n NIXON, R., 69 NORDMANN, A., 108n NULLMEIER, F., 31n OBAMA, B., 48n, 129 O’NEIL, C., 123n, 125n ORTEGA Y GASSET, J., 7, 138n PASCAL, B., 92, 104n PASSERIN D’ENTRÈVES, A., 28n PETROV, S., 58n PIROSA, R., 26 PLATÓN, 100 PLUTARCO, 55 POPE, A., 91-92 PRESNO LINERA, M. A., 26, 33n PROBST, G.J.B., 63n PROMETEO, 99-100 PUNSET, R., 26, 28n QUAGLIONI, D., 78n RASY, E., 77n RATNER, S.R., 70n RAWLS, J., 86 RAZ, J., 54, 79n RE, L., 25 RICHARDSON, K., 106n ROBBINS, S., 120n ROCO, M., 107n RODGERS, W., 57n RODOTÀ, S., 36n, 124, 134n RODRÍGUEZ FOUZ, M., 26, 69n RONA, G., 70n ROSS, A., 82, 83n RUS, D., 73n, 115n RUSCHI, F., 25, 35n, 41n, 68n, 69n, 76n, 88, 89n 158

SALARDI, S., 116n SALAZAR, G. DE, 42n SÁNCHEZ DE LA YNCERA, I., 26, 69n SÁNCHEZ FERLOSIO, R., 55, 81n SÁNCHEZ, P., 34 SÁNCHEZ-URÁN AZAÑA, Y., 17n SANDEL, M., 119 SANTORO, E., 26 SAVIANO, R., 15n SCHAUER, F., 54n SCHMITT, C., 59, 59, 74, 77, 79n SCHRIJVER, N.J., 70n SCOVAZZI, T., 53, 67n SCURATI, A., 75n SHACHTMAN, N., 41n SICILIANO, D., 26 SLOANE, R.D., 71n SLOTERDIJK, P., 21-23 SOLAR CAYÓN, I., 122n SOPHIA, 115, 120-121 STEPHENS J.S., 31n STOLL, C., 104n SUTTON, T., 69n TEGMARK, M., 45n, 127n, 129n TELFNER, U., 65n THIEL, P., 103n THRING, M.W., 43n, 45n, 50 TIBERI VIPRAIO, P., 127n, 128n TILLY, CH., 37 TOBOSO, M., 17n TODOROV, T., 43, 44n TOLIVAR, L., 26 TRUMP, D, 34, 48n TUNIZ, C., 127n, 128n ULRICH, H., 63n VAIHINGER, H., 80

Índice onomástico

VALERY, P., 24 VAN DEN HOVEN J., 50n VAN WYNSBERGHE, A., 120n VIJAYRAO GOHAD, D., 120n WACQUANT, L., 35 WAGNER, M., 46n WALDRON, J., 33n, 72, 73n WARWICK, K., 130n WECKERT, S., 137

WIKLER, D., 113n WILSON, W., 59 WINOGRAD, T., 112, 113n WRIGHT, Q., 86n YUSTE, R., 129, 130n, 132n, 137n ZEUS, 100 ŽIŽEK, S., 69 ZOLO, D., 25, 49n, 59n

159

ÍNDICE DE MATERIAS

Algoritmo(s), 13, 17, 20, 35-36, 45, 48, 62, 69, 73, 95, 100101, 105, 112-113, 121-123, 126, 136 Ámbito militar, 12-13, 50, 66, 95 Aplicaciones, 13, 16, 19-20, 23, 57, 60, 92, 94, 101n, 113, 115, 122, 130 Armas, 43, 45, 50, 52, 57, 66, 68, 81, 83-84 Big data, 18, 20, 47, 95-96, 100, 102, 123n, 125, 127 Ciberespacio, 75-76, 121 Cibernética, 44, 63, 67, 75-76 Ciborg, 15-16, 60, 92, 128 Ciencia ficción, 14, 106, 131, 133 Coche autónomo, 60, 73, 74n, 111, 132-133 Combatiente, 38, 45, 49-50, 59, 69n, 70, 76 Conciencia, 11n, 12, 66, 67n, 71, 74, 106, 112, 115, 121

Conflicto(s) armado(s), 16, 30n, 38-40, 43, 47, 51-53, 76, 81-82, 84, 88 COVID-19 (coronavirus), 18-20, 34, 70n Cultura (evolución cultural), 37, 86, 91-95 Derecho humanitario, 25, 27, 30, 37-38, 41, 48, 49n, 52-53, 55, 59, 67-69, 70n, 81-83, 85 Derecho internacional, 25, 27, 30, 37-38, 41, 48, 49n, 52-53, 55, 59, 67-69, 70n, 81-83, 85 Dron(es), 13, 40-51, 58, 60, 68, 78n, 95, 101n Enemigo, 7, 27, 44, 47, 50, 52, 55-56, 68-70, 74-78, 87-89 Enfermedad(es), 20, 95, 128129, 131-133 Estado de derecho, 29, 32, 35, 124 Estado preventivo, 35, 124 Evolución, 15, 23-24, 46, 50, 57, 84, 92, 95, 97, 102, 104, 133 161

Índice de materias

Guerra actual (moderna), 38, 51 Guerra justa, 49, 54, 59, 78n, 88 Guerra Mundial, 29, 40-42, 65, 81, 84 Hibridación, 12, 17, 94, 98, 106n, 127, 135 Homo, 11-12, 15, 22, 48n, 58n, 68n, 93-94, 103, 106n, 135n Humanismo, 96-97, 99, 103, 109n, 118, 135 Humaquinismo, 23, 91, 111, 135 Inteligencia artificial, 12-13, 15, 17, 20, 22, 27, 41, 45, 48, 57, 59-60, 62, 73n, 76, 92, 94-105, 109, 113, 115, 122, 127, 130, 132-135 Internet, 16, 43, 101n, 103-104, 122, 128, 131 Ius (gentium; publicum europaeum; belli; ad bellum; in bello), 30, 35, 38, 48-49, 59, 79, 81, 85, 88 Legalidad, 29, 48, 76n, 83n, 85n, 88 Lethal Autonomous Weapon Systems (LAWS), 42, 44-45, 47, 56-57, 66, 83 Máquina(s), 12-17, 22, 39, 47, 50, 56-58, 60, 62, 66-67, 73, 75, 94, 100-106, 111-112, 115, 120-121, 125, 127-130, 134 Mejora(r), 98-101, 103, 107, 119-120, 127-128, 131, 133 Miedo, 36-37, 39, 44n, 47, 106n, 118, 124 Naturaleza, 11, 22, 30, 44, 46, 59, 67n, 88, 91-95, 98-99, 105, 106n, 118-119, 121 162

Neuronal(es), 112, 128, 130, 132, 136 Ordenamiento jurídico, 18, 27, 36, 48, 51, 54, 80-81, 124 Ordenador(es), 13, 16, 47, 94, 96, 100, 103, 106, 112, 127n, 129-130, 137 Orgánico, 11, 13-16, 93, 138 Personalidad jurídica, 14, 17n, 18, 116-117, 121, 129 Ponderación, 33, 56, 71, 114, 126 Posthumanismo (posthumano), 23, 36n, 45, 83n, 97, 102103, 109n, 118, 120, 133-134 Programas (predictivos), 13, 35n, 123 Progreso, 43, 48, 59, 100, 102, 115 Responsabilidad, 17n, 21, 46-47, 56, 60, 69, 70n, 80, 94, 106, 113, 125 Robótica, 12, 13n, 16-17, 20, 41, 44, 56n, 58n, 59, 62n, 65-66, 69, 83n 92, 94-96, 98n, 101n, 103n, 104, 113n, 115, 116n, 129-130, 134 Robots, 21n, 47n, 51n, 56, 61n, 62, 105, 111n, 114-116, 120, 121n, 131n, 133 Robots (ámbito militar), 41n, 47, 50, 56n, 58n, 66, 83n Seguridad, 30-39, 41n, 48, 53, 60, 69n, 76, 96, 122n Sistemas no triviales, 61-65 Sistemas triviales, 61-65 Soberanía, 28-29, 69, 85 Software, 66, 94, 105, 125, 129, 136

Índice de materias

Soldado(s), 40, 43, 45, 48, 56, 58, 69, 128 Técnica, 15, 21-23, 31-32, 41n, 50, 60, 68n, 84, 89n, 95, 97, 99,, 102, 105, 106n, 115n, 123n, 136-137 Tecnología militar, 31n, 39, 41-42, 45, 48-49, 59, 67-69, 83 Tecnologías convergentes, 12, 92, 95-96, 106-107, 113, 119, 124, 134 Terapéutico, 105, 107, 119, 133

Terrorismo, 32n, 49n, 68, 69n, 70n, 76, 83n, 85n, 88n Tortura, 68-69, 71-72, 73n Transhumanismo (transhumano), 12, 16n, 25, 44, 91n, 97-100, 102-104, 107-109, 113, 118-120, 124-125, 127, 129, 133-135 Uso de la fuerza, 37, 42, 50, 74n Vigilancia, 19, 37, 41, 51 Violencia, 33, 37-38, 42-43, 49-50, 52, 76, 83n, 85, 87-88, 112 Virtual, 36, 70n, 135-138

163

COLECCIÓN DERECHOS HUMANOS Y FILOSOFÍA DEL DERECHO

Lecciones de derechos fundamentales Gregorio Peces-Barba Martínez 2005, 368 págs.

Principios del derecho y razonamiento jurídico

Juan Manuel Rodríguez Calero 2005, 160 págs.

La teoría social de A. Giddens. Una lectura crítica desde la teoría jurídica Roger Campione 2005, 236 págs.

Derechos fundamentales, valores y multiculturalismo

F. J. Ansuátegui, J. A. López, A. del Real, R. Ruiz (eds.) 2005, 272 págs.

El juez y la motivación en el derecho Rafael de Asís 2005, 168 págs.

Hermenéutica, argumentación y justicia en Paul Ricoeur Teresa Picontó Novales 2005, 356 págs.

Pluralismo cultural y derechos de las minorías

Óscar Pérez de la Fuente 2005, 624 págs.

La tradición republicana Ramón Ruiz Ruiz 2006, 446 págs.

La fundamentación de los derechos de los niños. Modelos de reconocimiento y protección Ignacio Campoy Cervera 2006, 1.052 págs.

Metodología jurídica irreverente Enrique Pedro Haba 2006, 440 págs.

El fundamento de los límites al poder en la teoría del derecho de léon duguit

I. Ara Pinilla 2006, 448 págs.

Derechos fundamentales y protección de datos genéticos

Susana Álvarez González 2007, 536 págs.

Estado de derecho, derechos humanos y democracia Gílmer Alarcón Requejo 2007, 577 págs.

El materialismo jurídico. La presunta teoría del derecho de Marvin Harris BENJAMÍN RIVAYA GARCÍA 2007, 278 PÁGS.

El derecho al trabajo y el ingreso básico. ¿Cómo garantizar el derecho al trabajo? JOSÉ LUIS REY PÉREZ 2007, 534 PÁGS.

Nacionalismo e identidades colectivas: la disputa de los intelectuales (1762-1936)

J. Alberto Del Real Alcalá, 2007, 456 págs.

La Ley

desmedida. Estudios de legislación, seguridad y jurisdicción

L. Martínez Roldán, J. A. / Fernández Suárez, L. / Suárez Llanos 2007, 342 págs.

La filosofía del derecho de ernesto garzón valdés

Miguel Álvarez Ortega 2008, 488 págs.

John Stuart Mill y la democracia del siglo xxi

Josefa Dolores Ruiz Resa (ed.) 2008, 300 págs.

El sistema jurídico como sistema normativo mixto. La importancia de los contenidos materiales en la validez jurídica

Patricia Cuenca Gómez 2008, 615 págs.

La igualdad en los derechos, clave de la integración

Javier de Lucas Martín y Ángeles Solanes Corrella (coord.) 2009, 542 págs.

La construcción coherente del Derecho Mario Ruiz Sanz 2009, 332 págs.

La igualdad en el contenido y en la aplicación de la ley

M.ª Isabel Garrido Gómez 2009, 346 págs.

John Rawls. Sobre (des)igualdad y justicia Silvina Ribotta 2009, 364 págs.

Salud, Justicia, Derechos El derecho a la salud como derecho social

Carlos Lema Añón 2009, 296 págs.

¿Qué igualdad? El principio de igualdad formal

El derecho y el poder. Realismo crítico y

y no discriminación por razón de sexo en el ordenamiento jurídico español

filosofía del derecho

Rosa María Ricoy Casas 2010, 708 págs.

La dignidad humana. Sus orígenes en el pensamiento clásico

Antonio Pele 2010, 752 págs.

La nueva generación de Derechos Humanos. Origen y justificación María Eugenia Rodríguez Palop 2010, 612 págs.

Entre la moral, la política y el Derecho. El pensamiento filosófico y jurídico de Gregorio Peces-Barba Reynaldo Bustamante Alarcón 2010, 720 págs.

Diez lecciones sobre ética, poder y derecho Gregorio Peces-Barba Martínez 2010, 434 págs.

El Estado en Ortega y Gasset Fernando H. Llano Alonso 2010, 224 págs.

Thomas Hobbes y la Filosofía Política Contemporánea: Un análisis desde las perspectivas de Carl Schmitt, Leo Strauss y Norberto Bobbio Gregorio Saravia 2010, 600 págs.

Familias transnacionales, sociedades multiculturales e Integración: España, Italia y Portugal en perspectiva comparada Encarnación La Spina 2010, 576 págs.

Jueces y leyes, entre el absolutismo y la codificación Alberto Iglesias Garzón 2011, 278 págs.

Reconocimiento y protección de Derechos Emergentes en el Sistema Europeo de Derechos Humanos Jaume Saura Estapà 2012, 396 págs.

Rudolf von Jhering y el paradigma positivista. Fundamentos ideológicos y filosóficos de su pensamiento jurídico

Luis M. Lloredo Alix 2012, 604 págs.

Democracia con motivos

Roberto M. Jiménez Cano 2013, 216 págs.

Las víctimas del terrorismo en España José Manuel Rodríguez Uribes 2013, 363 págs.

Elías Díaz 2013, 220 págs.

El derecho a la vivienda

M.ª José González Ordovás 2013, 240 págs.

Sobre discapacidad y derechos Rafael de Asís 2013, 158 págs.

Reconstruir la ciudadanía Virginia Guichot Reina 2013, 384 PÁGS.

Razón y voluntad en el estado de derecho. Un enfoque filosófico-jurídico Francisco Javier Ansuátegui Roig 2013, 392 págs.

La difuminación institucional del objetivo del derecho a la educación

Ignacio Ara Pinilla 2013, 360 págs.

Nacidos para salvar. Un estudio ético-jurídico del «bebé medicamento» Fernando Pinto Palacios 2017, 370 págs.

Mujeres con discapacidad: sobre la discriminación y opresión interseccional

María Laura Serra 2017, 526++ págs.

El derecho a una asistencia sanitaria para todos: una visión integral Ana M.ª Marcos del Cano (dir.) 2017, 456 págs.

En defensa del estado de derecho. Debilidades y fortalezas del estado de derecho a propósito de las críticas de Carl Schmitt

Ignacio Campoy Cervera 2017, 231 PÁGS.

La idea de persona y dignidad humana Reynaldo Bustamante Alarcón 2018, 334 PÁGS.

Los derechos de los animales en serio JOSÉ LUIS REY PÉREZ 2019, 240 PÁGS.

Filosofía de la vulnerabilidad Gianfrancesco Zanetti 2020, 226 PÁGS.

La plausibilidad del derecho Inteligencia Artificial. Roger Campione 2020, 168 págs.

en la era de la

- -

-

-

-

-

-

-

-

-

-

-

-

-

-

-

-

-

- - -

-

-

-

-

-

-