El libro de Vázquez Serrano aborda la creciente complejidad de la legalidad de los Sistemas de Armas Autónomas (SAA) a través de una cuidadosa disección del DIH, el Derecho Internacional de los Derechos Humanos y el Derecho Internacional en general. La autora comienza por definir con precisión los SAA, estableciendo que, a diferencia de los robots que simplemente ejecutan órdenes predefinidas, estos sistemas poseen una capacidad cognitiva para identificar objetivos, evaluar riesgos y, en última instancia, seleccionar y atacar sin supervisión humana directa. Este punto crucial es fundamental porque desafía la tradicional noción de control humano y responsabilidad en el uso de la fuerza, un elemento central en el DIH.
El trabajo se estructura alrededor de la necesidad de un enfoque proactivo. La autora argumenta que la adaptación de los SAA al Derecho Internacional debe ser una inversión, no una consecuencia. No se trata de imponer restricciones al desarrollo tecnológico, sino de establecer un marco regulatorio robusto que garantice que estas armas se utilizan de manera responsable y que se cumplen los principios fundamentales del DIH. El libro no se limita a criticar los SAA, sino que ofrece propuestas concretas sobre cómo abordar los desafíos legales que plantean, incluyendo la necesidad de definir claramente los criterios de responsabilidad y de establecer mecanismos de supervisión y control. La obra reconoce que la ambigüedad legal actual en torno a los SAA es un factor de riesgo significativo, y que es imperativo que la comunidad internacional actúe con urgencia para aclarar esta situación. La base del argumento de la autora es que la falta de regulación formal y precisa abre la puerta a interpretaciones y decisiones que podrían comprometer la seguridad humana y la estabilidad internacional.
El libro analiza en detalle los dilemas éticos y legales que surgen del despliegue de los SAA, incluyendo el problema de la responsabilidad. Si un SAA comete un error que causa la muerte de civiles, ¿quién es responsable? ¿El programador, el comandante militar, el fabricante o el propio sistema? La autora explora diferentes enfoques de responsabilidad, incluyendo la responsabilidad individual, la responsabilidad objetiva y la responsabilidad grupal, y propone mecanismos para asignar la responsabilidad en caso de daño. También aborda el desafío de la transparencia, argumentando que es fundamental que los SAA sean transparentes en cuanto a sus capacidades, limitaciones y algoritmos, para que puedan ser supervisados y controlados adecuadamente. Asimismo, el libro explora los potenciales riesgos de la deshumanización del conflicto, y cómo el uso de SAA podría erosionar la moralidad y la humanidad en la guerra.
Además, Vázquez Serrano analiza el impacto de los SAA en el principio de distinción, que es uno de los pilares fundamentales del DIH. Este principio exige que las partes en conflicto distingan entre combatientes y civiles, y que los ataques solo puedan dirigirse contra objetivos militares legítimos. La autora argumenta que la capacidad de los SAA para identificar y atacar objetivos de forma autónoma plantea serias dudas sobre su capacidad para cumplir con este principio. El hecho de que un sistema pueda clasificar un individuo como un «combatiente» podría estar basado en datos erróneos o en algoritmos sesgados, lo que podría llevar a ataques injustificados contra civiles.
El análisis del libro profundiza en la necesidad de establecer un régimen de responsabilidad específico para los SAA, que vaya más allá de las reglas existentes del DIH. La autora propone que este régimen de responsabilidad debería basarse en la responsabilidad objetiva, es decir, que la responsabilidad recaerá sobre el fabricante, el programador o el operador del SAA, independientemente de si hubo negligencia o error. Esta postura es justificada por el hecho de que los SAA son sistemas complejos y sofisticados, y que es imposible exigir una responsabilidad individual a quienes no tienen el conocimiento técnico para comprender su funcionamiento. La responsabilidad objetiva proporcionaría un incentivo para que los fabricantes y programadores diseñen y desarrollen SAA que sean seguros, fiables y responsables.
La autora también aboga por el establecimiento de un mecanismo de supervisión y control para los SAA. Este mecanismo podría incluir la designación de un operador humano que tenga la autoridad para intervenir y detener el SAA en caso de emergencia. La intervención humana podría ser necesaria para corregir errores, evitar daños colaterales o responder a situaciones imprevistas. El control humano también podría garantizar que los SAA se utilicen de acuerdo con el DIH y otros principios legales. Sin embargo, Vázquez Serrano reconoce que la intervención humana no es siempre posible, especialmente en situaciones de combate intensivo. Por lo tanto, el mecanismo de supervisión y control debe ser diseñado de forma que se maximice la posibilidad de que los humanos puedan intervenir y controlar los SAA.
El libro también explora los desafíos que plantea el concepto de «inteligencia artificial» (IA) a los SAA. Los SAA utilizan algoritmos de IA para procesar información, tomar decisiones y ejecutar acciones. Sin embargo, la IA es inherentemente compleja y puede ser difícil de entender y controlar. La autora argumenta que es fundamental que los algoritmos de IA utilizados en los SAA sean transparentes y explicables, para que puedan ser auditados y comprendidos. También es importante que los algoritmos sean diseñados para evitar sesgos y discriminación. El libro advierte sobre el riesgo de que los algoritmos de IA puedan perpetuar o amplificar desigualdades sociales y políticas.
Además, la autora aborda el impacto de los SAA en el principio de proporcionalidad, otro principio fundamental del DIH. Este principio exige que los daños colaterales causados por un ataque sean proporcionales al beneficio militar que se espera obtener. La autora argumenta que es difícil, si no imposible, que un SAA pueda evaluar la proporcionalidad de un ataque, ya que no puede comprender plenamente las consecuencias humanas de sus acciones. Por lo tanto, la intervención humana es esencial para garantizar que los ataques sean proporcionales.
Opinión Crítica de Derecho Internacional: Retos Y Dilemas Para Los Sistemas De Armas Autónomas
El libro de Vázquez Serrano ofrece un análisis riguroso y bien fundamentado de los desafíos legales planteados por los SAA. La autora demuestra un profundo conocimiento del DIH y de otros ámbitos del Derecho Internacional, y su análisis es, en general, claro y conciso. Su propuesta de establecer un régimen de responsabilidad objetiva es, a juicio de esta reseña, una de las opciones más realistas y justas, dada la complejidad de los SAA y la dificultad de asignar la responsabilidad en caso de daño. Sin embargo, la obra no está exenta de algunas limitaciones.
Uno de los aspectos que podría fortalecerse es el análisis más profundo de las implicaciones filosóficas del uso de SAA. Si bien la autora aborda la deshumanización del conflicto, una exploración más detallada de las cuestiones éticas fundamentales relacionadas con la autonomía, la agencia y la toma de decisiones en las máquinas sería beneficiosa. La obra podría explorar cómo la delegación de decisiones de vida o muerte a una máquina altera la naturaleza misma de la guerra y las responsabilidades morales que conlleva.
Otro punto que merece ser considerado es la necesidad de una mayor colaboración internacional para regular el desarrollo y el uso de los SAA. El DIH es, por su naturaleza, un derecho de carácter internacional, y su aplicación requiere un acuerdo y una coordinación entre los Estados. La autora enfatiza la necesidad de un régimen de responsabilidad, pero no aborda suficientemente la cuestión de cómo se podría establecer un marco global para la regulación de los SAA. La falta de un consenso internacional en este tema es una de las principales causas de preocupación, y es fundamental que la comunidad internacional actúe con urgencia para evitar una carrera armamentista de SAA. La obra, en esencia, es una pieza valiosa para comprender las complejidades legales de la situación, pero requiere, también, una acción política coordinada.
el libro de Vázquez Serrano es una contribución importante al debate sobre los SAA. Ofrece un análisis claro y detallado de los desafíos legales que plantea esta tecnología, y sus propuestas para regular su uso son razonables y bien fundamentadas. Sin embargo, la obra requiere ser complementada con una mayor reflexión filosófica y con un esfuerzo internacional para establecer un marco global para la regulación de los SAA. La seguridad y la estabilidad internacional dependen, en gran medida, de que la humanidad pueda controlar los riesgos que plantea esta nueva tecnología.
