La obra de Lacruz Mantecon se estructura en torno a un punto central: la necesidad de concebir la
del robot, sino que la redefine como la capacidad de actuar de forma inteligente, pero siempre bajo el control humano.
La obra también aborda la problemática de la
, donde la responsabilidad recae en el conductor, pero adaptado al caso de los sistemas robóticos autónomos. Esta adaptación es clave, ya que permite establecer un marco de responsabilidad que tenga en cuenta la autonomía de los sistemas robóticos.
Finalmente, el libro se enfrenta al debate sobre la
nunca puede ser “moral” en el sentido humano del término, debido a la ausencia de conciencia del sistema de IA. Esta conclusión, que puede parecer inesperada, tiene importantes consecuencias para la formulación de políticas éticas en el ámbito de la IA. La obra señala que la ética robótica no es, en esencia, más que un sistema de regulación y unas directrices heurísticas para la solución de inconvenientes, y que su objetivo principal es evitar situaciones moralmente inaceptables, sin implicar que los robots puedan tener juicios morales propios.
La monografía de Lacruz Mantecon se centra en una aproximación realista y pragmática a la cuestión de la subjetividad en el de la Inteligencia Artificial. El autor rechaza la tentación de otorgar a los robots derechos legales o una personalidad jurídica, reconociendo que esta solución no es viable ni adecuada para abordar los desafíos que plantea la IA. En lugar de buscar una “personificación”, el libro propone un análisis de la
del robot, en este marco, no reside en su capacidad de actuar por sí mismo, sino en su capacidad de ser dirigido y controlado por un ser humano. Esta perspectiva desmitifica la idea de la «personificación» y permite una comprensión más realista de las capacidades y limitaciones de los sistemas robóticos, enfocándose en su utilidad práctica. El autor no niega que la complejidad de las IA, incluyendo sus procesos de aprendizaje y toma de decisiones, puede generar una «subjetividad» simulada o aproximada, pero se centra en la relación de control y utilidad que define su relación con el ser humano.
El libro también ofrece un análisis riguroso de la problemática de la
, llegando a la conclusión de que la actuación robótica nunca puede ser “moral” en el sentido humano del término, debido a la ausencia de conciencia del sistema de IA. Esta conclusión, aunque contraintuitiva, tiene importantes implicaciones para la formulación de políticas éticas en el ámbito de la IA. El autor señala que la ética robótica no es, en esencia, más que un sistema de regulación y unas directrices heurísticas para la solución de inconvenientes, y que su objetivo principal es evitar situaciones moralmente inaceptables, sin implicar que los robots puedan tener juicios morales propios. El libro sugiere que la ética en la IA debe centrarse en la seguridad, la transparencia y la rendición de cuentas, pero sin intentar imponer valores morales a las máquinas.
Opinión Crítica de Robots Y Personas: Una Aproximación Juridica A La Subjetividad Cibernetica
La obra de Lacruz Mantecon representa un valioso y necesario punto de partida para el debate sobre la inteligencia artificial y el derecho. El autor logra una aproximación realista y pragmática a un tema inherentemente complejo y lleno de incertidumbres. Su rechazo a la “personificación” de los robots es, en opinión de este crítico, un punto clave para evitar caer en simplificaciones y visiones utópicas o distópicas que a menudo acompañan al debate sobre la IA. El análisis del modelo del esclavo en Roma es una herramienta eficaz para ilustrar la relación entre el hombre y la máquina, y para destacar la importancia del control humano en la gestión de los sistemas robóticos. La crítica es especialmente lúcida en su argumentación de que la ética robótica no puede basarse en la imposición de valores morales a las máquinas, ya que las máquinas carecen de la capacidad de comprender y aplicar estos valores de la misma manera que lo hace un ser humano.
No obstante, la obra no está exenta de algunas limitaciones. Si bien el rechazo a la “personificación” es unificador, el autor podría haber profundizado más en las posibles formas de “subjetividad” que pueden surgir en los sistemas robóticos, especialmente a medida que la IA avanza y los robots adquieren una mayor capacidad de aprendizaje y adaptación. El concepto de “subjetividad” en un sistema robótico puede no ser necesariamente comparable al de la subjetividad humana, pero es importante explorar las posibilidades. Además, el autor se centra principalmente en la relación entre el hombre y la máquina, dejando un poco en la sombra la relación entre los propios sistemas robóticos, especialmente a medida que estos sistemas se vuelven más autónomos y se interactúan entre sí. Es importante estudiar las consecuencias de esta auto-interacción y la posibilidad de que los robots desarrollen formas de «subjetividad» relativas a la propia dinámica del sistema.
En cuanto a las recomendaciones, el libro sugiere un enfoque basado en la seguridad, la transparencia y la rendición de cuentas, lo cual es un punto de partida fundamental para la regulación de la IA. Sin embargo, el autor podría haber propuesto soluciones más específicas para abordar los desafíos relacionados con la responsabilidad, la ética y la seguridad. Por ejemplo, podría haber explorado la posibilidad de crear un marco regulatorio que combine elementos del modelo de la responsabilidad por producto defectuoso con elementos del modelo de responsabilidad en la circulación de vehículos, adaptado al de la IA. Asimismo, el libro podría haber profundizado en la necesidad de desarrollar estándares internacionales para la seguridad y la ética de la IA, y en la importancia de involucrar a una amplia gama de stakeholders en el proceso de toma de decisiones. “Robots Y Personas” es una obra valiosa y necesaria, que contribuye de forma significativa al debate sobre la inteligencia artificial y el derecho, pero que, en opinión del autor, podría haber ofrecido soluciones más específicas y detalladas.
