El avance imparable de la automatización en el ámbito administrativo ha generado un debate crucial sobre cómo este proceso impacta en la seguridad jurídica y en el funcionamiento del procedimiento administrativo. Ya no se trata simplemente de reemplazar tareas repetitivas por algoritmos; la incorporación de la inteligencia artificial (IA), incluyendo el “big data”, está redefiniendo la manera en que las administraciones públicas toman decisiones y gestionan sus servicios. Este cambio, sin embargo, plantea importantes interrogantes sobre la transparencia, la responsabilidad y la posibilidad de introducir sesgos inadvertidos en los procesos. La obra de María Luisa Gómez Jiménez, “Automatización Procedimental y Sesgo Electrónico: El Procedimiento Administrativo Electrónico Desde la Inteligencia Artificial”, publicada por Aranzadi, se presenta como una respuesta a esta problemática, ofreciendo una perspectiva práctica y a la vez profunda para profesionales del derecho administrativo.
La relevancia de la obra reside en que aborda de forma directa y accesible una realidad compleja y en constante evolución. Más allá de los aspectos técnicos de la implementación de la automatización, se centra en las implicaciones jurídicas, específicamente en cómo los mecanismos de IA y los “big data” pueden afectar la calificación de la actuación administrativa automatizada, así como la construcción de una seguridad jurídica sólida en el procedimiento administrativo. Este tipo de análisis es fundamental para asegurar que la innovación tecnológica se integra de manera responsable en el marco legal, evitando consecuencias negativas para los derechos de los ciudadanos.
“Automatización Procedimental y Sesgo Electrónico” se estructura en torno a la idea central de que la introducción de la inteligencia artificial en el procedimiento administrativo no es simplemente una cuestión técnica, sino que implica una transformación profunda en la manera de entender y aplicar el derecho administrativo. La autora no se limita a describir la tecnología; la analiza desde la perspectiva del derecho, explorando las consecuencias jurídicas de la automatización y cómo los sesgos pueden infiltrarse en los procesos. La obra se basa en un enfoque práctico, ofreciendo herramientas para comprender y abordar los desafíos que plantea esta nueva realidad.
El libro se divide en secciones que exploran diversos aspectos cruciales. Una de ellas analiza la actuación administrativa automatizada, desglosando los criterios que deben utilizarse para determinar si una actuación ha sido realmente automatizada, y cómo esta calificación afecta a la responsabilidad de los sujetos involucrados. Se examinan los mecanismos de control y supervisión necesarios para garantizar que la automatización se ajusta a los principios de transparencia y legalidad. Además, la obra ofrece un análisis detallado de la interoperabilidad de los sistemas informáticos utilizados en el procedimiento administrativo, identificando los desafíos y proponiendo soluciones para asegurar que las diferentes administraciones puedan compartir información de manera eficiente y segura.
Un punto central de la obra es la discusión sobre los sesgos electrónicos, es decir, cómo los algoritmos de inteligencia artificial pueden reproducir o amplificar sesgos existentes en los datos utilizados para entrenarlos. La autora analiza las diferentes fuentes de sesgo (datos, algoritmos, usuarios) y propone mecanismos para detectarlos y mitigarlos. La obra también aborda el tema de la responsabilidad en el procedimiento administrativo automatizado, una cuestión particularmente compleja cuando las decisiones son tomadas por algoritmos. Se exploran diferentes modelos de responsabilidad, desde la responsabilidad del administrador hasta la responsabilidad del desarrollador del algoritmo, y se proponen criterios para determinar quién debe asumir la responsabilidad en caso de error.
La obra incorpora las últimas reformas operadas en la materia por el Real Decreto 203/2021, de 30 de marzo, por lo que se mantiene actualizada a las novedades legislativas en el ámbito. Este enfoque en la legislación más reciente proporciona al lector las herramientas necesarias para un análisis profundo de la materia, incluyendo la regulación de los RPA (Robots Procesos Automatizados).
El libro proporciona una visión completa y matizada de la automatización procedimental, desafiando a los lectores a considerar las implicaciones más allá de la mera eficiencia técnica. Se argumenta que la automatización no es inherentemente positiva o negativa, sino que su impacto depende de cómo se implemente y de cómo se gestionen los riesgos asociados. La obra enfatiza la necesidad de un enfoque proactivo, que combine la innovación tecnológica con principios de derecho administrativo, como la legalidad, la transparencia y la protección de los derechos de los ciudadanos.
“Automatización Procedimental y Sesgo Electrónico” explora en profundidad el concepto de “sesgo electrónico”, argumentando que los algoritmos de IA, al ser entrenados con datos que pueden ser defectuosos o estar sesgados, pueden perpetuar o incluso amplificar esas desigualdades. La autora analiza el impacto del “big data” en la toma de decisiones administrativas, señalando que la gran cantidad de datos disponibles puede dificultar la identificación de sesgos y que los algoritmos pueden ser utilizados para discriminar a determinados grupos de ciudadanos. Se examinan diferentes estrategias para mitigar este riesgo, como la diversificación de las fuentes de datos, el desarrollo de algoritmos «justos» y la implementación de mecanismos de control y supervisión.
La obra también ofrece un análisis detallado de la calificación de la actuación administrativa automatizada, estableciendo criterios claros para determinar si una actuación ha sido realmente automatizada. Se argumenta que la automatización no es simplemente el uso de un programa informático, sino que implica la delegación de una determinada función a un algoritmo. Esto tiene importantes implicaciones en cuanto a la responsabilidad de los sujetos involucrados y en la necesidad de garantizar que la actuación se ajusta a los principios de legalidad y transparencia. La obra también analiza el papel de los RPA (Robots Procesos Automatizados), señalando que, si bien pueden mejorar la eficiencia del procedimiento administrativo, también pueden introducir nuevos riesgos de sesgo y responsabilidad.
Además, la obra aborda la necesidad de adaptar el ordenamiento jurídico administrativo a las nuevas realidades de la automatización. Se argumenta que el derecho administrativo debe evolucionar para reflejar los cambios en la forma en que se toman las decisiones y se gestionan los servicios públicos. Esto implica la creación de nuevos mecanismos de control y supervisión, así como la adaptación de las normas de responsabilidad y transparencia.
Opinión Crítica de Automatización Procedimental Y Sesgo Electrónico: El Procedimiento Administrativo Electrónico Desde La Inteligencia Artificial: con crítica y recomendaciones.
“Automatización Procedimental y Sesgo Electrónico” representa una contribución valiosa al debate sobre el impacto de la automatización en el derecho administrativo. La obra se distingue por su claridad, su rigor técnico y su enfoque práctico. La autora, María Luisa Gómez Jiménez, demuestra un profundo conocimiento de la materia y presenta argumentos convincentes que desafían a los lectores a reconsiderar su visión de la automatización. La estructura de la obra, que combina un análisis teórico con ejemplos prácticos, la hace accesible a un amplio público, desde estudiantes de derecho hasta profesionales del sector.
Sin embargo, la obra podría beneficiarse de una mayor exploración de algunos de los aspectos más complejos de la materia. Por ejemplo, el análisis de la responsabilidad en el procedimiento administrativo automatizado es un tema que requiere una mayor profundización. Si bien la autora presenta diferentes modelos de responsabilidad, no ofrece una solución definitiva que tenga en cuenta las particularidades de cada caso. Además, la obra podría explorar más a fondo el tema de la interoperabilidad, señalando que la creación de estándares comunes para los sistemas informáticos utilizados en el procedimiento administrativo es fundamental para garantizar que la automatización se implemente de manera eficiente y segura. Otra sugerencia es ampliar las discusiones sobre los aspectos éticos relacionados con la automatización, incluyendo cuestiones como la privacidad de los datos y la posibilidad de que los algoritmos discriminen de forma injusta a determinados grupos de ciudadanos.
la obra representa un punto de partida esencial para comprender los desafíos y las oportunidades que plantea la automatización en el derecho administrativo. Se recomienda ampliamente a todos aquellos que estén interesados en esta materia. La obra no solo proporciona una comprensión técnica de la automatización, sino que también plantea preguntas fundamentales que deben ser abordadas por los legisladores, los administradores públicos y los profesionales del derecho. Se sugiere que, a partir de esta obra, se fomente la investigación en el ámbito de la inteligencia artificial aplicada al derecho administrativo, buscando establecer un marco regulatorio que promueva la innovación y, al mismo tiempo, garantice la protección de los derechos de los ciudadanos.
