El núcleo del argumento de Roig reside en la interpretación sistemática del artículo 22 del RGPD. Aunque el artículo 22 en su formulación directa no menciona explícitamente la “explicabilidad” de los algoritmos, el autor sustenta su propuesta en una lectura sistemática que se vincula estrechamente con los artículos 13 a 15 y el Considerando 71. Esta conexión es fundamental, ya que implica que, más allá de una mera referencia a la transparencia, la regulación debe abarcar un conjunto de
. Esta responsabilidad no solo recae sobre las empresas que desarrollan y utilizan los algoritmos, sino que también debe estar respaldada por mecanismos de control y supervisión. La
son particularmente importantes y necesarias para garantizar que la inteligencia artificial se utiliza de manera responsable y ética. Sin embargo, el libro presenta algunas áreas que podrían ser más desarrolladas.
Una crítica es que, si bien la evaluación de impacto es fundamental, la definición precisa de lo que constituye una «evaluación de impacto» podría ser más detallada. Sería útil establecer criterios más concretos sobre qué riesgos deben identificarse y cómo deben ser evaluados. Asimismo, la definición del «impacto» podría ser más precisa. ¿Se refiere solo al impacto en los individuos, o también al impacto en la sociedad en su conjunto? Un marco regulatorio más específico abordaría mejor estas dudas.
Además, el libro podría profundizar en las implicaciones de la explicabilidad de los algoritmos. Si bien Roig argumenta que la regulación debe incluir garantías de explicabilidad, el libro podría profundizar en las diferentes formas de explicabilidad (explicación «a nivel de usuario», explicación «a nivel de técnico», etc.) y en las dificultades técnicas que implican el logro de una explicabilidad completa.
En cuanto a recomendaciones, se sugiere que los futuros desarrollos en este área deberían centrarse en crear un marco regulatorio adaptable que evolucione con el avance de la tecnología. También sería valioso establecer una estructura de colaboración entre legisladores, expertos técnicos, y representantes de la sociedad civil para garantizar que la regulación sea equilibrada, innovadora y socialmente responsable. Finalmente, sería importante promover la educación y la concienciación pública sobre los riesgos y beneficios de la inteligencia artificial, para fomentar un debate informado y una participación ciudadana activa en la regulación de esta tecnología clave para el futuro.
