Redactado por Diego Fierro Rodríguez, quien es (entre otras muchas cosas) letrado de la Administración de Justicia Letrado en el Ministerio de Justicia de España. Imparte cursos para cuerpos generales como formador en el Instituto Andaluz de Administración Pública y colabora habitualmente con revistas de investigación y difusión jurídica, como Economist & Jurist, Law & Trends, Legaltoday y Confilegal, estando enfocado en el estudio de aspectos vinculados con la Administración de Justicia y las nuevas tecnologías, entre otras materias. Igualmente, es codirector de la Revista Acta Judicial (…).
I.) Introducción:
Más de un año después de su publicación, que se produjo en junio de 2024, la Política de uso de la Inteligencia Artificial en la Administración de Justicia del Consejo para la Transformación Digital de la Administración de Justicia Española (en adelante, CTEAJE) constituye un esfuerzo pionero por establecer un marco normativo y ético para la integración de tecnologías emergentes en el sistema judicial español. Este documento busca armonizar la implementación de la inteligencia artificial (en adelante, IA) con los principios fundamentales del ordenamiento jurídico español, como la tutela judicial efectiva, la independencia judicial y el respeto a los derechos fundamentales, consagrados en la Constitución Española. Este análisis tiene como objetivo evaluar la vigencia y eficacia de la política en el contexto de los avances tecnológicos y normativos observados hasta agosto de 2025, identificando sus fortalezas, limitaciones y posibles áreas de mejora.
La irrupción de la IA en el ámbito judicial plantea desafíos complejos, especialmente en un entorno donde la automatización de procesos puede optimizar la eficiencia, pero también generar riesgos para la imparcialidad y la protección de datos. La política del CTEAJE se presenta como una guía inicial para garantizar que estas tecnologías se utilicen de manera responsable, sin comprometer los pilares del Estado de derecho. Sin embargo, el rápido desarrollo de modelos de IA más avanzados en 2025, junto con la creciente adopción de estas herramientas en jurisdicciones internacionales, exige un escrutinio detallado para determinar si el documento sigue siendo adecuado o requiere ajustes significativos. Este análisis se estructura en torno a los principios, el ámbito de aplicación, las normas de uso, las responsabilidades, los riesgos y los casos de uso, con el fin de ofrecer una evaluación exhaustiva que contemple tanto los aspectos técnicos como los jurídicos.
La relevancia de este análisis radica en la necesidad de garantizar que la IA se integre de manera que refuerce, y no menoscabe, los derechos fundamentales. La política debe ser capaz de responder a los desafíos éticos y prácticos derivados de la automatización, como la posible delegación indebida de decisiones judiciales, los sesgos algorítmicos y las vulneraciones de la privacidad. En este sentido, se examinará si el marco propuesto logra equilibrar la innovación tecnológica con la protección de los valores constitucionales, en un contexto donde la confianza ciudadana en el sistema judicial es un elemento clave para su legitimidad.
II.) Evaluación de los principios básicos:
La política adopta como base los principios éticos establecidos por la Comisión Europea para la Eficiencia de la Justicia (en adelante, CEPEJ) en su Carta Ética Europea sobre el uso de la IA en los sistemas judiciales de 2018, complementándolos con principios adicionales como la Equidad y el Acceso Universal. Estos principios buscan garantizar que la IA se utilice de manera que respete los derechos individuales y mitigue los riesgos inherentes a estas tecnologías, como la opacidad algorítmica o los sesgos. La prohibición explícita de que la IA reemplace la toma de decisiones humanas en cuestiones jurisdiccionales críticas refleja un compromiso claro con la soberanía judicial, consagrada en el artículo 117 de la Constitución Española, que establece la independencia de los jueces como garantía de imparcialidad y justicia.
No obstante, la política adolece de ciertas lagunas que podrían limitar su efectividad. Por ejemplo, aunque se reconoce la importancia de la supervisión humana, no se proporciona un protocolo claro para evaluar el grado de asistencia que las herramientas de IA pueden ofrecer en las deliberaciones judiciales. Esta ambigüedad podría generar tensiones en casos donde la línea entre apoyo técnico y sustitución de la decisión humana no esté claramente definida, lo que podría comprometer el principio de motivación de las resoluciones judiciales, un requisito esencial según la jurisprudencia del Tribunal Supremo. En un contexto donde los modelos de IA de 2025 son capaces de generar análisis complejos y recomendaciones detalladas, resulta imperativo establecer directrices específicas que delimiten el alcance de estas herramientas, garantizando que su uso sea estrictamente auxiliar.
Además, la política no aborda de manera suficiente los desafíos éticos derivados de la evolución de los sistemas de IA generativa, que pueden producir resultados impredecibles o «alucinaciones». Para reforzar esta sección, sería recomendable incorporar estándares internacionales de auditoría algorítmica y directrices específicas para la capacitación de los operadores judiciales en el uso de estas tecnologías. Esto no solo fortalecería la transparencia, sino que también garantizaría que los jueces mantengan el control sobre las decisiones, preservando así la confianza en el sistema judicial.
III.) Análisis del ámbito de aplicación y normas de uso:
El ámbito de aplicación de la política abarca los datos judiciales generados desde la iniciación hasta la resolución de un procedimiento, lo que refleja una comprensión adecuada de la sensibilidad de la información procesada en el ámbito judicial. Este enfoque se alinea con la Ley Orgánica 3/2018, de Protección de Datos Personales y Garantía de los Derechos Digitales, que establece estrictos requisitos para el tratamiento de datos sensibles. La distinción entre usos que afectan directamente la actividad jurisdiccional y aquellos de carácter administrativo busca proteger la independencia judicial, un principio fundamental respaldado por la Ley Orgánica del Poder Judicial. Sin embargo, la falta de ejemplos concretos que ilustren esta diferenciación podría dificultar su implementación en la práctica, especialmente en procedimientos complejos donde las tareas administrativas y jurisdiccionales se entrelazan.
Las normas de uso establecidas en la política, como la exigencia de revisión humana y la protección de la soberanía de los datos, son medidas prudentes que responden a los riesgos de violación de la confidencialidad y el derecho a la intimidad, regulados en el artículo 18 de la Constitución Española. No obstante, la prohibición de interfaces de programación de aplicaciones (en adelante, APIs) no autorizadas, aunque destinada a garantizar la seguridad, podría limitar la innovación tecnológica en el ámbito judicial. En este sentido, sería conveniente explorar la creación de un registro de herramientas certificadas que permita un control riguroso sin obstaculizar el desarrollo de soluciones avanzadas. Por ejemplo, la autorización de APIs seguras podría facilitar la integración de sistemas de IA para tareas como la transcripción automática o el análisis de jurisprudencia, siempre bajo estricta supervisión.
Otro aspecto a considerar es la necesidad de actualizar las normas de uso para abordar los desafíos planteados por los modelos de IA de última generación, que en 2025 han demostrado capacidades avanzadas en el procesamiento de lenguaje natural y la generación de contenido. La política debería incluir directrices específicas sobre la validación de los resultados generados por estas herramientas, así como mecanismos para garantizar que los datos judiciales no sean utilizados para entrenar modelos de IA sin el consentimiento explícito de las partes involucradas.
IV.) Responsabilidades y control:
La asignación de responsabilidades al Consejo General del Poder Judicial (en adelante, CGPJ) para las funciones jurisdiccionales y al CTEAJE para otras áreas refleja una distribución lógica basada en las competencias establecidas en la Ley Orgánica del Poder Judicial y el Real Decreto-ley 6/2023. La propuesta de vigilancia algorítmica por parte del CGPJ, destinada a evaluar el desempeño de los algoritmos y detectar sesgos, constituye un avance significativo hacia la transparencia, un principio que encuentra respaldo en la doctrina del Tribunal Constitucional sobre el derecho a la tutela judicial efectiva. Sin embargo, la falta de especificaciones sobre la metodología, la periodicidad o los criterios de evaluación de estas revisiones podría limitar su eficacia práctica.
Para fortalecer este mecanismo, sería recomendable adoptar estándares internacionales como los registros de Equidad, Precisión y Transparencia (en adelante, FAccT), que han sido implementados con éxito en otras jurisdicciones para auditar sistemas de IA. Además, la creación de un organismo independiente encargado de supervisar el uso de la IA en el ámbito judicial podría garantizar una mayor imparcialidad en la evaluación de los algoritmos. Este organismo podría emitir informes periódicos que detallen el impacto de las herramientas de IA en los procesos judiciales, asegurando que las decisiones asistidas por estas tecnologías sean auditables y estén libres de sesgos que puedan comprometer su validez.
Otro aspecto crítico es la formación de los operadores judiciales en el uso de la IA. La política no contempla programas específicos de capacitación, lo que podría limitar la capacidad de los jueces y funcionarios para utilizar estas herramientas de manera efectiva y responsable. La inclusión de módulos de formación obligatorios sobre ética algorítmica y gestión de riesgos tecnológicos sería un paso importante para garantizar que el sistema judicial esté preparado para los desafíos de la automatización.
V.) Anexo I: Definiciones y riesgo.
El anexo I de la política proporciona definiciones claras de conceptos clave, como la inteligencia artificial generativa y las alucinaciones, lo que facilita la comprensión de los términos técnicos por parte de los operadores judiciales. Este esfuerzo es particularmente relevante en un contexto donde los errores de los sistemas automatizados, como las alucinaciones, han sido documentados en múltiples jurisdicciones, generando preocupaciones sobre la fiabilidad de la IA en el ámbito judicial. El reconocimiento de riesgos como la privacidad, el sesgo del modelo y la opacidad algorítmica demuestra una preocupación legítima por los perjuicios potenciales, alineándose con las obligaciones impuestas por la normativa de protección de datos.
Sin embargo, la ausencia de guías prácticas para mitigar estos riesgos representa una limitación significativa. Por ejemplo, la política no establece procedimientos específicos para la anonimización de datos judiciales ni para la realización de evaluaciones de impacto previas, medidas que son esenciales para prevenir vulneraciones de derechos fundamentales como el derecho a la intimidad procesal. La incorporación de técnicas avanzadas de anonimización, como la k-anonimidad o la privacidad diferencial, podría fortalecer la protección de los datos sensibles, garantizando que la IA no se convierta en un instrumento de discriminación o exposición indebida.
Además, sería útil incluir un apartado sobre la gestión de incidentes relacionados con la IA, como los casos en los que un sistema genere resultados erróneos o sesgados. La creación de un protocolo para la notificación y corrección de estos incidentes, junto con la capacitación de los operadores judiciales en la identificación de fallos algorítmicos, podría minimizar los riesgos asociados con el uso de estas tecnologías.
VI.) Anexo II: Casos de uso.
La categorización de los casos de uso en permitidos, sujetos a aprobación y prohibidos establece un marco jerárquico que busca equilibrar la utilidad de la IA con la protección de los derechos fundamentales. Los usos permitidos, como la traducción de textos públicos o la generación de resúmenes, reflejan un enfoque práctico que puede agilizar tareas administrativas sin comprometer la esencia jurisdiccional. Por ejemplo, la traducción automática de documentos judiciales puede facilitar el acceso a la justicia para personas no hispanohablantes, alineándose con el principio de Acceso Universal.
Sin embargo, la dependencia de la aprobación de la dirección para casos intermedios podría generar cuellos de botella, afectando la eficiencia del sistema judicial. Para mitigar este problema, se podrían establecer procedimientos de autorización más ágiles, como comités de evaluación especializados que operen con plazos definidos. Respecto a los casos prohibidos, como la emisión automática de resoluciones, la política acierta al preservar la potestad de decisión del juez, en línea con el principio de proporcionalidad reconocido por el Tribunal Constitucional. No obstante, la prohibición de sustituciones en reuniones por resúmenes automáticos podría reconsiderarse, permitiendo su uso como apoyo supervisado, dado el avance de las tecnologías de transcripción en 2025, que han demostrado alta precisión en la generación de actas y resúmenes.
Además, sería conveniente ampliar el anexo con ejemplos concretos de casos de uso, incluyendo escenarios específicos en los que la IA pueda ser aplicada de manera segura y eficiente. Por ejemplo, el uso de sistemas de IA para la predicción de cargas de trabajo judicial o la identificación de patrones en jurisprudencia podría optimizar la gestión de los tribunales sin comprometer la independencia judicial.
VII.) Conclusión:
La Política de uso de la Inteligencia Artificial en la Administración de Justicia de 2024 establece un fundamento ético y jurídico sólido para la integración de la IA en el sistema judicial español. Sin embargo, los avances tecnológicos observados en 2025, junto con la creciente complejidad de los modelos de IA, exigen una actualización del documento para garantizar su relevancia y eficacia. La incorporación de protocolos más detallados para la supervisión algorítmica, la capacitación de los operadores judiciales y la mitigación de riesgos, junto con la flexibilización de ciertas restricciones, como las relacionadas con las APIs, puede consolidar esta política como un referente en la materia.
En última instancia, la integración responsable de la IA en la justicia debe priorizar la protección de los derechos fundamentales y la confianza ciudadana en el sistema judicial. La adopción de estándares internacionales, la creación de mecanismos de auditoría independientes y la promoción de la transparencia en el uso de estas tecnologías serán clave para lograr este objetivo. Con los ajustes adecuados, la política del CTEAJE tiene el potencial de convertirse en un modelo para otras jurisdicciones que buscan aprovechar los beneficios de la IA sin comprometer los principios del Estado de Derecho.
Perfil de LinkedIn para contacto, disponible en: