Redactado por Diego Fierro Rodríguez, quien es (entre otras muchas cosas) letrado de la Administración de Justicia Letrado en el Ministerio de Justicia de España. Imparte cursos para cuerpos generales como formador en el Instituto Andaluz de Administración Pública y colabora habitualmente con revistas de investigación y difusión jurídica, como Economist & Jurist, Law & Trends, Legaltoday y Confilegal, estando enfocado en el estudio de aspectos vinculados con la Administración de Justicia y las nuevas tecnologías, entre otras materias. Igualmente, es codirector de la Revista Acta Judicial (…).
I. Introducción al desafío tecnológico en la justicia:
El sistema judicial estadounidense, diseñado como un baluarte para garantizar el equilibrio entre el poder estatal y los derechos individuales, enfrenta un desafío estructural de proporciones inéditas derivado de la incorporación de herramientas de inteligencia artificial en los procesos deliberativos de los tribunales. Lo anterior me sugiere que la adopción de estas tecnologías no solo representa una innovación en la gestión de expedientes judiciales, sino también un riesgo profundo para los principios de precisión, veracidad y responsabilidad que sustentan la administración de justicia.
Los algoritmos, al generar contenido que parece plausible pero carece de una verificación intrínseca de los hechos, desafían los cimientos mismos del sistema de confrontación, donde la exactitud de los argumentos es un pilar irrenunciable. Los casos de los jueces Henry Wingate, en el Distrito Sur de Misisipi, y Julien Neals, en el Distrito de Nueva Jersey, ilustran de manera paradigmática cómo el uso no supervisado de la inteligencia artificial puede derivar en resoluciones judiciales plagadas de inexactitudes, comprometiendo no solo la legitimidad de los pronunciamientos individuales, sino también la confianza pública en la capacidad de los tribunales para impartir justicia con rigor y equidad. Este fenómeno, lejos de ser un incidente aislado, revela una transformación más amplia en la que la tecnología pone a prueba los límites de la deliberación humana en un contexto donde la precisión es un imperativo ético y jurídico.
La integración de la inteligencia artificial en el ámbito judicial responde a una búsqueda legítima de eficiencia en tribunales sobrecargados por el volumen de casos y la presión de plazos procesales. Sin embargo, la celeridad que estas herramientas prometen viene acompañada de un riesgo significativo: la propensión de los modelos de lenguaje a producir lo que en la literatura técnica se denomina «alucinaciones», es decir, información que parece verosímil pero que carece de fundamento fáctico o jurídico. Considero que esta característica inherente a los algoritmos, que priorizan la coherencia narrativa sobre la verdad objetiva, plantea un desafío fundamental para un sistema judicial que depende de la veracidad de los precedentes y los hechos probados. Los errores cometidos por Wingate y Neals, aunque distintos en su contexto, comparten un origen común: la confianza excesiva en herramientas tecnológicas que, sin una supervisión adecuada, pueden generar distorsiones que socavan la integridad del proceso judicial. La falta de protocolos claros para el uso de estas tecnologías agrava aún más el problema, dejando a los tribunales en una posición vulnerable frente a errores que podrían evitarse con una validación humana rigurosa.
Entiendo que la irrupción de la inteligencia artificial en el ámbito judicial no solo cuestiona los procedimientos técnicos, sino también los fundamentos éticos de la profesión legal. La delegación de tareas analíticas a algoritmos opacos, cuyos procesos internos son difíciles de auditar, plantea interrogantes sobre la responsabilidad de los jueces y sus equipos en la verificación de los contenidos generados. En un sistema donde la confianza pública depende de la percepción de imparcialidad y competencia, los errores derivados del uso de la inteligencia artificial pueden tener consecuencias devastadoras, no solo para los casos individuales, sino para la legitimidad del poder judicial en su conjunto. Lo anterior me obliga a deducir que la solución no radica en prohibir estas herramientas, sino en desarrollar marcos normativos que equilibren la eficiencia tecnológica con los principios de transparencia, accountability y debido proceso, asegurando que la inteligencia artificial permanezca como un instrumento auxiliar y no como un sustituto de la deliberación humana.
II. Error procesal en Misisipi:
El 20 de julio de 2025, el juez Henry Wingate, del Distrito Sur de Misisipi, emitió una orden que suspendía temporalmente una prohibición estatal sobre programas de diversidad e inclusión en universidades públicas, una decisión que, en principio, buscaba proteger derechos fundamentales en el ámbito educativo. Sin embargo, el examen detallado del auto reveló errores procesales de una gravedad que trascendía los descuidos administrativos ordinarios. La resolución hacía referencia a declaraciones juradas de cuatro individuos cuyos testimonios no constaban en el expediente judicial, un fallo que comprometía la validez fáctica del pronunciamiento y violaba los principios básicos del debido proceso. Además, los abogados del estado señalaron que la identificación de las partes en litigio —demandantes y demandados— era incorrecta, lo que constituía una infracción procesal que afectaba directamente la integridad del procedimiento. Considero que estas anomalías no solo debilitan la autoridad de la resolución, sino que también exponen una vulnerabilidad sistémica en la adopción de tecnologías emergentes sin una supervisión adecuada. La magnitud de estos errores sugiere que no se trata de simples equivocaciones humanas, sino de fallos que podrían estar vinculados al uso de herramientas de inteligencia artificial que generan contenido sin verificar su correspondencia con los hechos del caso.
La reticencia del juez Wingate a esclarecer el origen de estos errores, limitándose a calificarlos como «equivocaciones clericales», resulta profundamente preocupante. Esta opacidad impide un escrutinio necesario sobre la posible intervención de herramientas de inteligencia artificial, cuya utilización sin controles rigurosos podría haber inducido las distorsiones detectadas. Tres días después de la emisión del auto original, Wingate reemplazó el documento por una versión corregida, pero su negativa a proporcionar una explicación detallada sobre las causas de los errores plantea interrogantes sobre la diligencia debida en el uso de tecnologías avanzadas. Entiendo que esta falta de transparencia refleja una tensión más amplia en el ámbito judicial: la dificultad de conciliar la adopción de herramientas tecnológicas con los principios de responsabilidad y rendición de cuentas que son esenciales en el derecho. La ausencia de un debate abierto sobre el uso de la inteligencia artificial en este caso no solo limita la capacidad de los tribunales para aprender de sus errores, sino que también perpetúa una percepción de opacidad que puede erosionar la confianza pública en la administración de justicia.
Lo anterior me sugiere que el caso de Misisipi no es un incidente aislado, sino un síntoma de un problema estructural que requiere una respuesta normativa urgente. La confianza en el sistema judicial depende de la capacidad de los jueces para garantizar que sus resoluciones estén fundamentadas en hechos verificables y precedentes legítimos. Cuando herramientas de inteligencia artificial, que carecen de juicio crítico propio, se utilizan sin una supervisión adecuada, el riesgo de errores procesales aumenta exponencialmente, comprometiendo no solo la validez de las resoluciones individuales, sino también la percepción de imparcialidad del poder judicial. Este caso pone de manifiesto la necesidad de establecer protocolos claros que regulen el uso de la inteligencia artificial en los tribunales, incluyendo la obligatoriedad de revisiones humanas exhaustivas y la documentación detallada de las fuentes utilizadas. Sin estas medidas, los tribunales seguirán expuestos a errores que podrían evitarse con una mayor diligencia en la integración de la tecnología en los procesos judiciales.
III. Inexactitudes en Nueva Jersey:
En el Distrito de Nueva Jersey, el juez Julien Neals enfrentó un problema de naturaleza análoga, pero con matices que agravan sus implicaciones para la integridad del sistema judicial. En una resolución que denegaba la desestimación de una demanda por fraude bursátil contra la farmacéutica CorMedix, Neals incluyó referencias a precedentes judiciales que resultaron ser inexistentes. Los abogados de la defensa demostraron que los extractos citados no figuraban en las sentencias referenciadas y que, en algunos casos, las conclusiones de dichos fallos habían sido tergiversadas, lo que comprometía gravemente la fundamentación jurídica de la decisión. Este error no solo socavó la credibilidad del auto, sino que también expuso una falla sistémica en los procesos de validación internos del tribunal. Fuentes cercanas al caso revelaron que un asistente temporal había empleado una herramienta de inteligencia artificial para redactar un borrador inicial, el cual se incorporó al registro público sin una revisión exhaustiva. Ello me obliga a deducir que la ausencia de controles adecuados permitió que un instrumento tecnológico, concebido como auxiliar, se convirtiera en un vector de inexactitudes que afectaron la integridad del proceso judicial.
La incorporación de un borrador generado por inteligencia artificial al registro público sin una validación adecuada pone de manifiesto la fragilidad de los sistemas de supervisión actuales en los tribunales. La inteligencia artificial, por su diseño, no distingue entre información veraz y contenido ficticio, lo que la convierte en una herramienta particularmente peligrosa en contextos donde la precisión de las referencias jurídicas es un requisito ético y profesional ineludible. En el caso de Nueva Jersey, la falta de una revisión humana rigurosa permitió que las «alucinaciones» del algoritmo se filtraran al pronunciamiento judicial, comprometiendo no solo la validez de la resolución, sino también la confianza en la competencia del juez para discernir entre argumentos legítimos y fabricaciones algorítmicas. Considero que este incidente subraya la necesidad de establecer protocolos claros que regulen el uso de la inteligencia artificial en la redacción de documentos judiciales, incluyendo la obligatoriedad de auditorías internas y la verificación cruzada de todas las referencias citadas. Sin estas medidas, los tribunales corren el riesgo de perpetuar errores que podrían evitarse con una mayor diligencia en la supervisión de las herramientas tecnológicas.
Lo anterior me sugiere que el caso de Nueva Jersey no es un mero error administrativo, sino una advertencia sobre los peligros de delegar tareas críticas a tecnologías que carecen de juicio crítico propio. La confianza pública en el sistema judicial depende de la percepción de que los jueces actúan con imparcialidad y rigor en la fundamentación de sus decisiones. Cuando un tribunal emite una resolución basada en precedentes ficticios, el daño no se limita al caso en cuestión, sino que se extiende a la percepción de legitimidad del poder judicial en su conjunto. Este episodio pone de manifiesto la necesidad de un cambio cultural en los tribunales, donde la adopción de tecnologías avanzadas se acompañe de una comprensión clara de sus limitaciones y riesgos. La inteligencia artificial puede ser una herramienta poderosa para agilizar tareas administrativas, pero su uso en la redacción de resoluciones judiciales debe estar estrictamente regulado para evitar que las alucinaciones algorítmicas comprometan la integridad del proceso judicial.
IV. Alucinaciones jurídicas como fenómeno sistémico:
Los casos de Wingate y Neals no constituyen anomalías aisladas, sino manifestaciones de un problema estructural que ha ganado relevancia en los últimos años. Desde 2023, se han registrado más de 150 instancias en tribunales estadounidenses donde herramientas de inteligencia artificial, como los modelos de lenguaje generativo, han producido precedentes ficticios o citas adulteradas, un fenómeno conocido en la doctrina como «alucinaciones jurídicas». La causa subyacente de este problema radica en la arquitectura de los modelos de lenguaje, diseñados para generar secuencias de palabras plausibles en lugar de verificar la veracidad de los contenidos. Esta característica, aunque útil en contextos creativos, resulta profundamente problemática en el ámbito judicial, donde la exactitud de los precedentes y los hechos probados es un requisito fundamental para la validez de las resoluciones. Asumo que esta dinámica explica por qué tribunales como el del Distrito Sur de Indiana han impuesto sanciones a letrados que basaron sus argumentos en sentencias inexistentes, calificando el uso negligente de la inteligencia artificial como una violación de los deberes éticos profesionales. Estos episodios evidencian que la adopción de tecnologías avanzadas, sin una comprensión clara de sus limitaciones, puede generar consecuencias devastadoras para la legitimidad del sistema judicial.
El fenómeno de las alucinaciones jurídicas no solo afecta la calidad de las resoluciones judiciales, sino que también plantea interrogantes sobre la responsabilidad ética de los profesionales del derecho en la era de la automatización. En un sistema adversarial, donde los argumentos deben estar fundamentados en hechos verificables y precedentes legítimos, la introducción de contenido ficticio generado por algoritmos representa una amenaza directa a los principios de equidad y transparencia. La proliferación de estos errores sugiere que muchos profesionales del derecho no están plenamente conscientes de las limitaciones de las herramientas de inteligencia artificial, lo que resulta en una confianza indebida en su capacidad para producir contenido jurídicamente válido. Lo anterior me obliga a deducir que la solución a este problema requiere no solo una regulación más estricta del uso de la inteligencia artificial, sino también una capacitación exhaustiva para jueces y abogados sobre las características y riesgos de estas tecnologías. Sin una comprensión clara de cómo funcionan los modelos de lenguaje, los profesionales del derecho seguirán expuestos al riesgo de basar sus argumentos en información errónea, lo que podría tener consecuencias devastadoras para los justiciables y la confianza pública en el sistema judicial.
Además, el fenómeno de las alucinaciones jurídicas pone de manifiesto la necesidad de desarrollar estándares éticos específicos para el uso de la inteligencia artificial en el ámbito judicial. En muchos casos, los errores derivados de estas herramientas no son el resultado de una mala fe, sino de una falta de diligencia en la verificación de los contenidos generados. Tribunales como el del Distrito Sur de Indiana han comenzado a abordar este problema mediante la imposición de sanciones, pero estas medidas punitivas no son suficientes para abordar la raíz del problema. Considero que la creación de directrices éticas claras, que establezcan la responsabilidad de los profesionales del derecho en la supervisión de las herramientas tecnológicas, es esencial para prevenir la proliferación de alucinaciones jurídicas. Estas directrices deberían incluir la obligatoriedad de documentar el uso de la inteligencia artificial en la preparación de documentos judiciales y la implementación de auditorías internas para garantizar la exactitud de los contenidos. Solo a través de un enfoque proactivo y riguroso será posible mitigar los riesgos asociados con la adopción de estas tecnologías en el ámbito judicial.
V. Responsabilidad en el uso de la inteligencia artificial:
El derecho anglosajón impone a los profesionales del derecho la obligación de garantizar la exactitud de sus escritos, independientemente de si estos se elaboran con asistencia tecnológica. Sin embargo, la velocidad con la que la inteligencia artificial ha sido adoptada en los tribunales ha superado la capacidad de los marcos normativos para adaptarse a sus implicaciones. En el caso de Misisipi, el juez Wingate invocó su potestad para corregir «errores por omisión», pero evitó cualquier discusión sobre la responsabilidad última de las inexactitudes. Esta reticencia refleja una tensión no resuelta en el ámbito judicial: determinar quién debe responder por los errores derivados del uso de herramientas algorítmicas. ¿Es el juez, en su calidad de autoridad última, quien debe asumir la responsabilidad? ¿O recae esta en el asistente que operó la herramienta, o incluso en los desarrolladores del algoritmo? La Corte Constitucional de Colombia, en su Sentencia T-343/24, ofrece una perspectiva relevante al establecer que la inteligencia artificial debe limitarse a un rol subsidiario, sin reemplazar jamás la deliberación humana. Este principio, aunque teóricamente sólido, enfrenta obstáculos en la práctica, dado que los tribunales, abrumados por la carga de trabajo, ven en la automatización una solución aparente para agilizar sus procesos.
La ausencia de un marco normativo claro para el uso de la inteligencia artificial en los tribunales agrava el problema de la responsabilidad. En muchos casos, los errores derivados de estas herramientas no son el resultado de una negligencia intencional, sino de una falta de comprensión de sus limitaciones. Los modelos de lenguaje, por su diseño, no tienen la capacidad de discernir entre información veraz y contenido ficticio, lo que los convierte en herramientas inherentemente peligrosas en contextos donde la precisión es un imperativo ético y jurídico. Entiendo que esta característica exige una redefinición de los deberes de diligencia debida de los profesionales del derecho, quienes deben asumir la responsabilidad de verificar la exactitud de los contenidos generados por algoritmos. La falta de controles adecuados en los casos de Wingate y Neals pone de manifiesto la necesidad de establecer protocolos específicos que regulen el uso de la inteligencia artificial, incluyendo la obligatoriedad de revisiones humanas exhaustivas y la documentación detallada de las fuentes utilizadas. Sin estas medidas, los tribunales seguirán expuestos a errores que podrían evitarse con una mayor diligencia en la supervisión de las herramientas tecnológicas.
Lo anterior me sugiere que la solución a este problema requiere un enfoque multidimensional que combine regulación normativa, capacitación profesional y desarrollo tecnológico. La creación de estándares éticos específicos para el uso de la inteligencia artificial en el ámbito judicial es esencial para garantizar que estas herramientas se utilicen de manera responsable y transparente. Además, los tribunales deben invertir en la formación de jueces y abogados en las características y limitaciones de los modelos de lenguaje, asegurando que comprendan los riesgos asociados con su uso. Por último, los desarrolladores de tecnologías de inteligencia artificial tienen un papel crucial en la creación de modelos más transparentes y auditables, que permitan a los usuarios verificar los procesos internos de los algoritmos. Solo a través de un esfuerzo conjunto entre reguladores, profesionales del derecho y desarrolladores tecnológicos será posible mitigar los riesgos asociados con la adopción de la inteligencia artificial en el ámbito judicial, asegurando que estas herramientas sirvan como apoyo y no como sustituto de la deliberación humana.
VI. Riesgos de la opacidad tecnológica:
La dependencia de herramientas de inteligencia artificial en la redacción de resoluciones judiciales plantea riesgos que van más allá de los errores fácticos o jurídicos. La opacidad de los modelos de lenguaje actuales, frecuentemente descritos como «cajas negras» debido a la dificultad de auditar sus procesos internos, constituye un desafío directo a los principios de transparencia y rendición de cuentas que son esenciales en el derecho. En el caso de Nueva Jersey, la incorporación de un borrador generado por inteligencia artificial al registro público sin una revisión adecuada evidencia la fragilidad de los sistemas de supervisión actuales. Esta falta de controles permitió que las alucinaciones del algoritmo se filtraran al pronunciamiento judicial, comprometiendo no solo la validez de la resolución, sino también la confianza en la competencia del juez para discernir entre argumentos legítimos y fabricaciones algorítmicas. Lo anterior me sugiere que la opacidad de los modelos de inteligencia artificial representa un riesgo sistémico que debe abordarse con urgencia para preservar la integridad del sistema judicial.
La falta de transparencia en los procesos internos de los modelos de lenguaje plantea interrogantes sobre la capacidad de los tribunales para garantizar la responsabilidad en el uso de estas herramientas. En un sistema judicial donde la confianza pública depende de la percepción de imparcialidad y competencia, la introducción de errores derivados de algoritmos opacos puede tener consecuencias devastadoras. En el caso de Nueva Jersey, la filtración de un borrador no revisado al registro público pone de manifiesto la necesidad de establecer protocolos claros que regulen el uso de la inteligencia artificial en la redacción de documentos judiciales. Estos protocolos deberían incluir la obligatoriedad de revisiones humanas exhaustivas, la documentación detallada de las fuentes utilizadas y la implementación de auditorías internas para garantizar la exactitud de los contenidos generados. Sin estas medidas, los tribunales corren el riesgo de perpetuar errores que podrían evitarse con una mayor diligencia en la supervisión de las herramientas tecnológicas.
Considero que la solución a este problema requiere un cambio fundamental en el diseño de las herramientas de inteligencia artificial utilizadas en el ámbito judicial. Los modelos de «caja de cristal», cuyos procesos internos son auditables y transparentes, representan una alternativa prometedora a los sistemas propietarios opacos que dominan el mercado actual. Académicos de instituciones como Duke y Stanford han abogado por la adopción de estos modelos, argumentando que la transparencia es esencial para garantizar la confianza pública en el uso de la inteligencia artificial en los tribunales. Además, los tribunales deben establecer directrices éticas claras que regulen el uso de estas herramientas, incluyendo la obligatoriedad de documentar su empleo en la preparación de documentos judiciales. Solo a través de un enfoque proactivo y riguroso será posible mitigar los riesgos asociados con la opacidad tecnológica, asegurando que la inteligencia artificial sirva como un instrumento auxiliar y no como un sustituto de la deliberación humana.
VII. Hacia una jurisprudencia de la cautela:
Los episodios protagonizados por Wingate y Neals ilustran una paradoja inquietante: la tecnología que promete optimizar los procesos judiciales puede, si no se gestiona con el debido cuidado, socavar la confianza en las instituciones encargadas de impartir justicia. Si los jueces, en su rol de árbitros supremos de los hechos y el derecho, comienzan a cuestionar la veracidad de sus propias resoluciones, la legitimidad del sistema judicial queda en entredicho. ¿Qué garantías pueden ofrecerse a los justiciables de que sus casos serán resueltos con base en hechos verificables y no en alucinaciones algorítmicas? La solución no radica en prohibir el uso de la inteligencia artificial, sino en desarrollar marcos regulatorios que garanticen su empleo responsable y transparente. La proliferación de errores derivados de estas herramientas pone de manifiesto la necesidad de un cambio cultural en los tribunales, donde la adopción de tecnologías avanzadas se acompañe de una comprensión clara de sus limitaciones y riesgos.
La creación de marcos regulatorios para el uso de la inteligencia artificial en los tribunales debe ir acompañada de un esfuerzo concertado para educar a los profesionales del derecho sobre las características y limitaciones de estas herramientas. Los jueces y abogados deben estar capacitados para reconocer los riesgos asociados con el uso de modelos de lenguaje, incluyendo su propensión a generar contenido ficticio. Además, los tribunales deben implementar sistemas de auditoría interna que garanticen la exactitud de los contenidos generados por algoritmos, asegurando que todas las referencias jurídicas y fácticas sean verificadas antes de su incorporación a los pronunciamientos judiciales. Lo anterior me sugiere que la solución a este problema requiere un enfoque multidimensional que combine regulación normativa, capacitación profesional y desarrollo tecnológico. Solo a través de un esfuerzo conjunto será posible mitigar los riesgos asociados con la adopción de la inteligencia artificial en el ámbito judicial.
Académicos de instituciones como Duke y Stanford han propuesto la adopción de modelos de «caja de cristal», cuyos procesos sean auditables y accesibles, en contraposición a los sistemas propietarios que dominan el mercado actual. Estos modelos representan una alternativa prometedora para garantizar la transparencia y responsabilidad en el uso de la inteligencia artificial en los tribunales. Además, los desarrolladores de tecnologías de inteligencia artificial tienen un papel crucial en la creación de herramientas que sean compatibles con los principios éticos y jurídicos del sistema judicial. Mientras estas soluciones no se materialicen, el sistema judicial seguirá navegando en un terreno incierto, atrapado entre las promesas de eficiencia tecnológica y las exigencias de precisión y equidad que el derecho impone. La creación de una jurisprudencia de la cautela, que priorice la supervisión humana y la transparencia tecnológica, es esencial para preservar la confianza pública en el sistema judicial.
VIII. Conclusión:
El relato de los jueces Wingate y Neals no es solo una advertencia sobre los peligros de la inteligencia artificial en el ámbito judicial; es un recordatorio de que la equidad procesal no puede delegarse en máquinas. La tecnología, por avanzada que sea, debe permanecer subordinada a la supervisión humana, desempeñando un rol auxiliar y nunca sustituyendo el juicio crítico que define la labor judicial.
La confianza en el sistema judicial depende de la capacidad de los tribunales para garantizar que cada resolución esté fundamentada en hechos verificables y razonamientos rigurosos. Mientras la inteligencia artificial continúe generando espejismos digitales, la justicia deberá aferrarse a su compromiso con la verdad, asegurando que las herramientas tecnológicas sirvan como apoyo y no como reemplazo de la deliberación humana.
Perfil de LinkedIn para contacto, disponible en: