Redactado por Diego Fierro Rodríguez, quien es (entre otras muchas cosas) letrado de la Administración de Justicia Letrado en el Ministerio de Justicia de España. Imparte cursos para cuerpos generales como formador en el Instituto Andaluz de Administración Pública y colabora habitualmente con revistas de investigación y difusión jurídica, como Economist & Jurist, Law & Trends, Legaltoday y Confilegal, estando enfocado en el estudio de aspectos vinculados con la Administración de Justicia y las nuevas tecnologías, entre otras materias. Igualmente, es codirector de la Revista Acta Judicial (…).
I. La irrupción de la inteligencia artificial en el asesoramiento jurídico:
La irrupción de sistemas basados en inteligencia artificial, particularmente los modelos de lenguaje generativo, ha transformado radicalmente la forma en que los individuos acceden a información jurídica, desde cuestiones contractuales hasta procedimientos administrativos o penales, en un contexto donde el ordenamiento jurídico español, estructurado en torno a principios como la legalidad, la seguridad jurídica y la protección de derechos fundamentales, exige una interpretación precisa y contextualizada.
Lo anterior me sugiere que, aunque estas herramientas tecnológicas prometen una democratización del acceso al conocimiento jurídico, al ofrecer respuestas inmediatas sin la intervención de profesionales, introducen un riesgo sistémico de desinformación que puede comprometer decisiones críticas, como la redacción de contratos, la gestión de herencias o la defensa en procesos judiciales. Entiendo que la accesibilidad de estas plataformas, que procesan vastos conjuntos de datos mediante algoritmos pero carecen de juicio contextual, genera una ilusión de suficiencia informativa, donde los usuarios, desprovistos de formación jurídica, asumen que las respuestas generadas equivalen a un dictamen profesional, ignorando que estos sistemas no están sujetos a las obligaciones deontológicas que rigen la abogacía, tales como la diligencia, la veracidad o la responsabilidad civil por negligencia, principios consagrados en el Código Civil y en el Estatuto General de la Abogacía Española.
Considero que esta dinámica no solo altera el paradigma tradicional del asesoramiento jurídico, basado en la relación fiduciaria entre abogado y cliente, sino que plantea interrogantes profundos sobre la fiabilidad de la información procesada por máquinas que replican patrones estadísticos sin comprensión semántica, lo que puede derivar en perjuicios económicos, patrimoniales o incluso penales para los usuarios, agravados por la dificultad de rectificar decisiones basadas en información errónea una vez iniciados procedimientos formales.
La evolución histórica del acceso al conocimiento jurídico, desde los tratados doctrinales y las consultas presenciales hasta las bases de datos digitales, ha culminado en esta era de algoritmización, donde la inteligencia artificial se posiciona como un intermediario omnipresente, capaz de sintetizar normas y jurisprudencia en respuestas aparentemente coherentes pero potencialmente falaces. Asumo que esta transición implica un riesgo estructural, dado que el ordenamiento jurídico, compuesto por leyes orgánicas, reales decretos y jurisprudencia vinculante, requiere una interpretación casuística que contemple variables específicas, como los plazos procesales, los requisitos formales de los contratos o las particularidades de cada jurisdicción, elementos que un algoritmo genérico no puede evaluar con la precisión exigida por el principio de seguridad jurídica.
Lo indicado obliga a deducir que la proliferación de consultas a estas herramientas, motivada por su gratuidad y rapidez, podría generar una oleada de litigios derivados de errores inducidos, sobrecargando los tribunales con reclamaciones por resoluciones administrativas viciadas, contratos nulos o defensas penales mal planteadas, que podrían haberse evitado mediante la intervención de un abogado cualificado. En este sentido, la algoritmización no solo democratiza el acceso al conocimiento, sino que también democratiza el error, afectando especialmente a sectores vulnerables que, por limitaciones económicas o educativas, optan por soluciones tecnológicas aparentemente simples, lo que podría vulnerar el derecho fundamental al acceso a la justicia efectiva, consagrado en el artículo 24 de la Constitución Española.
Además, la opacidad de los algoritmos plantea desafíos en términos de trazabilidad y auditabilidad, ya que los modelos de inteligencia artificial operan como cajas negras, dificultando la verificación de las fuentes normativas o jurisprudenciales invocadas. Lo anterior me sugiere que esta falta de transparencia puede exacerbar desigualdades, al privilegiar a usuarios con mayor alfabetización digital mientras expone a otros a riesgos de desinformación, especialmente en áreas donde los detalles normativos, como los plazos de prescripción o los requisitos de forma en actos jurídicos, son determinantes.
Parece lógico pensar que esta asimetría informativa contraviene los principios de buena fe y equilibrio en las relaciones jurídicas, generando una brecha entre la promesa tecnológica de eficiencia y la realidad de un sistema jurídico que prioriza la protección de derechos. Considero que, en ausencia de mecanismos de control, la confianza en estas herramientas podría erosionar la soberanía interpretativa del derecho, delegando en máquinas decisiones que requieren juicio humano, lo que podría interpretarse como una forma de alienación jurídica que compromete la autonomía del individuo en la toma de decisiones legales.
Finalmente, la proliferación de estas tecnologías plantea cuestiones éticas sobre la responsabilidad de los proveedores de inteligencia artificial, quienes no enfrentan las mismas obligaciones que los profesionales del derecho, como la inscripción en colegios de abogados o la sujeción a códigos deontológicos. No es difícil discernir que esta disparidad podría fomentar una cultura de dependencia tecnológica, debilitando la relación fiduciaria entre abogado y cliente, y generando un vacío regulatorio que expone a los usuarios a riesgos innecesarios, especialmente en contextos donde la precisión jurídica es crucial para evitar consecuencias irreversibles.
II. Exposición detallada de un supuesto fáctico ilustrativo:
Para ilustrar los peligros de la algoritmización en el asesoramiento jurídico, resulta pertinente analizar un caso en el que un individuo, confiando en un modelo de inteligencia artificial como ChatGPT, tomó decisiones que comprometieron gravemente su situación económica, específicamente en el ámbito de la planificación de su jubilación bajo un régimen especial. Lo anterior me sugiere que el afectado, buscando una proyección de su futura pensión, recurrió a consultas iterativas con la herramienta, preguntando sobre el monto que le correspondería, sin advertir que las respuestas generadas carecían de fundamento normativo sólido, un fenómeno conocido como alucinaciones algorítmicas, que en este caso se manifestó en la invocación de una disposición cuadragésima séptima de una ley existente, atribuyéndole un cálculo de ochocientos euros mensuales, cuando tal disposición era inexistente, constituyendo una invención derivada de la extrapolación estadística de datos no verificados.
Entiendo que este error, documentado en incidentes similares donde la inteligencia artificial generó información ficticia, como citas jurisprudenciales falsas en demandas judiciales, evidencia la propensión de estos sistemas a producir respuestas que, aunque coherentes en apariencia, carecen de validez legal, lo que en el ámbito jurídico equivale a una falsedad material susceptible de inducir a error grave. Considero que el cliente, guiado por esta información errónea, formalizó una solicitud ante el Instituto Nacional de la Seguridad Social sin consultar a un abogado especializado, resultando en una resolución que limitó su pensión a doscientos euros vitalicios, un monto que compromete su estabilidad económica y vulnera el principio constitucional de suficiencia en la protección social, agravado por las limitaciones para rectificar resoluciones administrativas una vez emitidas, salvo en casos de error material o aritmético probado.
Este desenlace refleja, no solo una falta de diligencia por parte del usuario, sino, también, la ausencia de mecanismos de responsabilidad en los proveedores de inteligencia artificial, quienes, a diferencia de los abogados, no están sujetos a sanciones disciplinarias ni a responsabilidad civil por negligencia con el régimen vigente. Ello me obliga a deducir que este caso representa un supuesto de inducimiento a error mediante información aparentemente veraz, donde la inteligencia artificial actúa como un agente cuasi-consultivo sin las salvaguardas éticas ni jurídicas que protegen al usuario, abriendo la posibilidad de reclamaciones judiciales basadas en la Ley Orgánica 3/2018, de Protección de Datos Personales y Garantía de los Derechos Digitales, o en la normativa sobre competencia desleal si se demostrara una promoción indebida de estas herramientas como sustitutas de servicios profesionales. Además, este incidente se alinea con otros reportados, como el de un usuario que consultó sobre plazos para reclamar un despido y recibió respuestas contradictorias, destacando la inestabilidad de los outputs algorítmicos, que pueden variar según la formulación de la pregunta, omitiendo detalles críticos como la interrupción de plazos procesales o los requisitos de conciliación previa en procedimientos laborales.
Entiendo que la narrativa del caso revela una cadena causal donde la confianza ciega en la inteligencia artificial conduce a decisiones irrevocables, como la presentación de solicitudes administrativas o la redacción de documentos jurídicos que activan procedimientos formales, donde la revisión posterior exige probar vicios de consentimiento, un estándar elevado en la jurisprudencia del Tribunal Supremo. Precisamente, este supuesto pone de manifiesto la necesidad de advertencias explícitas en las plataformas de inteligencia artificial sobre sus limitaciones en el asesoramiento jurídico, similares a las exigidas en productos financieros de alto riesgo, para mitigar perjuicios patrimoniales o procesales. A este respecto, asumo que, en ausencia de tales medidas, casos similares proliferarán, afectando a usuarios que, por desconocimiento, optan por estas herramientas en lugar de profesionales cualificados, especialmente en áreas como el derecho contractual, donde errores en la redacción de cláusulas pueden derivar en nulidad absoluta, o en el derecho penal, donde una defensa mal planteada puede agravar las consecuencias legales.
Finalmente, este caso sirve como paradigma de los riesgos de la algoritmización, destacando la importancia de promover el uso complementario de la inteligencia artificial en lugar de su sustitución de la asesoría profesional, para garantizar que las decisiones jurídicas se tomen con base en información precisa y adaptada a las circunstancias individuales, preservando así el derecho a la tutela judicial efectiva.
III. Análisis jurídico de las implicaciones en el ordenamiento jurídico:
Desde una perspectiva jurídica, la algoritmización del asesoramiento plantea implicaciones que afectan transversalmente al ordenamiento jurídico, comprometiendo principios como la seguridad jurídica, la buena fe y el acceso a la justicia, consagrados en la Constitución Española y en instrumentos europeos como la Carta de los Derechos Fundamentales de la Unión Europea. Lo anterior me sugiere que, en supuestos como el analizado, donde un error algorítmico induce a decisiones jurídicas erróneas, se produce una vulneración implícita del principio de legalidad, ya que las actuaciones basadas en información falaz pueden derivar en resoluciones administrativas viciadas, contratos nulos o estrategias procesales defectuosas, algo especialmente grave en contextos donde las decisiones impactan derechos fundamentales, como la propiedad, la libertad o la dignidad.
Asumo que un análisis detallado de las obligaciones implícitas en el uso de plataformas de inteligencia artificial revelaría una asimetría informativa que favorece al proveedor, dejando al usuario en una posición de vulnerabilidad que contraviene los principios de buena fe contractual y equilibrio en las relaciones jurídicas, regulados en el Código Civil y en la Ley de Condiciones Generales de la Contratación. Ello me obliga a deducir que, en litigios derivados de errores algorítmicos, los tribunales podrían aplicar analogías con la responsabilidad profesional, como en casos de negligencia médica o legal, donde el daño causado por un consejo defectuoso genera indemnizaciones por lucro cesante y daño moral, extendiendo la normativa de protección al consumidor a estos nuevos actores tecnológicos. Además, la clasificación de sistemas de inteligencia artificial como de alto riesgo en el Reglamento de Inteligencia Artificial, cuando impactan en derechos fundamentales, impone obligaciones de transparencia y evaluación de conformidad, cuya ausencia actual agrava los riesgos de la algoritmización, especialmente en áreas como el derecho de familia, donde errores en acuerdos de divorcio pueden perpetuar conflictos, o el derecho mercantil, donde cláusulas mal redactadas pueden invalidar contratos.
Entiendo que las implicaciones jurídicas abarcan también la posible invocación de la responsabilidad objetiva por productos defectuosos, considerando la inteligencia artificial como un bien intangible con potencial dañino, requiriendo pruebas de causalidad entre el error algorítmico y el perjuicio sufrido. Considero que esto podría motivar reformas legislativas para incorporar salvaguardas contra la desinformación tecnológica, como requisitos de certificación para plataformas de asesoramiento jurídico automatizado, similares a los establecidos para productos financieros. Asumo que, sin estas adaptaciones, el sistema jurídico enfrentará un incremento en demandas por nulidad de actos jurídicos viciados por errores de inteligencia artificial, sobrecargando los tribunales y erosionando la confianza en la justicia.
Finalmente, este análisis pone de manifiesto una tensión entre la innovación tecnológica y la protección de derechos, donde la algoritmización amenaza la integridad del ordenamiento si no se regula adecuadamente, exigiendo un equilibrio que preserve la fiabilidad y la humanidad en la toma de decisiones jurídicas.
IV. Riesgos éticos y deontológicos en las profesiones de asesoramiento jurídico:
La irrupción de la inteligencia artificial en el asesoramiento jurídico plantea desafíos éticos y deontológicos que afectan la esencia de la profesión, regida por principios como la veracidad, la confidencialidad y la competencia técnica, consagrados en el Código Deontológico de la Abogacía Española y en las directrices del Consejo de la Abogacía Europea. Lo anterior me sugiere que la promoción de estas herramientas como alternativas gratuitas genera una competencia desleal que podría erosionar la confianza pública en los abogados, quienes, a diferencia de los sistemas algorítmicos, están sujetos a supervisión colegial y sanciones disciplinarias por incumplimientos, como la falta de diligencia o la violación de la confidencialidad.
Entiendo que la deontología profesional exige no solo una actualización constante, sino también una responsabilidad activa en advertir sobre los límites de las herramientas tecnológicas, y en este sentido, el uso irresponsable de inteligencia artificial por parte de usuarios no cualificados podría interpretarse como una abdicación de la responsabilidad personal, contraviniendo el principio ético de autonomía informada que sustenta el derecho moderno. Al hilo de este tema, desde un prisma ético más amplio, la algoritmización plantea un dilema utilitarista, donde los beneficios de accesibilidad chocan con los perjuicios derivados de errores sistemáticos, cuestionando si la sociedad debe priorizar la eficiencia tecnológica sobre la precisión humana en áreas donde los derechos fundamentales están en juego, como en la redacción de testamentos, la defensa penal o la negociación contractual.
Asumo que esta tensión podría mitigarse mediante regulaciones específicas, como las propuestas en el Reglamento de Inteligencia Artificial, que clasifica los sistemas de inteligencia artificial de alto riesgo y exige evaluaciones de conformidad, pero mientras estas normas no se implementen plenamente, persiste un vacío regulatorio que expone a los usuarios a riesgos innecesarios. Ello me obliga a deducir que los abogados tienen un deber proactivo de educación pública, promoviendo el uso complementario de la inteligencia artificial en lugar de su sustitución, para preservar la relación fiduciaria con el cliente y evitar que la algoritmización devenga en una forma de alienación jurídica. Además, la ética profesional exige que los abogados eviten delegar tareas críticas a sistemas algorítmicos, especialmente en áreas sensibles como la protección de datos personales o la representación en juicios, donde la confidencialidad y la precisión son esenciales, y donde el uso de servidores externos para procesar información podría vulnerar la normativa de protección de datos.
Entiendo que los riesgos deontológicos se extienden a la publicidad, donde el uso de inteligencia artificial para generar contenidos promocionales podría inducir a error a los clientes, contraviniendo las normas de veracidad del Código Deontológico. Considero que esto plantea interrogantes sobre la compatibilidad de la inteligencia artificial con el rol humano en la justicia, donde el juicio ético es irremplazable para garantizar una representación adecuada. Asumo que, sin directrices claras, la profesión podría enfrentar una erosión de su autoridad moral, especialmente si los abogados mismos sucumben al sesgo de automatización, aceptando outputs algorítmicos sin verificación, como se ha observado en casos de demandas redactadas con citas falsas.
Finalmente, los riesgos éticos demandan una reflexión colectiva sobre cómo integrar la inteligencia artificial sin comprometer los principios deontológicos fundamentales, promoviendo una práctica jurídica que combine innovación con responsabilidad, para preservar la confianza en la profesión y la justicia.
V. Perspectivas regulatorias y preventivas ante la algoritmización:
En el horizonte regulatorio, la necesidad de contrarrestar los peligros de la algoritmización del asesoramiento jurídico se traduce en la urgencia de marcos normativos que integren principios de transparencia algorítmica y responsabilidad compartida, inspirados en directivas europeas como el Reglamento General de Protección de Datos y el Reglamento de Inteligencia Artificial sobre inteligencia artificial, que clasifica los sistemas según su nivel de riesgo e impone requisitos estrictos para aquellos que impactan derechos fundamentales.
Lo anterior me sugiere que futuras reformas legislativas podrían incorporar cláusulas de exención de responsabilidad para usuarios inducidos a error por información algorítmica, similares a las figuras de error invencible en el derecho penal o administrativo, y exigir a los proveedores de inteligencia artificial advertencias claras sobre los límites de sus sistemas en contextos jurídicos. Entiendo que, en el ámbito preventivo, los colegios de abogados y las instituciones educativas deben promover programas de alfabetización digital jurídica, capacitando a la ciudadanía para distinguir entre orientación preliminar y dictamen profesional, mientras que el Reglamento europeo establece obligaciones de auditoría y monitorización para sistemas de alto riesgo, como aquellos usados en asesoramiento legal. Considero que un enfoque multidisciplinario, involucrando a juristas, informáticos y especialistas en ética, es crucial para diseñar protocolos que minimicen las alucinaciones algorítmicas, asegurando que las respuestas se alineen con fuentes normativas y jurisprudenciales verificadas, y estableciendo certificaciones para plataformas de asesoramiento automatizado.
Asumo que, sin estas medidas, la proliferación de casos derivados de errores algorítmicos incrementará la litigiosidad, cuestionando la legitimidad de un sistema jurídico que no se adapta al ritmo de la tecnología, lo que exige una transposición nacional urgente del Reglamento europeo para abordar vacíos en responsabilidad civil. Ello me obliga a deducir que las perspectivas preventivas deben incluir mecanismos de certificación y sanciones para plataformas que omitan advertencias sobre su fiabilidad, promoviendo un uso ético de la inteligencia artificial en el derecho. Además, la regulación podría extenderse a prohibir prácticas que distorsionen decisiones jurídicas, como sistemas que generen documentos legales sin supervisión humana, protegiendo así la integridad de procesos como la contratación o la representación judicial.
Entiendo que las perspectivas regulatorias deben contemplar la prohibición de sistemas de inteligencia artificial con riesgos inaceptables, como aquellos que manipulen decisiones jurídicas críticas, aplicable a contextos como la redacción de contratos o la planificación sucesoria. Considero que esto podría inspirar leyes nacionales que exijan la divulgación de los algoritmos utilizados en plataformas consultivas, garantizando transparencia. Asumo que los programas educativos, integrando ética y derecho, serán clave para empoderar a los usuarios contra la desinformación algorítmica, fomentando una cultura de uso responsable.
Finalmente, estas perspectivas apuntan a un equilibrio entre innovación y protección, mediante regulaciones proactivas y medidas preventivas que refuercen la fiabilidad del asesoramiento jurídico en la era digital.
VI. Reflexión final sobre la preservación de la dimensión humana:
La preservación de la dimensión humana en el asesoramiento jurídico emerge como un imperativo frente a la algoritmización, garantizando que los derechos fundamentales no se subordinen a la eficiencia tecnológica, ya que el juicio humano incorpora matices éticos y contextuales esenciales para interpretar normas y proteger intereses individuales. Lo anterior me sugiere que, en un escenario donde la inteligencia artificial prolifera, se debe priorizar su uso complementario para evitar la deshumanización de procesos jurídicos, preservando la empatía y la responsabilidad inherentes a la abogacía.
Es cierto que esta preservación implica resistir la automatización total, reconociendo que los errores algorítmicos pueden perpetuar desigualdades al afectar desproporcionadamente a poblaciones vulnerables. Considero que la dimensión humana asegura una justicia equitativa, donde la tecnología sirve como herramienta, no como sustituto del discernimiento profesional.
Asumo que esta reflexión obliga a cuestionar si la sociedad está preparada para delegar decisiones jurídicas críticas a máquinas, abogando por un renacimiento del rol humano en el derecho. Ello me obliga a deducir que la preservación requiere educación continua y regulaciones que refuercen el valor del juicio personal. Además, esta dimensión fortalece la confianza en el sistema jurídico, contrarrestando la alienación tecnológica.
Entiendo que la reflexión invita a un equilibrio donde la inteligencia artificial amplifique la capacidad humana, protegiendo la dignidad en la toma de decisiones legales. Considero que ignorar esto podría erosionar los pilares éticos del derecho, llevando a una justicia impersonal.
Finalmente, la preservación de lo humano es el baluarte contra los peligros de la algoritmización desmedida, asegurando un derecho centrado en la persona.
Perfil de LinkedIn para contacto, disponible en: