Diego Fierro Rodríguez
Letrado de la Administración de Justicia
Ministerio de Justicia de España
I. El engaño perfecto: Cuando la inteligencia artificial nos convence con mentiras creíbles
Imaginen por un momento que tienen un asistente perfecto: escribe como un literato, razona como un filósofo y responde a cualquier pregunta con una elocuencia envidiable. Pero hay un problema: de vez en cuando, sin avisar, se inventa cosas. Nos ofrece datos falsos, cita estudios que nunca existieron, nos da consejos legales basados en leyes imaginarias. Esto es exactamente lo que hacen las «alucinaciones» de la inteligencia artificial, y es mucho más común de lo que pensamos.
Lo fascinante -y a la vez preocupante- es que estos errores no son simples despistes que se puedan corregir con un parche técnico. Según el revelador estudio de OpenAI «Why Language Models Hallucinate», se trata de un fallo estructural, algo inherente a cómo funcionan estos sistemas. Es como si hubiéramos creado un coche que, por diseño, inevitablemente se saldrá de la carretera en ciertas curvas. No es un defecto de fabricación, es una característica del modelo.
Como jurista, esto me plantea preguntas incómodas: ¿cómo aplicamos nuestras leyes, diseñadas para productos con fallos ocasionales, a sistemas que por naturaleza cometen errores? ¿Dónde queda la responsabilidad cuando el problema no es que algo funcione mal, sino que funciona exactamente como fue diseñado?
Lo más inquietante es la asimetría de información. Los creadores de estas inteligencia artificial saben perfectamente que sus sistemas «inventan» respuestas, pero los usuarios confiamos en ellas como si fueran oráculos infalibles. Esta confianza malplaced es el caldo de cultivo perfecto para problemas legales de todo tipo.
II. El origen del problema: Por qué la inteligencia artificial prefiere mentir antes que decir «no sé»
Para entender por qué las inteligencias artificiales mienten tan convincentemente, hay que mirar cómo se entrenan. Estos sistemas aprenden básicamente a predecir qué palabra tiene más probabilidades de seguir a la anterior. No buscan la verdad, buscan la plausibilidad. Es como si les hubiéramos enseñado que quedarse callados es peor que inventarse una respuesta elegante.
Nuestras leyes de protección al consumidor exigen que los productos sean seguros en condiciones de uso normal. Pero, ¿podemos considerar seguro un sistema que, en uso normal, inevitablemente genera información falsa? Es como vender un medicamento advirtiendo que «a veces no funciona», pero sin especificar cuándo.
El verdadero peligro está en lo que llamo «alucinaciones silenciosas»: esos errores que suenan tan convincentes que ni siquiera nos planteamos verificarlos. Un consejo médico erróneo, una interpretación legal equivocada, un dato financiero inventado… Los riesgos son enormes, especialmente porque estos errores vienen envueltos en un discurso perfectamente articulado.
III. El círculo vicioso: Por qué los arreglos técnicos no bastan
Lo más frustrante es que los intentos de corregir estas alucinaciones suelen fracasar. No por incompetencia de los programadores, sino porque el sistema de evaluación mismo está viciado. Las métricas que usamos para medir el éxito de estas inteligencia artificial premian las respuestas concretas y castigan el «no lo sé». Es como si en un examen universitario, aprobaras siempre que escribieras algo, aunque fuera incorrecto, y suspendieras si admitías no saber la respuesta.
Desde la perspectiva legal, esto podría constituir un defecto de diseño. Si sabemos que un sistema tiende a inventarse respuestas y no implementamos mecanismos para que exprese incertidumbre, ¿no estamos siendo negligentes? Es como construir un puente sabiendo que tiene un punto débil, pero decidir no poner señales de advertencia.
En el derecho tenemos una figura interesante: la «responsabilidad por vicio propio». Se aplica cuando un producto tiene una característica peligrosa que no se puede eliminar sin cambiar su naturaleza. Si comercializas un cuchillo, asumes la responsabilidad de que es afilado y puede cortar. Con la inteligencia artificial, la pregunta es: ¿estamos comercializando sistemas que, por diseño, «cortan» la verdad?
IV. El desafío regulatorio: Cómo legislar en la era de la incertidumbre algorítmica
El nuevo Reglamento europeo de Inteligencia Artificial clasifica los sistemas según su riesgo. Las alucinaciones convierten a muchas inteligencia artificial en sistemas de alto riesgo, especialmente cuando se usan en medicina, derecho o finanzas. Pero la regulación actual se queda corta.
La transparencia que exige la ley debería significar algo más que un aviso genérico en letra pequeña. Debería implicar etiquetas claras del tipo: «Este sistema tiene un 15% de probabilidad de inventarse datos médicos» o «En consultas legales, verifique siempre las referencias normativas».
En propiedad intelectual, la situación es particularmente delicada. Si una inteligencia artificial genera un texto que infringe derechos de autor, ¿quién responde? ¿El usuario que hizo la pregunta? ¿Los desarrolladores que sabían que su sistema podía «alucinar» contenidos protegidos?
El derecho de daños enfrenta aquí su prueba más difícil: cómo asignar responsabilidad cuando el daño es previsible pero técnicamente inevitable con la tecnología actual.
V. Soluciones prácticas: Hacia una convivencia segura con inteligencia artificial imperfectas
Necesitamos un cambio de paradigma en cómo evaluamos estas tecnologías. En lugar de premiar las respuestas seguras pero potencialmente falsas, deberíamos valorar la honestidad algorítmica. Un sistema que dice «no estoy seguro» debería obtener mejor puntuación que uno que inventa una respuesta convincente.
Propongo algo similar a los semáforos nutricionales, pero para inteligencia artificial: etiquetas que indiquen claramente el nivel de confiabilidad en diferentes contextos. Un sistema podría ser «muy confiable» para tareas creativas pero «poco confiable» para asesoramiento legal.
También necesitamos regímenes de responsabilidad diferenciados. No es lo mismo usar una inteligencia artificial para generar ideas para una novela que para diagnosticar una enfermedad. En contextos de alto riesgo, quizás deba aplicarse una responsabilidad más estricta.
La cooperación internacional es crucial. Estas tecnologías no conocen fronteras, y necesitamos estándares comunes para no crear vacíos legales que pongan en riesgo a los usuarios.
VI. Reflexión final: Aprendiendo a vivir con inteligencia artificial que no siempre dicen la verdad
Las alucinaciones de la inteligencia artificial nos obligan a replantearnos algo muy profundo: cómo sabemos lo que sabemos, y en quién -o en qué- podemos confiar. No se trata solo de un problema técnico, sino epistemológico.
Como sociedad, necesitamos desarrollar una nueva forma de relacionarnos con estas tecnologías. Una que combine el aprovechamiento de sus capacidades con una sana desconfianza hacia sus limitaciones. Debemos aprender a usar la inteligencia artificial como lo que es: una herramienta extraordinariamente poderosa, pero imperfecta.
El estudio de OpenAI debería leerse como una llamada a la humildad. Nos recuerda que, por muy impresionante que sea la tecnología, sigue teniendo límites fundamentales. Nuestra respuesta legal a este desafío mostrará si somos capaces de gobernar tecnologías que amplifican tanto nuestras capacidades como nuestras vulnerabilidades.
Al final, se trata de encontrar el equilibrio entre la innovación y la protección, entre el progreso técnico y la seguridad jurídica. Un equilibrio que nos permita beneficiarnos de estas herramientas maravillosas sin caer en la ilusión de que son infalibles. Porque en el mundo real, como en el derecho, las consecuencias de confundir la apariencia con la realidad pueden ser profundamente graves.