por Diego Fierro Rodríguez
I. Introducción a un encargo delicado en un contexto frágil
La llegada de la inteligencia artificial a la redacción de informes jurídicos y administrativos nos enfrenta a un dilema profundo. Nos promete eficiencia, pero a cambio nos exige una vigilancia constante. Un caso reciente en Australia sirve como advertencia palpable de lo que puede salir mal cuando esa vigilancia falla. El gobierno encargó un informe crucial a una consultora de prestigio, y lo que recibió fue un documento minado de errores, un producto de lo que se ha dado en llamar «alucinaciones» de la inteligencia artificial. Analizar este incidente no es un ejercicio académico; es una necesidad práctica para cualquier profesional del derecho que se enfrente a un ecosistema donde la veracidad ya no puede darse por sentada.
El escándalo conocido como «robo debt», un programa gubernamental que persiguió de manera ilegítima a ciudadanos que recibían ayudas sociales, había dejado una profunda desconfianza en la administración australiana. Para restaurarla, el gobierno del primer ministro Anthony Albanese decidió revisar todo el sistema. Confió esta tarea crítica a la consultora Deloitte, una firma con una envidiable cartera de contratos públicos y unos ingresos en el país que se cuentan por miles de millones. El precio acordado, 440.000 dólares, reflejaba la envergadura y la sensibilidad del encargo. Se pagaba, se suponía, por precisión, por rigor y, sobre todo, por una supervisión humana irreprochable.
La relevancia de este caso trasciende las fronteras australianas. En cualquier sistema jurídico, la legitimidad de las decisiones—ya sean administrativas o judiciales—descansa sobre la fiabilidad de la información que las sustenta. Cuando un informe técnico se convierte en base de políticas públicas, su integridad factual deja de ser un detalle académico para transformarse en una cuestión de justicia. La confianza, una vez erosionada, es tremendamente difícil de reconstruir.
II. Cuando las citas jurisprudenciales son espejismos
La verdad salió a la luz gracias al minucioso examen del profesor Chris Rudge. Con una paciencia forense, revisó el informe línea por línea y descubrió una realidad alarmante: más de veinte errores, muchos de ellos concentrados en las notas a pie de página. Lo que encontró no eran simples erratas, sino auténticas ficciones legales. El informe citaba de manera incorrecta un caso judicial clave y llegaba a inventar una cita de varias líneas atribuida a un juez. De forma aún más llamativa, se inventó por completo un discurso y se lo atribuyó a una juez cuyo nombre real, Melissa Perry, ni siquiera acertaron.
Quizás el ejemplo más gráfico fue la referencia a un libro titulado The Rule of Law and Administrative Justice in the Welfare State: A Study of Centrelink, supuestamente escrito por la profesora Lisa Burton Crawford. La académica confirmó que tal obra nunca existió. Este fenómeno de generar contenido ficticio pero verosímil es lo que se conoce técnicamente como «alucinación» de la inteligencia artificial. La máquina, en su afán por completar patrones, fabrica realidades alternativas. Para el profesor Rudge, esto no fue un simple fallo técnico, sino un «incumplimiento de la integridad y un incumplimiento de la confianza».
Podemos trazar una analogía con la falsedad documental. La diferencia crucial es que la inteligencia artificial no miente con intención; simplemente, carece de la comprensión necesaria para distinguir lo real de lo inventado. Ello me obliga a deducir que la responsabilidad última recae, inequívocamente, en los profesionales que la utilizan sin aplicar el filtro de su propio criterio.
III. El peligro real de crear políticas públicas basadas en espejismos
Este caso plantea una pregunta incómoda: ¿sobre qué cimientos estamos construyendo nuestras decisiones colectivas? Si un ministro, agobiado por la carga de trabajo, hubiera tomado aquel informe al pie de la letra, las consecuencias podrían haber sido graves. Políticas destinadas a reparar un daño podrían haber terminado perpetuándolo o creando uno nuevo. La paradoja es dolorosa: la misma tecnología que se contrató para sanar las heridas del «robo debt» demostró ser capaz de reproducir su lógica de desprecio por la verdad fáctica.
Este riesgo no es una mera especulación. Ya estamos viendo cómo esta «bazofia de la inteligencia artificial» contamina el quehacer legal. Abogados en distintos países han presentado escritos ante tribunales citando precedentes jurisprudenciales que solo existen en la imaginación de un algoritmo. Cada uno de estos incidentes no es solo una anécdota; es un pequeño golpe a los pilares de nuestro sistema de justicia. La tentación de la rapidez y el bajo costo no puede convertirse en una licencia para el abandono de nuestras obligaciones deontológicas más básicas.
IV. Una rendición de cuentas insuficiente
La reacción del gobierno fue, al menos en público, contundente. Calificó el trabajo de Deloitte como «claramente inaceptable» y exigió la corrección del informe. La consultora, acorralada, reveló entonces el uso de inteligencia artificial que había omitido inicialmente y accedió a reembolsar 97.000 dólares. Sin embargo, esta cantidad representa solo una fracción del costo total, y el gobierno aceptó el resto argumentando que el «trabajo sustancial» realizado merecía ser pagado. Esta decisión transmite un mensaje ambiguo: el error se reconoce, pero no se sanciona con la contundencia que muchos esperarían.
Resulta especialmente significativo que Deloitte se negara a explicar qué parte del informe fue generada por la máquina y no emitió una disculpa formal. En el mundo del asesoramiento jurídico, la asunción de responsabilidad implica algo más que un reembolso; exige un reconocimiento claro del error y un compromiso de enmienda. La ausencia de este gesto deja una sombra de duda sobre la cultura de la firma. Como contrapeso, el gobierno australiano ha anunciado que en el futuro exigirá a los consultores declarar el uso de inteligencia artificial y garantizar la calidad de sus productos. Es un primer paso necesario, pero probablemente no el último.
V. Conclusiones en torno a la irreductible primacía del criterio humano
Lo que sucedió en Australia no es una anomalía, sino un síntoma. Nos recuerda que la inteligencia artificial, por sofisticada que sea, es una herramienta, no un sustituto del juicio profesional. Su capacidad para procesar datos es invaluable, pero su tendencia a «alucinar» la hace profundamente peligrosa en contextos donde la exactitud no es negociable.
La lección final es tan simple como crucial: en el derecho y en la administración pública, la última palabra debe residir siempre en la supervisión humana. No podemos delegar en un algoritmo la verificación de un precedente, la cita de una ley o la redacción de un argumento que afectará vidas humanas. La tecnología debe estar al servicio de nuestra experiencia, no al revés. La confianza, ese bien tan frágil y esencial, no puede construirse sobre los cimientos inestables de una alucinación.