por Diego Fierro Rodríguez
Letrado de la Administración de Justicia
Ministerio de Justicia de España
I. Un ministro de código y silicio
Imaginen entrar en un ministerio y encontrarse con que la máxima autoridad no es una persona, sino un algoritmo. Esto es exactamente lo que ha ocurrido en Albania, donde el primer ministro Edi Rama ha nombrado a una inteligencia artificial llamada Diella como ministra de contratación pública. No es ciencia ficción: es la nueva realidad de un país que busca en la tecnología la solución a uno de sus problemas más arraigados: la corrupción.
Diella, cuyo nombre significa «sol» en albanés, representa el intento de un gobierno por limpiar su administración mediante la frialdad impasible de un código informático. La han vestido con ropas tradicionales, le han dado aspecto femenino, pero en el fondo es pura matemática y procesamiento de datos. Albania, un país que lleva años luchando por entrar en la Unión Europea, apuesta fuerte: prefiere un ministro artificial que no se deje seducir por sobres bajo la mesa, antes que otro humano susceptible a tentaciones.
II. El problema de ponerle traje a un algoritmo
Aquí surge el primer problema jurídico serio: ¿cómo le ponemos traje y corbata -o en este caso, vestido tradicional- a algo que no tiene existencia legal? Nuestras leyes están pensadas para personas de carne y hueso, con DNI, responsabilidad penal y capacidad para responder ante los tribunales. Diella no tiene nada de esto. Es como intentar multar a una tormenta por inundar un sótano.
Cuando un ministro humano comete un error, podemos pedirle explicaciones, destituirlo o, en casos graves, llevarlo a los tribunales. Pero ¿qué hacemos cuando quien decide sobre contratos millonarios es un programa informático? ¿A quién demandamos? ¿A los programadores de Microsoft que crearon la plataforma? ¿Al gobierno que la implementó sin suficientes controles? Las leyes actuales no tienen respuesta para estas preguntas.
III. La promesa de transparencia y sus sombras
El gobierno albanés promete que Diella traerá transparencia absoluta a la contratación pública. Un algoritmo, nos dicen, no tiene amigos a quienes favorecer, ni familiares a quienes colocar, ni enemigos a quienes perjudicar. Suena maravilloso, pero la realidad es más compleja.
Los algoritmos tienen sus propios «vicios ocultos». Aprenden de datos históricos, y si esos datos contienen discriminaciones pasadas, las reproducirán automáticamente. Es como si contratáramos a un funcionario que hubiera leído solo actas de reuniones donde siempre se discriminaba a cierto tipo de empresas: actuaría igual sin siquiera darse cuenta.
Además, ¿cómo sabemos que Diella toma decisiones justas si no podemos entender cómo piensa? Los sistemas de inteligencia artificial son famosas «cajas negras»: vemos lo que entra y lo que sale, pero el proceso intermedio queda oculto en complejos cálculos matemáticos. Una empresa que pierda un contrato podría exigir explicaciones, y tendríamos que responder: «lo decidió el algoritmo», sin poder explicar por qué.
IV. El riesgo de los hackers y las manipulaciones
En un país como Albania, donde el crimen organizado tiene histórica influencia, poner la contratación pública en manos de un sistema informático es como organizar un banquete y dejar la puerta abierta. Grupos criminales sofisticados podrían intentar hackear el sistema, manipular los datos de entrada o envenenar el algoritmo con información falsa.
Peor aún: ¿qué pasa si los mismos funcionarios que deberían supervisar a Diella aprenden a manipularla? Podrían descubrir qué tipo de ofertas reciben su aprobación automática y diseñar licitaciones a medida, haciendo trampas con la complicidad involuntaria de la inteligencia artificial. La corrupción no desaparecería, simplemente se modernizaría.
V. Lo que Bruselas podría pensar
Albania quiere entrar en la Unión Europea, y Bruselas mira con lupa todas sus reformas. Por un lado, podría ver en Diella un esfuerzo innovador por combatir la corrupción. Por otro, podría preocuparle que un país delegue funciones tan sensibles en un sistema opaco desarrollado por empresas estadounidenses.
Europa está desarrollando sus propias reglas para la inteligencia artificial, que exigen transparencia, supervisión humana y capacidad de auditoría. Si Diella no cumple estos estándares, el experimento podría convertirse en un obstáculo en lugar de una ventaja para la integración europea de Albania.
VI. Encontrando el punto medio
No se trata de rechazar la innovación, sino de implementarla con sabiduría. La idea de usar tecnología para limpiar la contratación pública es potente y necesaria, pero requiere salvaguardas:
Primero, Diella debería ser una herramienta para los ministros humanos, no un reemplazo. Podría analizar datos y señalar alertas, pero la decisión final debería tomarla una persona que pueda rendir cuentas.
Segundo, su funcionamiento debería ser auditado regularmente por expertos independientes, como llevamos el coche al taller para verificar que todo funciona correctamente.
Tercero, necesitamos leyes nuevas que aclaren quién responde cuando un algoritmo se equivoca, igual que tenemos normas que explican quién paga cuando un coche autónomo tiene un accidente.
Albania está escribiendo el primer capítulo de una historia que muchos países seguirán. Ojalá lo haga con el cuidado necesario, porque el riesgo no es solo que Diella falle, sino que su fracaso nos haga desconfiar para siempre de usar tecnología para mejorar nuestra democracia. El futuro de la governanza digital podría estar jugándose en estos momentos en un pequeño país balcánico que se atrevió a soñar con un ministro perfecto, aunque fuera artificial.