Redactado por Diego Fierro Rodríguez, quien es (entre otras muchas cosas) letrado de la Administración de Justicia Letrado en el Ministerio de Justicia de España. Imparte cursos para cuerpos generales como formador en el Instituto Andaluz de Administración Pública y colabora habitualmente con revistas de investigación y difusión jurídica, como Economist & Jurist, Law & Trends, Legaltoday y Confilegal, estando enfocado en el estudio de aspectos vinculados con la Administración de Justicia y las nuevas tecnologías, entre otras materias. Igualmente, es codirector de la Revista Acta Judicial (…).
I.) Introducción al uso de la inteligencia artificial en la toma de decisiones gubernamentales:
La reciente admisión por parte del primer ministro sueco, Ulf Kristersson, de que recurre con frecuencia a herramientas de inteligencia artificial, como ChatGPT y LeChat, para obtener una “segunda opinión” en sus labores de gobierno, ha desatado una controversia que trasciende el ámbito tecnológico y se adentra en las esferas jurídica, ética y política. Esta práctica, que el propio Kristersson ha presentado como una herramienta auxiliar para complementar su toma de decisiones, plantea interrogantes fundamentales sobre la legitimidad, la seguridad y la responsabilidad en el ejercicio del poder público. Entiendo que el uso de sistemas de inteligencia artificial en la gestión gubernamental, especialmente en ausencia de un marco normativo claro, podría comprometer principios esenciales del derecho público, como la transparencia, la confidencialidad y la rendición de cuentas. La delegación de funciones analíticas a plataformas privadas, gestionadas por empresas con intereses comerciales, introduce riesgos que no solo afectan la calidad de las decisiones gubernamentales, sino también la soberanía del Estado y la confianza ciudadana.
El caso sueco no es un fenómeno aislado, sino un reflejo de una tendencia global hacia la integración de tecnologías de inteligencia artificial en la administración pública. Sin embargo, la falta de regulación específica en este ámbito genera un vacío jurídico que podría tener consecuencias de largo alcance. Lo anterior me sugiere que la incorporación de estas herramientas en procesos de alta sensibilidad política requiere un análisis exhaustivo de sus implicaciones legales, particularmente en lo que respecta a la protección de datos, la fiabilidad de los resultados y la posible captura regulatoria por parte de actores privados. Desde la perspectiva del derecho constitucional, el uso de inteligencia artificial por parte de un jefe de gobierno plantea preguntas sobre la legitimidad de las decisiones adoptadas, ya que estas podrían basarse en información generada por sistemas opacos, cuyos algoritmos no están sujetos a escrutinio público. Además, la publicidad dada a esta práctica por parte de Kristersson, lejos de normalizar el uso de estas tecnologías, ha generado críticas que subrayan la necesidad de establecer límites claros para su aplicación en el ámbito público.
En este contexto, el análisis jurídico debe centrarse en tres ejes principales: la fiabilidad de las herramientas de inteligencia artificial, la protección de datos sensibles y las implicaciones éticas y políticas de su uso. Cada uno de estos aspectos requiere un examen detallado, no solo para evaluar los riesgos inmediatos, sino también para anticipar los desafíos que podrían surgir en un futuro próximo, en el que la dependencia de estas tecnologías parece destinada a aumentar. La ausencia de un marco normativo que regule el uso de la inteligencia artificial en la esfera pública podría derivar en una erosión de los principios democráticos, especialmente si los gobiernos continúan delegando funciones esenciales a sistemas que carecen de transparencia y control. Asumo que la solución a este problema pasa por la creación de regulaciones específicas que equilibren los beneficios de estas tecnologías con la necesidad de proteger los derechos fundamentales y la seguridad nacional.
II.) La fiabilidad de las herramientas de inteligencia artificial y sus limitaciones jurídicas:
La fiabilidad de los sistemas de inteligencia artificial es una cuestión crítica cuando se emplean en la toma de decisiones gubernamentales, especialmente en contextos que requieren un alto grado de precisión y responsabilidad. La experta en informática Simone Fischer-Hübner ha advertido que la información generada por estas herramientas no siempre es precisa, lo que introduce un riesgo significativo en la gestión pública. Desde el punto de vista del derecho administrativo, la utilización de sistemas cuya exactitud no está garantizada podría contravenir el principio de legalidad, que exige que las decisiones públicas se basen en información veraz y fundamentada. Considero que la práctica de recurrir a una “segunda opinión” generada por inteligencia artificial, como ha reconocido Kristersson, plantea serias dudas sobre la legitimidad de las decisiones adoptadas, especialmente si estas se basan en datos que no han sido verificados o que podrían estar sesgados por los algoritmos subyacentes.
La opacidad de los algoritmos que sustentan estas plataformas agrava aún más el problema. Los sistemas de inteligencia artificial, al operar como “cajas negras”, dificultan la auditoría de los procesos que generan sus respuestas, lo que podría vulnerar el principio de motivación de los actos administrativos, consagrado en la mayoría de los ordenamientos jurídicos europeos. Este principio exige que las decisiones públicas estén debidamente fundamentadas y sean susceptibles de revisión judicial. En el caso sueco, la falta de información sobre los criterios utilizados por ChatGPT o LeChat para procesar las consultas del primer ministro plantea un riesgo de arbitrariedad, ya que no es posible determinar si las respuestas están libres de sesgos, errores o influencias externas. Ello me obliga a deducir que la incorporación de estas herramientas en la toma de decisiones gubernamentales requiere un marco normativo que garantice su fiabilidad, así como la posibilidad de someter sus resultados a un escrutinio judicial efectivo.
Además, la fiabilidad de la inteligencia artificial no solo depende de la calidad de sus algoritmos, sino también de los datos con los que ha sido entrenada. En muchos casos, estos datos provienen de fuentes heterogéneas que pueden incluir información sesgada, incompleta o incluso manipulada. Desde una perspectiva jurídica, esto plantea interrogantes sobre la responsabilidad de los funcionarios públicos que utilizan estas herramientas sin verificar la procedencia de los datos o la calidad de los resultados. En el derecho europeo, el principio de diligencia debida obliga a los responsables de la toma de decisiones a actuar con la máxima prudencia, lo que incluye garantizar que las herramientas utilizadas cumplan con estándares de calidad y fiabilidad. La ausencia de mecanismos de control en este sentido podría derivar en decisiones que no solo sean jurídicamente cuestionables, sino que también tengan un impacto negativo en la ciudadanía. Lo anterior me sugiere que los gobiernos deben establecer protocolos específicos para evaluar la fiabilidad de las herramientas de inteligencia artificial, incluyendo auditorías independientes y la publicación de informes sobre los resultados obtenidos.
III.) La protección de datos y los riesgos de confidencialidad:
La protección de datos sensibles es un aspecto crucial en el uso de plataformas de inteligencia artificial por parte de los gobiernos. La advertencia de Fischer-Hübner sobre la posibilidad de que información confidencial introducida en estas herramientas sea incorporada a modelos posteriores pone de manifiesto los riesgos asociados con la falta de control sobre los datos procesados por sistemas privados. Desde la perspectiva del Reglamento General de Protección de Datos de la Unión Europea, el tratamiento de datos personales debe cumplir con principios de finalidad, minimización y seguridad, requisitos que difícilmente se satisfacen cuando se utilizan plataformas gestionadas por empresas privadas con servidores ubicados fuera del control estatal. Entiendo que la introducción de información gubernamental, incluso si no se clasifica explícitamente como confidencial, en sistemas que aprenden de los datos recibidos constituye una práctica de alto riesgo, ya que podría derivar en la divulgación no autorizada de información sensible.
El portavoz del primer ministro ha intentado minimizar estas preocupaciones al afirmar que las consultas realizadas por Kristersson no incluyen información confidencial, sino que se limitan a una “guía” general. Sin embargo, esta declaración no resuelve las inquietudes jurídicas, ya que el concepto de “datos personales” en el derecho europeo es amplio e incluye cualquier información que pueda vincularse a una persona o entidad identificable. En el caso de un jefe de gobierno, las consultas realizadas podrían contener datos que, aunque no clasificados, permitan inferir estrategias políticas, prioridades gubernamentales o información relacionada con la seguridad nacional. Por ejemplo, una simple consulta sobre políticas migratorias podría revelar enfoques estratégicos que, al ser procesados por una plataforma de inteligencia artificial, queden almacenados en servidores externos y sean potencialmente accesibles por terceros. Asumo que esta práctica podría contravenir las obligaciones de diligencia debida que recaen sobre los responsables del tratamiento de datos en el sector público, especialmente en lo que respecta a la seguridad de la información.
Además, el uso de plataformas como ChatGPT, alojadas en servidores estadounidenses, plantea cuestiones adicionales sobre la transferencia internacional de datos. El Reglamento General de Protección de Datos exige que las transferencias de datos fuera de la Unión Europea cumplan con garantías adecuadas, como cláusulas contractuales estándar o certificaciones específicas. Sin embargo, la falta de transparencia sobre las prácticas de almacenamiento y procesamiento de datos por parte de las empresas que gestionan estas plataformas dificulta la verificación de dichas garantías. Ello me obliga a deducir que los gobiernos que recurren a estas herramientas deben establecer mecanismos de control interno, como la anonimización de los datos introducidos o el uso de sistemas de inteligencia artificial alojados en servidores gubernamentales, para minimizar los riesgos de filtraciones y cumplir con las obligaciones legales.
IV.) Implicaciones éticas y políticas del uso de inteligencia artificial por los gobernantes:
El uso de inteligencia artificial por parte de altos cargos gubernamentales no solo plantea cuestiones técnicas y jurídicas, sino también profundas implicaciones éticas y políticas. La columnista Signe Krantz ha advertido sobre la “psicosis de la inteligencia artificial” promovida por los gigantes tecnológicos, cuya inversión en estas tecnologías supera con creces los presupuestos estatales de muchos países. Esta crítica pone de manifiesto una preocupación más amplia: la dependencia de los gobiernos de herramientas desarrolladas por empresas privadas, cuyos intereses comerciales no siempre coinciden con los del interés público. Desde una perspectiva jurídica, esta situación plantea el riesgo de una captura regulatoria, en la que los Estados se vuelven dependientes de actores privados para el ejercicio de funciones esenciales, lo que podría erosionar la soberanía nacional y la autonomía en la toma de decisiones.
El caso de Grok, la plataforma de inteligencia artificial desarrollada por Elon Musk, ilustra los peligros de delegar funciones analíticas a sistemas que carecen de un marco ético robusto. La referencia a la propagación de contenido antisemita por parte de esta plataforma tras ajustes en su programación pone de relieve los riesgos asociados con la falta de supervisión en el desarrollo de estas tecnologías. Desde el punto de vista del derecho penal, la generación de respuestas que promuevan discursos de odio podría implicar responsabilidades para los operadores de estas plataformas, así como para los funcionarios que las utilizan sin un debido control. En el derecho europeo, los discursos de odio están regulados por normativas como la Decisión Marco 2008/913/JAI, que obliga a los Estados miembros a sancionar la incitación al odio por motivos de raza, religión u origen étnico. Lo anterior me sugiere que los gobiernos deben establecer directrices claras para garantizar que las herramientas de inteligencia artificial utilizadas en el ámbito público no generen contenidos que contravengan los valores democráticos.
Además, la dependencia de plataformas privadas plantea cuestiones éticas sobre la neutralidad de las decisiones gubernamentales. Las empresas que desarrollan estas tecnologías tienen intereses comerciales que pueden influir en la forma en que sus algoritmos procesan la información. Por ejemplo, la priorización de ciertos contenidos o la introducción de sesgos en las respuestas generadas podrían orientar las decisiones gubernamentales en direcciones que beneficien a los operadores de estas plataformas. Desde una perspectiva política, esto podría alimentar narrativas de desconfianza hacia las instituciones, especialmente en contextos como el sueco, donde la presencia de partidos populistas ya genera tensiones sociales. Considero que los gobiernos deben adoptar un enfoque ético basado en la transparencia, incluyendo la publicación de informes sobre el uso de estas herramientas y la implementación de comités de supervisión independientes para evaluar sus implicaciones.
V.) La responsabilidad política y el impacto en la confianza ciudadana:
El uso de inteligencia artificial por parte de un jefe de gobierno tiene un impacto significativo en la confianza ciudadana, un pilar fundamental del Estado de derecho. La polémica generada en Suecia tras las declaraciones de Kristersson refleja una percepción de irresponsabilidad en el ejercicio del poder público, especialmente en un contexto político marcado por la polarización y los debates sobre la inmigración. Desde el punto de vista del derecho constitucional, la confianza en las instituciones es esencial para garantizar la legitimidad de las decisiones gubernamentales. La práctica de recurrir a herramientas de inteligencia artificial sin un marco normativo claro podría interpretarse como una delegación indebida de funciones públicas, lo que amenaza con erosionar esta confianza. Entiendo que la publicidad dada a esta práctica, lejos de normalizar el uso de estas tecnologías, ha generado críticas que subrayan la necesidad de establecer límites claros para su aplicación en el ámbito público.
En el contexto sueco, la sensibilidad de los temas tratados en el ámbito gubernamental, como las políticas migratorias, agrava el impacto de estas prácticas. La mención de vínculos entre el hijo de un ministro y grupos extremistas pone de relieve los riesgos de que las herramientas de inteligencia artificial amplifiquen discursos de odio o desinformación. Desde una perspectiva jurídica, los gobiernos tienen la obligación de garantizar que las tecnologías utilizadas en la toma de decisiones no contribuyan a la polarización social ni a la vulneración de derechos fundamentales. El principio de proporcionalidad, consagrado en el derecho europeo, exige que las medidas adoptadas por los poderes públicos sean adecuadas, necesarias y equilibradas en relación con los objetivos perseguidos. Asumo que el uso de inteligencia artificial sin un control adecuado podría contravenir este principio, especialmente si las respuestas generadas por estas herramientas influyen en decisiones que afectan a sectores vulnerables de la población.
Además, la falta de transparencia en el uso de estas tecnologías podría alimentar narrativas de opacidad y falta de rendición de cuentas. En el derecho constitucional, la responsabilidad es un principio esencial que obliga a los responsables públicos a justificar sus decisiones ante la ciudadanía. La ausencia de información sobre cómo se utilizan las plataformas de inteligencia artificial, qué tipo de consultas se realizan y cómo se procesan los resultados dificulta el ejercicio de este principio. Lo anterior me sugiere que los gobiernos deben establecer mecanismos de rendición de cuentas específicos, como la publicación de informes periódicos sobre el uso de estas herramientas y la creación de comités de supervisión que incluyan a representantes de la sociedad civil.
VI.) Conclusiones:
La incorporación de herramientas de inteligencia artificial en la toma de decisiones gubernamentales, tal como lo ha evidenciado el caso del primer ministro sueco Ulf Kristersson, plantea un desafío de extraordinaria complejidad jurídica, ética y política, que no puede ser abordado de manera superficial ni improvisada. Lo que en apariencia podría entenderse como una simple modernización de las prácticas administrativas o una búsqueda legítima de eficiencia en la gestión pública, en realidad compromete aspectos nucleares del Estado de Derecho y de la gobernanza democrática, al introducir un nuevo tipo de intermediación tecnológica entre el poder político y la ciudadanía.
La fiabilidad de las herramientas utilizadas, la confidencialidad de los datos introducidos, la neutralidad de los algoritmos y la responsabilidad política de los funcionarios que las emplean son elementos que, lejos de poder considerarse cuestiones técnicas, se sitúan en el corazón de los principios que rigen la función pública. En un Estado democrático, no es admisible que decisiones que afectan directamente al interés general se vean condicionadas por sistemas cuyos parámetros de funcionamiento escapan al control judicial, parlamentario y ciudadano. La opacidad que caracteriza a muchos de estos modelos de inteligencia artificial, sumada a su desarrollo en entornos corporativos movidos por intereses comerciales, introduce una dimensión de riesgo que requiere una respuesta institucional clara, coherente y normativa.
El derecho, en este contexto, no puede mantenerse como un espectador pasivo del progreso tecnológico, sino que debe actuar como fuerza estructural que delimite con precisión los márgenes dentro de los cuales estas herramientas pueden ser empleadas legítimamente por las autoridades públicas. La ausencia de regulación específica, la falta de mecanismos de auditoría independientes y la inexistencia de protocolos de uso transparente no solo socavan la confianza ciudadana, sino que generan un vacío normativo que puede ser ocupado por prácticas que erosionan los principios de legalidad, motivación y rendición de cuentas.
Además, la dimensión ética y política de este fenómeno no puede subestimarse. La delegación de funciones analíticas a plataformas tecnológicas desarrolladas por entidades privadas con intereses ajenos al bien común abre la puerta a una forma sutil pero efectiva de captura del poder público, en la que las decisiones ya no emanan exclusivamente de los órganos constitucionalmente legitimados, sino que se ven condicionadas por los diseños algorítmicos de agentes económicos con poder transnacional. Esto plantea una amenaza directa a la soberanía estatal, a la independencia de criterio de los gobernantes y, en última instancia, a la libertad política de los ciudadanos.
Por tanto, es imprescindible que los Estados asuman la necesidad de regular de forma específica, restrictiva y transparente el uso de sistemas de inteligencia artificial en el ejercicio de funciones públicas, particularmente aquellas que tienen un impacto directo en derechos fundamentales o en materias de alta sensibilidad política. Esta regulación debe incluir, al menos, la obligación de someter estas herramientas a auditorías externas, la imposición de estándares de calidad y fiabilidad, el cumplimiento estricto de las normas de protección de datos y la creación de mecanismos de control democrático sobre su uso.
Ciertamente, el caso sueco no es simplemente un episodio anecdótico ni una curiosidad tecnológica: es un síntoma de una transformación profunda en la manera en que se concibe y se ejerce el poder en la era digital. Si no se adoptan medidas urgentes para encauzar jurídicamente esta evolución, corremos el riesgo de avanzar hacia un modelo de gobernanza automatizada, desprovisto de los contrapesos que garantizan la legitimidad del poder en las democracias constitucionales. El futuro de la inteligencia artificial en el ámbito público no debe definirse por la improvisación ni por la fascinación tecnológica, sino por el compromiso riguroso con los principios que sostienen el edificio del Estado de Derecho.
Perfil de LinkedIn para contacto, disponible en: