Diego Fierro Rodríguez
I. El desafío conceptual de los agentes de inteligencia artificial
La regulación de la inteligencia artificial avanza siempre con una dificultad de fondo: la tecnología cambia más rápido que las normas destinadas a ordenarla. Los agentes de inteligencia artificial representan hoy uno de los ejemplos más claros de esa tensión. La Comisión Europea, a través del Centro de Servicios sobre el Reglamento de Inteligencia Artificial, ha actualizado recientemente sus preguntas frecuentes para aclarar cómo deben interpretarse jurídicamente estos sistemas. Y la conclusión principal resulta significativa: los agentes no constituyen, por ahora, una categoría normativa autónoma, sino una manifestación más de los sistemas de inteligencia artificial ya contemplados por el Reglamento.
La decisión no es menor. Frente a la posibilidad de crear nuevas figuras jurídicas específicas para cada evolución tecnológica, la Comisión ha optado por integrar los agentes dentro de las categorías ya existentes. Se trata de una solución que persigue estabilidad regulatoria y evita que el marco normativo quede rápidamente obsoleto ante la aparición constante de nuevas herramientas y modelos.
Debe tenerse presente, además, que el propio concepto de “agente de inteligencia artificial” continúa siendo impreciso. Ni la doctrina técnica ni los operadores jurídicos manejan todavía una definición plenamente consolidada. Sin embargo, sí existe cierto acuerdo sobre algunos elementos característicos. Estos sistemas no solo procesan información, sino que también interactúan activamente con el entorno, toman decisiones y ejecutan acciones con distintos niveles de autonomía.
Esa combinación entre percepción y actuación es precisamente lo que distingue a los agentes de otros sistemas más limitados o puramente pasivos. Y es también el motivo por el que empiezan a generar interrogantes jurídicos especialmente relevantes, sobre todo en materia de responsabilidad, control y supervisión.
II. La arquitectura sistémica de los agentes
La Comisión Europea considera que los agentes de inteligencia artificial encajan, por regla general, dentro de la definición de sistema de inteligencia artificial recogida en el artículo 3 del Reglamento. La razón es relativamente sencilla desde el punto de vista técnico y jurídico: estos sistemas suelen incorporar al menos un modelo de propósito general y cuentan con interfaces que les permiten interactuar con personas, plataformas digitales u otros sistemas automatizados.
El Reglamento adopta una visión amplia de esa arquitectura tecnológica. Las interfaces de interacción no se entienden como elementos externos o accesorios, sino como componentes integrantes del propio sistema. Esa interpretación resulta importante porque amplía el alcance de las obligaciones regulatorias aplicables.
La consecuencia práctica es clara. Los agentes no quedan fuera del Reglamento por el mero hecho de presentar capacidades autónomas más avanzadas o formas novedosas de interacción. Al contrario, pasan a integrarse dentro de las categorías ya previstas por el legislador europeo.
La estrategia de la Comisión parece responder a una lógica deliberadamente flexible. En lugar de fragmentar el sistema normativo mediante nuevas clasificaciones específicas para cada innovación tecnológica, se apuesta por utilizar definiciones suficientemente amplias como para absorber futuras evoluciones sin necesidad de reformas constantes.
Desde una perspectiva jurídica, esa decisión aporta cierta estabilidad interpretativa. También permite aplicar de inmediato obligaciones ya existentes a tecnologías emergentes que todavía se encuentran en pleno desarrollo.
III. El régimen aplicable: prohibiciones, riesgos y transparencia
La inclusión de los agentes dentro del ámbito del Reglamento implica que estos sistemas quedan sometidos a las mismas reglas generales aplicables a cualquier otra inteligencia artificial. La intensidad de las obligaciones dependerá, como ocurre en el conjunto del modelo europeo, del nivel de riesgo asociado al sistema concreto.
En primer lugar, resultan aplicables las prohibiciones absolutas previstas para determinadas prácticas consideradas especialmente lesivas. Entre ellas destacan la manipulación perjudicial de personas o la explotación de vulnerabilidades derivadas de edad, discapacidad o situación económica. Estas limitaciones adquieren una relevancia especial en el caso de agentes con capacidad autónoma de interacción prolongada con usuarios.
La autonomía operativa de estos sistemas obliga a incorporar mecanismos de control desde las fases iniciales de diseño y desarrollo. No basta con reaccionar ante posibles daños una vez producidos. El Reglamento exige adoptar medidas preventivas razonables para evitar comportamientos incompatibles con los derechos fundamentales.
En segundo término, determinados agentes podrán ser considerados sistemas de alto riesgo. A partir del 2 de agosto de 2026, esos sistemas quedarán sujetos al régimen reforzado previsto en el Capítulo III del Reglamento. Ello implica obligaciones relacionadas con evaluación de conformidad, documentación técnica, supervisión humana, vigilancia posterior a la comercialización y gestión de riesgos.
La cuestión adquiere especial importancia en sectores sensibles como sanidad, justicia, empleo o seguridad pública. En esos ámbitos, una decisión automatizada adoptada por un agente puede afectar directamente derechos e intereses especialmente protegidos por el ordenamiento jurídico.
Por último, las obligaciones de transparencia ocuparán un papel cada vez más relevante. Cuando un agente interactúe con personas físicas o genere contenidos de forma autónoma, deberán aplicarse mecanismos adecuados de información para que los usuarios comprendan que están interactuando con un sistema automatizado y no con una persona humana.
La Comisión Europea ha reconocido implícitamente que este punto presenta dificultades prácticas considerables. Por ello trabaja ya en códigos de buenas prácticas destinados a concretar cómo deben implementarse esas obligaciones en escenarios reales de interacción autónoma.
IV. Los modelos de propósito general como núcleo técnico
La regulación de los agentes no puede separarse del papel desempeñado por los modelos de propósito general que normalmente constituyen su base tecnológica. Estos modelos permiten ejecutar tareas muy diversas y poseen capacidades de adaptación especialmente amplias.
El Reglamento europeo concede una atención específica a aquellos modelos que puedan generar riesgos sistémicos. Entre los criterios relevantes para esa calificación figuran precisamente el grado de autonomía y la capacidad de utilización de herramientas externas.
La relación entre arquitectura técnica y clasificación jurídica resulta aquí especialmente evidente. Cuanto mayor sea la autonomía funcional del sistema, mayores serán también las exigencias regulatorias impuestas a sus desarrolladores y proveedores.
Las obligaciones asociadas a modelos con riesgo sistémico incluyen evaluaciones de seguridad, medidas de mitigación y controles destinados a evitar usos peligrosos o imprevisibles. La Comisión Europea ha comenzado además a desarrollar criterios técnicos más concretos a través de códigos de buenas prácticas y documentos de orientación.
Todo ello refleja una idea de fondo bastante clara: la autonomía no constituye únicamente una característica tecnológica, sino un elemento central para determinar el nivel de riesgo jurídico asociado al sistema.
V. La vigilancia regulatoria y las perspectivas de evolución
La posición adoptada por la Comisión Europea combina prudencia normativa y seguimiento constante de la evolución tecnológica. Por ahora no parece existir intención de crear una regulación completamente separada para los agentes de inteligencia artificial. Sin embargo, eso no significa ausencia de preocupación institucional.
La Oficina Europea de Inteligencia Artificial ya ha impulsado iniciativas específicas relacionadas con la evaluación de seguridad de agentes autónomos. Entre ellas destacan convocatorias de asistencia técnica centradas precisamente en los riesgos derivados de sistemas con altos niveles de autonomía operativa.
Ese dato resulta revelador. Aunque el marco jurídico actual se considera suficiente para integrar a los agentes dentro del Reglamento, las instituciones europeas son conscientes de que estas tecnologías presentan particularidades que podrían requerir desarrollos adicionales en el futuro.
Buena parte de la evolución normativa dependerá de la experiencia práctica acumulada durante los primeros años de aplicación del Reglamento. Será entonces cuando pueda comprobarse si las categorías actuales resultan realmente adecuadas para responder a problemas derivados de comportamientos autónomos complejos, aprendizaje continuo o interacción dinámica con entornos cambiantes.
La Comisión parece mantener, por tanto, una posición abierta. Existe voluntad de preservar estabilidad jurídica, pero también disposición para adaptar criterios interpretativos si la evolución tecnológica lo exige.
VI. Reflexiones finales
La decisión de integrar los agentes de inteligencia artificial dentro de las categorías ya existentes del Reglamento europeo responde a una lógica jurídica razonablemente coherente. Evita multiplicar categorías normativas y permite aplicar inmediatamente obligaciones ya previstas a tecnologías que evolucionan con enorme rapidez.
Sin embargo, esa solución también plantea desafíos interpretativos importantes. Las normas actuales fueron concebidas pensando en sistemas relativamente delimitados y predecibles. Los agentes autónomos, en cambio, introducen dinámicas más complejas relacionadas con aprendizaje, adaptación y toma de decisiones en tiempo real.
En este contexto, la autonomía emerge como el verdadero elemento decisivo para comprender el encaje jurídico de estos sistemas. Cuanto mayor sea la capacidad del agente para actuar sin supervisión directa, más intensas serán las exigencias regulatorias relacionadas con control, transparencia y gestión de riesgos.
La regulación europea parece haber optado por una aproximación flexible y gradual. En lugar de construir un sistema completamente nuevo para cada innovación tecnológica, intenta adaptar instrumentos jurídicos existentes a escenarios todavía en transformación. El éxito de esa estrategia dependerá, en gran medida, de la capacidad interpretativa de autoridades, tribunales y operadores jurídicos durante los próximos años.