Redactado por Diego Fierro Rodríguez, quien es letrado de la Administración de Justicia Letrado en el Ministerio de Justicia de España. Imparte cursos para cuerpos generales como formador en el Instituto Andaluz de Administración Pública y colabora habitualmente con revistas de investigación y difusión jurídica, como Economist & Jurist, Law & Trends, Legaltoday y Confilegal, estando enfocado en el estudio de aspectos vinculados con la Administración de Justicia y las nuevas tecnologías, entre otras materias. Igualmente, es codirector de la Revista Acta Judicial (…).
«La irrupción de la inteligencia artificial en la vida cotidiana ha transformado profundamente la manera en que interactuamos con el mundo, desde los vehículos autónomos hasta los sistemas de diagnóstico médico. Sin embargo, esta revolución tecnológica plantea desafíos jurídicos de una magnitud sin precedentes, especialmente en el ámbito de la responsabilidad civil. En el contexto de la Unión Europea, el Parlamento Europeo ha asumido un rol central en la construcción de un marco normativo que equilibre la innovación tecnológica con la protección de los derechos fundamentales, la seguridad jurídica y la cohesión del mercado interior. Este ensayo explora exhaustivamente la perspectiva del Parlamento Europeo sobre la regulación de la responsabilidad civil en el uso de sistemas de inteligencia artificial, basándonos para ello en el documento Artificial Intelligence and Civil Liability: A European Perspective (PE 776.426). A través de un análisis jurídico riguroso, se desglosan los fundamentos teóricos, las tensiones normativas, las propuestas legislativas y las implicaciones prácticas de este debate, abogando por un régimen de responsabilidad que garantice eficiencia, claridad y armonización en el contexto europeo.
Los fundamentos de la regulación de la responsabilidad civil en la inteligencia artificial: La regulación de la responsabilidad civil en el ámbito de la inteligencia artificial no es un mero ejercicio técnico, sino una respuesta estratégica a la necesidad de estructurar un sistema jurídico que fomente la confianza en las tecnologías emergentes. El documento analizado subraya que la Unión Europea ha experimentado una transformación en su lógica regulatoria, descrita como una «gran reversión». Inicialmente, la estrategia europea priorizaba la creación de normas de responsabilidad civil estrictas, concebidas como un pilar fundamental para abordar los daños causados por tecnologías avanzadas. Sin embargo, esta visión ha evolucionado hacia un enfoque más integral, en el que la regulación preventiva, como la Ley de Inteligencia Artificial aprobada en 2024, se combina con normas de responsabilidad civil para garantizar un equilibrio entre la innovación y la protección de los ciudadanos.
El fundamento principal para intervenir en este ámbito radica en la necesidad de abordar las lagunas legales derivadas de la naturaleza única de los sistemas de inteligencia artificial. Estos sistemas, caracterizados por su autonomía, capacidad de aprendizaje y opacidad algorítmica, desafían los paradigmas tradicionales del derecho de daños, diseñados para agentes humanos con comportamientos predecibles. La dificultad para determinar la causalidad en un daño causado por un sistema de inteligencia artificial, la multiplicidad de actores involucrados (desarrolladores, proveedores de datos, operadores) y la imprevisibilidad de los resultados de estos sistemas generan un entorno jurídico incierto. El Parlamento Europeo identifica tres objetivos centrales para la regulación: garantizar la compensación efectiva de las víctimas, minimizar los costes asociados a los litigios y promover la certeza jurídica ex ante, es decir, antes de que ocurra el daño.
La certeza jurídica es particularmente crucial en un contexto donde la fragmentación normativa amenaza la cohesión del mercado interior. La ausencia de un marco europeo unificado podría dar lugar a regímenes nacionales divergentes, como los ya existentes en Alemania para la conducción autónoma o las propuestas legislativas en Italia. Estas diferencias no solo generan inseguridad para las empresas que operan en múltiples jurisdicciones, sino que también crean barreras para los consumidores, que podrían enfrentarse a niveles dispares de protección según el Estado miembro. El documento destaca que la armonización normativa es esencial para evitar dependencias de trayectoria, es decir, patrones normativos nacionales que dificulten futuras reformas a nivel europeo. En este sentido, el Parlamento Europeo aboga por un enfoque que combine claridad en las normas con la flexibilidad necesaria para adaptarse a la rápida evolución de la inteligencia artificial.
Otro aspecto relevante es la dimensión económica de la regulación. La inteligencia artificial no solo representa un avance tecnológico, sino también un motor de crecimiento económico. Sin embargo, la incertidumbre jurídica puede desincentivar la inversión y la adopción de estas tecnologías, especialmente entre las pequeñas y medianas empresas, que enfrentan costes de cumplimiento significativos. El documento estima que el cumplimiento de las normas de responsabilidad civil puede implicar un costo inicial promedio de 400,000 euros para las empresas, con costes anuales de entre 20,000 y 100,000 euros. Por ello, un marco regulatorio eficiente debe minimizar estos costes, promoviendo al mismo tiempo la competitividad de la Unión Europea en el escenario global.
La insuficiencia de la Directiva de Responsabilidad por Productos Defectuosos:
La Directiva de Responsabilidad por Productos Defectuosos, conocida como PLD, ha sido durante décadas el pilar fundamental de la regulación europea en materia de responsabilidad por daños causados por productos defectuosos. Promulgada en 1985, esta norma establece que los fabricantes son responsables de los daños causados por defectos en sus productos, siempre que el demandante demuestre la existencia del defecto, el daño sufrido y el nexo causal entre ambos. Sin embargo, el documento analizado pone de manifiesto las limitaciones de esta directiva para abordar los desafíos específicos de los sistemas de inteligencia artificial, cuya complejidad y autonomía desbordan los supuestos originales de la norma.
Uno de los principales problemas de la PLD es la noción de «defecto», que resulta inadecuada para los sistemas de inteligencia artificial. En el derecho tradicional, un producto es defectuoso si no ofrece la seguridad que una persona tiene derecho a esperar. Sin embargo, en el caso de un sistema de inteligencia artificial, como un vehículo autónomo o un algoritmo de diagnóstico médico, determinar si el daño deriva de un defecto intrínseco al sistema o de su interacción con el entorno es una tarea extremadamente compleja. Por ejemplo, si un vehículo autónomo causa un accidente, el daño podría atribuirse al algoritmo, a los datos de entrenamiento, a la intervención humana o a factores externos imprevisibles. Esta opacidad algorítmica complica la atribución de responsabilidades y eleva los costes de litigio, ya que los demandantes deben recurrir a expertos técnicos para probar el defecto.
Otro obstáculo significativo es la defensa de riesgo de desarrollo, contemplada en la PLD. Esta cláusula exime al fabricante de responsabilidad si el defecto no era detectable según el estado del conocimiento científico y tecnológico en el momento de la comercialización del producto. En el contexto de la inteligencia artificial, donde los sistemas evolucionan constantemente a través de actualizaciones y aprendizaje automático, esta defensa resulta particularmente problemática. Un defecto puede manifestarse mucho después de la comercialización, cuando el sistema ha aprendido nuevos patrones o ha sido modificado por terceros. Esto limita la capacidad de las víctimas para obtener compensación y perpetúa la incertidumbre jurídica.
La reforma de la PLD, conocida como PLDr, intentó abordar estas deficiencias mediante varias modificaciones. En primer lugar, amplió la definición de «producto» para incluir explícitamente el software, reconociendo que los sistemas de inteligencia artificial forman parte de esta categoría. En segundo lugar, introdujo medidas procesales, como presunciones de defecto y causalidad, destinadas a facilitar la carga probatoria del demandante. Por ejemplo, la PLDr permite presumir que un producto es defectuoso si el fabricante no cumple con ciertas obligaciones de divulgación de información. Sin embargo, el documento critica que estas reformas no alteran la estructura fundamental de la directiva, que sigue centrada en la responsabilidad del fabricante y no aborda adecuadamente la multiplicidad de actores involucrados en los sistemas de inteligencia artificial.
Además, la PLDr no resuelve el problema de la fragmentación normativa. Dado que la directiva permite a los Estados miembros mantener ciertas reglas nacionales de responsabilidad, los tribunales pueden interpretar las disposiciones de manera divergente, lo que socava el objetivo de armonización. Por ejemplo, en un caso hipotético de un accidente causado por un sistema de inteligencia artificial, un tribunal en Francia podría aplicar criterios más estrictos para determinar el defecto que un tribunal en España, generando resultados dispares. Esta falta de uniformidad no solo afecta a los consumidores, sino que también crea incertidumbre para las empresas que operan en el mercado europeo.
La propuesta de la Directiva de Responsabilidad por Inteligencia Artificial:
La propuesta de Directiva de Responsabilidad por Inteligencia Artificial, conocida como AILD, surge como un intento de complementar la PLD y abordar las especificidades de los sistemas de inteligencia artificial. Presentada por la Comisión Europea en septiembre de 2022, esta propuesta busca establecer un marco de responsabilidad basado en la culpa, pero con presunciones que faciliten la prueba del defecto y la causalidad. Sin embargo, el documento analizado destaca que la AILD ha sido objeto de críticas significativas por parte de expertos y de instituciones europeas, como el Comité de Mercado Interior y Protección del Consumidor, que la calificó de prematura y poco necesaria en mayo de 2025.
Una de las principales críticas a la AILD es su desviación de las recomendaciones previas, que abogaban por un régimen de responsabilidad estricta para los sistemas de inteligencia artificial de alto riesgo. En lugar de adoptar este enfoque, la AILD opta por un sistema basado en la culpa, en el que el demandante debe demostrar que el operador del sistema incumplió una obligación específica, como no proporcionar datos de entrenamiento adecuados o no cumplir con las normas de seguridad establecidas en la Ley de Inteligencia Artificial. Aunque las presunciones propuestas buscan aliviar la carga probatoria, su aplicación es compleja y depende de la capacidad del operador para proporcionar información técnica detallada, lo que puede dar lugar a comportamientos estratégicos, como la presentación de datos irrelevantes para obstruir el proceso judicial.
Otro problema significativo es la falta de alineación con la Ley de Inteligencia Artificial. Esta ley, aprobada en 2024, clasifica los sistemas de inteligencia artificial según su nivel de riesgo, estableciendo obligaciones específicas para los sistemas de alto riesgo, como los utilizados en la conducción autónoma o la selección de personal. Sin embargo, la AILD no aprovecha esta clasificación para definir su ámbito de aplicación, lo que genera incertidumbre sobre qué sistemas están sujetos a sus disposiciones. Por ejemplo, un sistema de inteligencia artificial utilizado en un contexto de bajo riesgo, como un asistente virtual, podría quedar fuera del alcance de la AILD, mientras que un sistema de alto riesgo podría no estar claramente cubierto debido a la ambigüedad de las definiciones.
La dependencia de la AILD en la discrecionalidad judicial también plantea problemas de fragmentación. Dado que las presunciones de culpa y causalidad son rebuttables, los tribunales de diferentes Estados miembros pueden interpretarlas de manera divergente, lo que socava el objetivo de armonización. Por ejemplo, un tribunal alemán podría considerar que un operador cumplió con sus obligaciones de diligencia, mientras que un tribunal italiano podría llegar a la conclusión opuesta en un caso similar. Esta variabilidad no solo complica la resolución de disputas, sino que también desincentiva la adopción de tecnologías de inteligencia artificial, ya que las empresas no pueden prever con claridad su exposición a responsabilidades.
Finalmente, el documento critica que la AILD no aborda adecuadamente la cuestión de los costes de litigio. La complejidad de las presunciones propuestas y la necesidad de pruebas técnicas detalladas pueden incrementar los costes para los demandantes, especialmente para los consumidores individuales que carecen de recursos para contratar expertos. Esto podría llevar a las víctimas a recurrir a regímenes nacionales de responsabilidad estricta, como los existentes en algunos Estados miembros, lo que perpetuaría la fragmentación normativa y debilitaría el objetivo de un marco europeo unificado.
Hacia un marco regulatorio ideal en base a la responsabilidad estricta y el modelo del operador
Frente a las limitaciones de la PLD y la AILD, el documento propone un marco regulatorio ideal basado en un régimen de responsabilidad estricta dirigido al operador del sistema de inteligencia artificial. Este operador, definido como la entidad que controla el funcionamiento del sistema y se beneficia económicamente de su uso, sería el punto focal de la responsabilidad, independientemente de si se demuestra culpa. Este enfoque, inspirado en la propuesta de Reglamento sobre Responsabilidad Civil por Inteligencia Artificial de 2020, busca simplificar la atribución de responsabilidades, garantizar una compensación rápida y efectiva para las víctimas y minimizar los costes de litigio.
La responsabilidad estricta ofrece varias ventajas sobre el modelo basado en la culpa. En primer lugar, elimina la necesidad de demostrar la culpa del operador, lo que reduce significativamente la carga probatoria del demandante y acelera el proceso de compensación. Por ejemplo, en el caso de un accidente causado por un vehículo autónomo, la víctima no tendría que probar que el operador incumplió una obligación específica, sino solo que el daño resultó de la operación del sistema. Esto no solo beneficia a las víctimas, sino que también reduce los costes asociados a los litigios, ya que elimina la necesidad de análisis técnicos complejos.
En segundo lugar, el modelo del operador asegura que la responsabilidad recaiga en la parte que tiene el mayor control sobre el sistema y que puede internalizar los costes a través de seguros y mecanismos de precios. Por ejemplo, una empresa que opera un sistema de inteligencia artificial para la logística podría calcular su exposición a responsabilidades, contratar un seguro que cubra esos riesgos y repercutir los costes en los precios de sus servicios. Este enfoque fomenta una distribución eficiente de los riesgos a lo largo de la cadena de valor, ya que el operador puede reclamar en vía de regreso a otros actores, como los desarrolladores o proveedores de datos, si se determina que el daño derivó de sus acciones.
El documento subraya la importancia de un ámbito de aplicación bien definido, limitado a los sistemas de inteligencia artificial de alto riesgo, según la clasificación establecida en la Ley de Inteligencia Artificial. Esta delimitación evita la creación de categorías residuales que podrían generar ambigüedad y asegura que las normas sean aplicables de manera clara y predecible. Por ejemplo, un sistema de inteligencia artificial utilizado en la gestión de infraestructuras críticas, como redes eléctricas, estaría claramente sujeto al régimen de responsabilidad estricta, mientras que un sistema de bajo riesgo, como un recomendador de contenido, quedaría excluido. Esta claridad normativa beneficia tanto a los operadores, que pueden anticipar sus obligaciones, como a los consumidores, que reciben una protección uniforme en toda la Unión Europea.
Además, el régimen de responsabilidad estricta debe permitir la compensación de una amplia gama de daños, incluyendo aquellos sufridos por el propio sistema de inteligencia artificial. Por ejemplo, si un sistema de inteligencia artificial utilizado en un hospital resulta dañado debido a un fallo en su funcionamiento, el propietario del sistema debería poder reclamar compensación bajo el mismo régimen. Esto incentiva a las víctimas a recurrir al marco europeo en lugar de regímenes nacionales fragmentados, fortaleciendo la armonización.
Opciones de política y el equilibrio entre armonización e innovación:
El documento presenta cuatro opciones de política para abordar la regulación de la responsabilidad civil en la inteligencia artificial, cada una con implicaciones distintas para la armonización, la eficiencia y la innovación. La primera opción, retirar la AILD, es considerada indeseable, ya que fomentaría la proliferación de normas nacionales y la fragmentación del mercado interior. Por ejemplo, países como Alemania o Italia podrían consolidar sus propios regímenes de responsabilidad, creando barreras para las empresas que operan a nivel europeo y generando incertidumbre para los consumidores.
La segunda opción, mantener la AILD sin modificaciones, es igualmente problemática. El enfoque basado en la culpa, con sus presunciones complejas y su dependencia de la discrecionalidad judicial, no logra garantizar la compensación efectiva ni la certeza jurídica. Además, perpetúa las deficiencias de la PLD, como la dificultad para probar el defecto y la causalidad en sistemas complejos. Esta opción también aumenta los costes de litigio, ya que los demandantes deben invertir recursos significativos en pruebas técnicas, lo que puede desincentivar la presentación de reclamaciones legítimas.
La tercera opción, mantener la AILD pero introducir una responsabilidad basada en la culpa para sistemas de alto riesgo, representa una mejora significativa. Este enfoque alinea las normas con la clasificación de la Ley de Inteligencia Artificial, definiendo claramente las obligaciones de los operadores de sistemas de alto riesgo. Por ejemplo, un operador de un sistema de inteligencia artificial utilizado en la selección de personal tendría que cumplir con obligaciones específicas de diligencia, y el incumplimiento de estas obligaciones daría lugar a una presunción de culpa. Aunque esta opción no es tan eficiente como la responsabilidad estricta, reduce la incertidumbre jurídica y fomenta la armonización al proporcionar un marco más uniforme.
La cuarta opción, considerada la más deseable, consiste en revisar la AILD para introducir un régimen de responsabilidad estricta para sistemas de alto riesgo. Este enfoque no solo garantiza una compensación rápida y efectiva para las víctimas, sino que también promueve la certeza jurídica al eliminar la necesidad de demostrar la culpa. Al centrarse en el operador, esta opción permite a las empresas anticipar y gestionar los riesgos legales, lo que fomenta la innovación y la adopción de tecnologías de inteligencia artificial. Además, al alinearse con la Ley de Inteligencia Artificial, este régimen fortalece la coherencia interna del marco regulatorio europeo, minimizando el riesgo de fragmentación normativa.
La implementación de un régimen de responsabilidad estricta también tiene implicaciones económicas positivas. Al permitir a los operadores internalizar los costes de los riesgos a través de seguros y precios, este modelo reduce la carga financiera para las pequeñas y medianas empresas, que son un pilar fundamental de la economía europea. Por ejemplo, una empresa que desarrolla un sistema de inteligencia artificial para la agricultura de precisión podría calcular su exposición a responsabilidades y contratar un seguro que cubra los daños potenciales, lo que le permitiría competir en el mercado sin temor a litigios costosos.
Reflexión final:
La regulación de la responsabilidad civil en el ámbito de la inteligencia artificial es un desafío jurídico que exige una respuesta cuidadosamente calibrada. El Parlamento Europeo, a través de su análisis crítico de la Directiva de Responsabilidad por Productos Defectuosos y la propuesta de Directiva de Responsabilidad por Inteligencia Artificial, ha identificado las limitaciones de los enfoques actuales y la necesidad de un marco normativo específico. La propuesta de un régimen de responsabilidad estricta, centrado en el operador y limitado a los sistemas de alto riesgo, emerge como la solución más coherente y eficiente. Este enfoque garantiza la compensación de las víctimas, reduce los costes de litigio, promueve la certeza jurídica y fomenta la innovación, fortaleciendo la posición de la Unión Europea como líder en la regulación de tecnologías avanzadas.
En un mundo donde la inteligencia artificial redefine las fronteras de la responsabilidad, el camino hacia un marco normativo claro, armonizado y eficiente es no solo deseable, sino imprescindible para el futuro de Europa. El problema es que habrá muchos agentes que mantendrán su interés en evitar reglas garantistas que, según alegan ellos mismos, pueden suponer un freno para el desarrollo de la inteligencia artificial».