Derecho al olvido en un LLM ¿puede realmente olvidarte?
Uno de los grandes desafíos y debates más cruciales y relevantes de la intersección entre privacidad e inteligencia artificial
Redactado por Daniel Fernández-Viagas Gallego, quien es (entre otras muchas cosas) Auditor Interno y Lead Auditor en norma ISO 27001:2022, ISO 9001,14001 y 20000. 20 años de experiencia integrando sistemas de gestión. DPD certificado según esquema de la AEPD desde 2019, CDPP por el ISMS Forum, técnico de ciberseguridad por INCIBE (España), premio 2024 de la Agencia Española de protección de datos a la difusión del derecho fundamental a la protección de datos en redes sociales. Docente de numerosos proyectos formativos en España relacionados con privacidad y protección de datos desde 2010, así como en proyectos internacionales con USACH en Chile, Ecuador o Perú (…)
Imagina que has compartido algo en internet o redes sociales hace años, existe una información sobre ti inexacta o que ha sido distribuida sin tú permiso, el derecho al olvido te permite solicitar que se desindexe de motores de búsqueda o que se suprima de una base de datos por parte de un responsable del tratamiento. Pero ¿Qué ocurre cuando esa información ha sido aprendida o es usada por un modelo LLM de IA como ChatGPT, Gemini o Grok? ¿Puede realmente olvidar o suprimir un dato personal?
El derecho al olvido es una manifestación del derecho de supresión reconocida por el RGPD y nuestra Ley 3/2018 de 5 de diciembre, LOPDgdd. Consiste en la facultad que tienen las personas para solicitar que sus datos personales sean eliminados o desindexados de buscadores de internet o plataformas que los estén difundiendo, especialmente si esa información resulta inadecuada, obsoleta, irrelevante o excesiva y provoca una afectación a la privacidad del afectado.
Este derecho también puede ejercitarse si el tratamiento de los datos personales se ha basado en el consentimiento que prestaste al responsable y retiras el mismo, siempre que dicho tratamiento no se base en otra causa que lo legitime. Ahora entenderás mejor por qué las grandes tecnológicas apostaron por el “interés legítimo” como base legitimadora para entrenar sus modelos de IA.
Estos modelos se entrenan con conjuntos de datos masivos que pueden incluir datos personales como nombres, biografías o incluso detalles más confidenciales extraídos de foros, noticias o fuentes secundarias. Una vez entrenados, los datos no se almacenan en una base de datos tradicional, donde podrías simplemente borrarlos o suprimirlos. En este caso, se memorizan de forma distribuida en billones de parámetros, esos números que ajustan cómo el modelo LLM predice palabras. Es como si tu información se disolviera en un mar de datos, está ahí, influyendo en las respuestas, pero no los vemos directamente.
En los modelos de lenguaje grandes (LLM, por sus siglas en inglés), como ChatGPT o Grok, parece posible ejercerlo de forma parcial mediante técnicas emergentes de desaprendizaje (machine unlearning), hay compañías trabajando en ello, pero no está plenamente garantizado y desde luego no es sencillo, ya que los datos se integran en los parámetros del modelo. El proceso de olvidar o suprimir información en un modelo ya entrenado es enormemente complejo, no basta con eliminar un dato de una base, sino que habría que reentrenar el modelo sin ese dato o usar técnicas específicas. Estas técnicas no están maduras ni suficientemente implementadas, su eficacia puede ser dudosa para casos concretos de datos de carácter personal incorporados previamente. Además, la IA podría usar el dato a través de alucinaciones o patrones residuales.
Evidentemente, encontramos grandes impedimentos, como el coste de reentrenar el modelo, también legales, como el respeto a los plazos de respuesta al ejercicio de derecho. Si se solicita a un LLM que deje de generar una información falsa o perjudicial, solo podrá olvidar de manera efectiva si existe un mecanismo para modificar su modelo, su corpus de entrenamiento y las propias instrucciones de uso, algo que la tecnología implantada no permite realizar de manera completa y efectiva. Los LLM almacenan patrones y representaciones de los datos; La supresión selectiva de información personal en la arquitectura de un modelo entrenado es extremadamente difícil, a diferencia de un buscador que puede desindexar enlaces específicos
Esto no significa que el responsable del tratamiento no tenga que tomar todas las medidas oportunas para garantizar el derecho del interesado, facilitando los canales oportunos, respondiendo en plazo y forma e implementando medidas reales para permitir y asegurar el derecho del afectado. En la práctica, los responsables de LLM han habilitado algunos cauces para la eliminación, como formularios de rectificación o borrado de datos personales, aunque la efectividad real, como hemos indicado, está en entredicho.
Algunas plataformas ofrecen borrar contenido en registros o logs asociados a cuentas de usuario, pero esto no significa que el modelo entrenado pueda desaprender lo que ya fue integrado en su arquitectura. El derecho al olvido frente a un LLM como ChatGPT, Grok u otros modelos de IA generativa no parece una garantía efectiva en los términos en que lo son las solicitudes de supresión ante buscadores o redes sociales. Aunque jurídicamente es posible ejercer este derecho, como hemos comentado, existen limitaciones técnicas y legales que dificultan su efectividad práctica y material.
Para ejercitar el derecho, el afectado debe acreditar que el LLM puede generar información identificable personal, cuyo tratamiento le perjudique o se encuentre en uno de los supuestos del artículo 17 del Reglamento General de Protección de Datos.
Los desarrolladores de IA deben avanzar hacia un modelo más gobernable y reversible, pero hoy por hoy, en mi opinión, no podemos demostrar que un modelo como ChatGPT o Grok olvide datos ya integrados. Uno de los retos en materia de cumplimiento asociado al uso de Inteligencia artificial debe ser el efectivo ejercicio de derechos de los interesados, esperaremos avances en esta materia.
La protección de datos y la privacidad son más importante que nunca y deben estar en el foco, las autoridades de control y la sociedad civil deben seguir exigiendo que las nuevas tecnologías respeten los derechos fundamentales y promuevan procedimientos eficaces de ejercicio de derecho ante los riesgos de desinformación, daño reputacional e intrusión en la vida privada de las personas.
Daniel Fernández-Viagas Gallego
Sevilla, a viernes 29 de agosto del 2025
Perfil de LinkedIn para contacto, disponible en:
https://www.linkedin.com/in/daniel-fern%C3%A1ndez-viagas-gallego-716446174/?originalSubdomain=es