Por: Diego Fierro Rodríguez
La llegada de los sistemas de inteligencia artificial generativa a nuestros espacios de trabajo ha sido algo más que una simple actualización de software. Representa un cambio cualitativo, una alteración fundamental en nuestra forma de interactuar con el conocimiento. Para los profesionales del derecho, estas herramientas se presentan como asistentes de una potencia inédita: pueden redactar un borrador de demanda en segundos, resumir una compleja sentencia o sugerir líneas argumentales con un lenguaje técnico impecable. Esta capacidad, sin embargo, trae consigo una paradoja peligrosa. La misma solvencia formal del lenguaje generado —esa fluidez que parece demostrar comprensión— puede actuar como un velo, ocultando los profundos riesgos que acechan bajo la superficie. Inspira una confianza que, si no es temperada por una crítica feroz, se transforma en una falsa sensación de seguridad. ¿No es acaso más peligroso el error que viene vestido con la corbata de la certeza?
Frente a este escenario, la Agencia Española de Protección de Datos (en adelante, AEPD) ha emitido un documento titulado “Cuidado con lo que confías”. Debemos ver esta intervención no como un freno reaccionario a la innovación, sino como un acto esencial de pedagogía jurídica en un momento de transición. Hablamos de diez recomendaciones:
- En primer lugar, se desaconseja proporcionar información personal identificativa —como nombre completo, dirección, documento nacional de identidad, teléfono o imágenes propias—, dado el riesgo de filtración o indexación en motores de búsqueda. Para plantear supuestos, se recomienda recurrir a casos ficticios.
- Asimismo, se insta a evitar compartir datos sensibles —clínicos, financieros, contractuales o de geolocalización— aunque no vayan acompañados de nombres, ya que podrían permitir la identificación indirecta con fines no deseados.
- De igual modo, es preciso respetar la privacidad de terceros, eliminando cualquier dato que identifique a otras personas —en especial menores— y absteniéndose de utilizar imágenes ajenas para generar contenido.
- En el ámbito laboral, se subraya la necesidad de seguir las políticas de seguridad de la organización y no introducir información confidencial de la entidad, clientes o compañeros en sistemas de inteligencia artificial.
- Otro aspecto fundamental consiste en revisar las condiciones del servicio, optando por versiones seguras y teniendo presente que las plataformas recogen metadatos, direcciones IP y datos de uso más allá de la consulta realizada.
- La Agencia también advierte que estas herramientas no sustituyen el criterio profesional especializado. No ofrecen empatía, asesoramiento cualificado ni diagnósticos médicos o psicológicos fiables, por lo que en situaciones delicadas debe recurrirse a expertos humanos.
- Junto a lo anterior, se recalca la necesidad de mantener una actitud crítica ante las respuestas generadas, verificando su veracidad en fuentes alternas, ya que pueden resultar erróneas aunque aparenten certeza.
- En el caso de los menores, corresponde educarles de forma accesible sobre los riesgos de compartir información y promover su pensamiento crítico en el uso de estas tecnologías.
- Desde el punto de vista técnico-operativo, se sugiere utilizar cuentas diferenciadas —evitando el correo personal o profesional— y borrar con regularidad el historial de conversaciones para limitar posibles filtraciones.
- Por último, se llama la atención sobre el riesgo de creación de perfiles. Consultas aparentemente inocuas pueden emplearse para elaborar un perfil detallado de gustos, intereses y vulnerabilidades del usuario.
Lo que la AEPD viene a recordarnos es un principio elemental, pero fácilmente olvidado en el entusiasmo por lo nuevo: la incorporación de una tecnología revolucionaria no suspende mágicamente la vigencia del ordenamiento jurídico. Los principios de protección de datos, el deber de confidencialidad y la responsabilidad profesional no se evaporan porque nuestro interlocutor sea un algoritmo. Al contrario, adquieren una nueva y urgente relevancia. El documento, accesible en su portal web, sintetiza diez advertencias cruciales que funcionan como un manual de supervivencia digital para cualquier profesional. Su esencia no es prohibitiva, sino habilitadora: nos proporciona el marco de cautelas necesario para usar estas herramientas sin autosabotearnos ni vulnerar derechos fundamentales.
Entiendo que el núcleo de su mensaje es que la inteligencia artificial no es un instrumento neutro, como podría serlo un lápiz. Es un sistema activo de procesamiento que ingiere, interpreta, almacena y reutiliza la información que se le proporciona. Cada consulta deja un rastro, un dato que se incorpora a un ecosistema informacional vasto y a menudo opaco. Por ello, estas recomendaciones deben leerse mucho más allá de la mera lista de consejos prácticos. Constituyen, en mi opinión, criterios interpretativos esenciales para integrar la inteligencia artificial en la práctica jurídica de una manera que no erosione la deontología profesional. El debate ya no es si debemos usar estas herramientas —esa batalla está perdida, y sería necio seguir librándola—, sino cómo podemos hacerlo preservando nuestra responsabilidad y la seguridad de la información que nos es confiada.
II. Minimización y exposición
El principio de minimización de datos, piedra angular del Reglamento General de Protección de Datos, resuena con una fuerza especial en el contexto de la inteligencia artificial generativa. La insistencia de la AEPD en no introducir información personal o sensible no es una precaución genérica; es la aplicación directa y sensata de una lógica jurídica incontestable: solo deben tratarse los datos estrictamente necesarios para una finalidad concreta. Cuando un abogado copia y pega en un chat el extracto bancario de un cliente, los detalles médicos de un testigo o la cláusula confidencial de un contrato en negociación, está realizando un acto de enorme trascendencia. Está ampliando el círculo de difusión de esa información de manera imprevisible y, en la mayoría de los casos, irreversible.
Pensémoslo con una analogía cotidiana. Es como si, para resolver una duda sobre mecánica, decidieras dejar las llaves de tu coche, la factura de compra y tu carnet de conducir sobre la mesa de un bar lleno de extraños mientras preguntas en voz alta cómo arreglar un ruido en el motor. La respuesta técnica que recibas podría ser útil, pero has expuesto unos activos valiosísimos sin control sobre lo que los demás harán con ellos. En el entorno digital, el riesgo es análogo pero a escala exponencial. Esos datos no solo son el texto de la consulta; se enriquecen con un universo de metadatos —hora, ubicación del dispositivo, dirección del protocolo de internet, historial de sesiones— que permiten triangulaciones y identificaciones con una facilidad aterradora.
Debe tenerse presente que la anonimización en este contexto es una quimera peligrosa. Creer que al suprimir el nombre y el número de identificación fiscal de un supuesto ya estamos seguros es un error grave. Un caso ficticio descrito con demasiados detalles específicos —una disputa de lindes entre dos empresas de un sector muy concreto, con referencias a un procedimiento administrativo reciente— puede ser tan identificatorio como un documento nacional de identidad para quien sepa conectar los puntos. La AEPD advierte, con mucho tino, que la acumulación de fragmentos aparentemente inocuos puede reconstruir una identidad con una precisión sorprendente. Lo anterior me sugiere que el profesional debe cultivar una nueva virtud: la contención informativa deliberada. Esto implica entrenarse en el arte de fabricar ejemplos verdaderamente ficticios, desprovistos de todo anclaje con la realidad, incluso cuando esto suponga un esfuerzo mental adicional. En este punto, la prudencia no es una muestra de excesivo celo, sino la técnica jurídica elemental de quien comprende que los datos personales son, ante todo, un riesgo que debe ser gestionado.
III. Diligencia y criterio
Quizás la advertencia más profundamente jurídica de todas sea la que se refiere a la responsabilidad irrenunciable del profesional sobre el output generado. Existe una tentación psicológica poderosa, alimentada por la forma elocuente de las respuestas, de atribuir a la inteligencia artificial una autoridad cuasi pericial. La AEPD desmonta esta ilusión de plano: estas herramientas no ofrecen asesoramiento cualificado ni pueden sustituir el juicio humano. Desde la perspectiva de la deontología jurídica, esta advertencia es fundamental. Conecta directamente con el deber de diligencia que es la seña de identidad de cualquier profesión seria.
La inteligencia artificial genera verosimilitud, no verdad. Puede producir un comentario jurídico perfectamente estructurado que cite una norma derogada como si estuviera vigente, o que interprete una doctrina del tribunal supremo de forma convincente pero completamente errónea. Su arquitectura está diseñada para predecir la siguiente palabra más probable, no para garantizar la corrección sustantiva. El riesgo, por tanto, es doble: está el error en sí, y está el efecto halo de su presentación formal, que puede adormecer nuestro espíritu crítico. Para un jurista, las implicaciones son tremendamente prácticas. Incorporar sin una verificación exhaustiva un argumento o una referencia generados automáticamente en un escrito dirigido a un juez o en un informe para un cliente no es solo una mala práctica; es un posible fundamento de responsabilidad por negligencia profesional. La herramienta puede ser un excelente punto de partida, un estimulante para el razonamiento o un ayudante para superar el bloqueo de la página en blanco. Pero la comprobación en fuentes primarias, la interpretación contextual de la norma y la valoración estratégica de los argumentos siguen siendo funciones indelegables, el núcleo mismo de nuestro oficio. Asumo que este es el corazón del mensaje: la inteligencia artificial no diluye la autoría ni atenúa la exigencia de rigor; al contrario, la intensifica, porque ahora debemos ser vigilantes no solo de nuestros errores, sino también de los de un sistema que carece de intencionalidad y, por tanto, de responsabilidad.
IV. Terceros y perfiles
Las recomendaciones sobre privacidad de terceros y creación de perfiles abren un flanco de análisis que va más allá de la protección de datos tradicional. Introducir información de clientes, contrapartes o colegas en un sistema de inteligencia artificial constituye, sin ambages, un tratamiento de datos personales. Que la finalidad sea interna —por ejemplo, redactar una carta para ese cliente— no exime de la necesidad de una base jurídica que lo legitime, ya sea el consentimiento o el interés legítimo. Pero la AEPD va más allá, iluminando un riesgo más sutil y persistente: la construcción de perfiles de comportamiento a partir de nuestro historial de consultas.
Cada interacción con el sistema es una pincelada en un retrato digital que nos define. Las preguntas que formulamos revelan, con el tiempo, nuestros ámbitos de especialización, los casos concretos que estamos llevando, nuestras lagunas de conocimiento e incluso nuestras inclinaciones estratégicas o estado de ánimo. Un historial de búsquedas sobre «impugnación de despidos por ansiedad», «cláusulas de confidencialidad en fusiones» y «jurisprudencia reciente sobre daños y perjuicios» dibuja un perfil profesional muy nítido. En un entorno competitivo, este rastro informativo tiene un valor estratégico inmenso y supone una vulnerabilidad latente.
Considero que esta es la capa de riesgo menos comprendida y más insidiosa. No se trata solo del dato concreto que hoy introducimos, sino del patrón que nuestro uso constante va tejiendo. Las sugerencias técnicas de la AEPD —usar cuentas diferenciadas y borrar periódicamente el historial— son paliativos útiles, pero no soluciones definitivas. Reconocen que parte de nuestra huela es inevitable, pero nos instan a contener su expansión. El mensaje de fondo es claro: debemos ser conscientes de que, al usar estas herramientas, no solo estamos obteniendo una respuesta puntual; estamos alimentando un modelo que puede aprender de nosotros y, en cierta medida, sobre nosotros. Gestionar este rastro debe convertirse en parte de nuestra higiene profesional digital.
V. Consideraciones finales
En conjunto, las advertencias de la Agencia Española de Protección de Datos esbozan algo más profundo que un decálogo de buenas prácticas. Configuran una filosofía de uso, una manera de relacionarnos con la inteligencia artificial que trasplanta al nuevo entorno digital los parámetros jurídicos clásicos de la desconfianza razonable, el control sobre la información y la responsabilidad personal indelegable. No es un manifiesto en contra del progreso, sino un marco para domesticarlo, para integrarlo en nuestra práctica sin que ello signifique una regresión en las garantías y los derechos conquistados.
Para la abogacía, esto se traduce en la necesidad urgente de desarrollar una deontología específica para la interacción con sistemas automatizados. Ello implica, en primer lugar, asumir mentalmente que estos sistemas son terceros no confidenciales por defecto. Cualquier información que les confiemos debe considerarse potencialmente pública. En segundo lugar, exige aplicar de manera consciente y casi refleja los principios de protección de datos en cada interacción, practicando la minimización y la limitación de la finalidad de forma activa. Por último, obliga a reforzar, nunca a abandonar, el papel del juicio crítico humano como último y definitivo filtro de calidad y ética.
La inteligencia artificial es, en definitiva, un instrumento de una potencia extraordinaria, pero mudo ante las exigencias de la ética. No tiene deberes ni asume responsabilidades. Esa carga recae íntegramente en el profesional que la utiliza. La prudencia en su manejo, por tanto, no es un signo de conservadurismo tecnológico, sino la manifestación más coherente del cumplimiento de unos deberes legales y profesionales preexistentes. Comprender esta realidad y actuar en consecuencia no es una opción para el jurista moderno; es, sencillamente, la nueva frontera del ejercicio responsable del derecho.