Redactado por Diego Fierro Rodríguez, quien es (entre otras muchas cosas) letrado de la Administración de Justicia Letrado en el Ministerio de Justicia de España. Imparte cursos para cuerpos generales como formador en el Instituto Andaluz de Administración Pública y colabora habitualmente con revistas de investigación y difusión jurídica, como Economist & Jurist, Law & Trends, Legaltoday y Confilegal, estando enfocado en el estudio de aspectos vinculados con la Administración de Justicia y las nuevas tecnologías, entre otras materias. Igualmente, es codirector de la Revista Acta Judicial (…).
I.) Introducción al problema de la confidencialidad ante la inteligencia artificial:
La rápida adopción de herramientas de inteligencia artificial, como ChatGPT, ha transformado la manera en que los individuos interactúan con la tecnología, empleándola no solo como un instrumento de productividad, sino también como un espacio para el desahogo personal y la búsqueda de orientación en asuntos íntimos o complejos. Esta dinámica plantea interrogantes jurídicos y éticos de envergadura, particularmente en lo que respecta a la confidencialidad de la información compartida. Entiendo que la declaración de Sam Altman, director ejecutivo de OpenAI, en el pódcast This Past Weekend con Theo Von, en la que advierte que ChatGPT carece de un marco de secreto profesional comparable al de médicos, psicólogos o abogados, pone de manifiesto una vulnerabilidad estructural en las interacciones con estas plataformas. Lo anterior me sugiere que la confianza que los usuarios depositan en la inteligencia artificial, especialmente en contextos sensibles, no está respaldada por garantías legales equiparables a las que rigen las profesiones tradicionales, lo que genera un riesgo significativo de exposición de datos personales.
La confidencialidad, como principio jurídico y ético, es un pilar esencial de las relaciones profesionales que manejan información sensible, ya que asegura que los individuos puedan compartir datos sin temor a una divulgación indebida. En el ámbito de la inteligencia artificial, esta expectativa de privacidad se ve comprometida por la ausencia de un marco normativo específico que proteja las comunicaciones entre el usuario y el sistema. Asumo que esta carencia no solo refleja una brecha en la regulación de las nuevas tecnologías, sino que también evidencia una desconexión entre la percepción de los usuarios, quienes tratan a la inteligencia artificial como un confidente, y la realidad técnica y legal de estas plataformas. La advertencia de Altman, al destacar que los datos compartidos con ChatGPT podrían ser exigidos en procedimientos judiciales, subraya la urgencia de analizar las implicaciones jurídicas de esta falta de confidencialidad y de proponer soluciones que equilibren la innovación tecnológica con la protección de los derechos fundamentales.
II.) El secreto profesional en profesiones tradicionales:
El secreto profesional constituye un deber ético y jurídico fundamental en disciplinas como la medicina, la psicología y el derecho, diseñado para salvaguardar la privacidad de los individuos y garantizar la confianza en la relación profesional. En España, este principio encuentra su fundamento en la Constitución Española, particularmente en el artículo 18.1, que protege el derecho al honor, la intimidad personal y familiar, y en el artículo 20.1.d, que reconoce el derecho al secreto profesional en el ejercicio de las libertades de expresión e información. Considero que esta sólida base normativa, complementada por disposiciones específicas en cada ámbito profesional, establece un estándar elevado de confidencialidad que contrasta marcadamente con las limitaciones de las plataformas de inteligencia artificial.
En el ámbito médico, el secreto profesional abarca toda la información obtenida en el ejercicio de la profesión, desde los datos confiados por el paciente hasta las observaciones realizadas por el facultativo. La Ley General de Sanidad, en su artículo 10.3, garantiza la confidencialidad de la información relacionada con el proceso sanitario, mientras que el artículo 199 del Código Penal tipifica como delito la revelación de secretos conocidos por razón de profesión u oficio, con penas que incluyen prisión e inhabilitación profesional. Esta obligación persiste incluso tras el fallecimiento del paciente, protegiendo su reputación póstuma. Ello me obliga a deducir que el marco jurídico español impone un deber de confidencialidad prácticamente absoluto, con excepciones estrictamente reguladas, como la obligación de denunciar delitos graves o proteger la salud pública, siempre bajo un juicio ético y legal que requiere la intervención de un profesional humano.
En la psicología, el secreto profesional es igualmente un pilar de la relación terapéutica, consagrado en el Código Deontológico del Psicologo. La confidencialidad abarca los datos compartidos en terapia, los informes clínicos y cualquier información derivada del proceso terapéutico, cuya divulgación indebida puede acarrear sanciones penales y profesionales. El Reglamento General de Protección de Datos de la Unión Europea refuerza esta protección al clasificar los datos psicológicos como una categoría especial, sujeta a estrictas condiciones de tratamiento. Entiendo que estas normas reflejan un compromiso con la protección de la intimidad, que no encuentra un equivalente en las interacciones con ChatGPT, donde la ausencia de un profesional humano y de un marco ético específico compromete la seguridad de los datos sensibles.
En el ámbito del derecho, el secreto profesional del abogado está regulado por la Ley Orgánica 5/2024 del Derecho de Defensa, que consagra la confidencialidad de todas las comunicaciones entre el abogado y su cliente. Este principio, que protege tanto el derecho de defensa como la intimidad del cliente, se extiende a todas las modalidades de actuación profesional, incluyendo a los abogados de empresa. Lo anterior me sugiere que el legislador español reconoce la importancia estratégica del secreto profesional no solo para la protección individual, sino también para el funcionamiento del sistema de justicia. Las excepciones a este deber, como las relacionadas con la prevención de delitos graves, están estrictamente delimitadas y requieren un juicio ético que la inteligencia artificial, en su estado actual, no puede replicar.
III.) Ausencia de confidencialidad en ChatGPT:
Las políticas de datos de OpenAI, que rigen el funcionamiento de ChatGPT, revelan una disparidad significativa entre las expectativas de los usuarios y las garantías de privacidad ofrecidas. Según las políticas de OpenAI, los datos de los usuarios, que incluyen prompts, historiales de chat, información de cuentas y datos de uso, son recopilados y utilizados para diversos fines, como la mejora del modelo y la investigación. Aunque los usuarios pueden optar por excluir sus datos del entrenamiento del modelo, esta opción no elimina el riesgo de que la información sea exigida en un procedimiento judicial, como advirtió Sam Altman. Considero que esta vulnerabilidad, ilustrada por el caso de The New York Times contra OpenAI, pone de manifiesto una limitación estructural en la protección de la privacidad en las plataformas de inteligencia artificial.
El caso de The New York Times, en el que una orden judicial obligó a OpenAI a preservar datos de conversaciones que los usuarios habían solicitado eliminar, evidencia los riesgos de divulgación forzada. La decisión de la Jueza Wang, emitida el 13 de mayo de 2025, ordenó la retención de aproximadamente 60 mil millones de conversaciones, lo que generó una apelación de OpenAI por considerar que dicha medida violaba los compromisos de privacidad con los usuarios. Lo anterior me obliga a deducir que, a diferencia de las comunicaciones protegidas por el secreto profesional en las profesiones tradicionales, las interacciones con ChatGPT carecen de un privilegio legal reconocido, lo que las hace susceptibles a ser utilizadas como evidencia en litigios. Esta situación no solo plantea riesgos de autoincriminación para los usuarios, sino que también puede comprometer la confidencialidad de información empresarial o estratégica en contextos corporativos.
La ausencia de un marco de confidencialidad comparable al secreto profesional genera un dilema ético significativo. Los usuarios, al tratar a ChatGPT como un confidente, asumen que existe una privacidad que, en realidad, no está garantizada, lo que puede llevar a la divulgación de información sensible con consecuencias jurídicas o personales graves. Entiendo que esta «confianza ciega», como la describe Altman, refleja una brecha en la alfabetización digital, donde la facilidad de uso de la inteligencia artificial supera la comprensión de sus limitaciones legales. Además, la naturaleza de los modelos de inteligencia artificial, diseñados para aprender de los datos de los usuarios, plantea preocupaciones adicionales sobre la posibilidad de que información sensible sea retenida o reflejada en futuras salidas del modelo, incluso de manera indirecta.
IV.) Implicaciones jurídicas de la falta de privilegio:
La propuesta de Sam Altman de establecer un «privilegio de inteligencia artificial» equiparable al secreto profesional de las profesiones tradicionales enfrenta obstáculos jurídicos y filosóficos de considerable magnitud. En el derecho español y europeo, los privilegios profesionales, como el médico-paciente o el abogado-cliente, se fundamentan en la existencia de una relación fiduciaria, un código ético vinculante y la capacidad del profesional para ejercer un juicio moral contextualizado. Asumo que la inteligencia artificial, al carecer de estas características, no puede cumplir con los requisitos necesarios para que las comunicaciones con ella sean protegidas bajo un privilegio legal. Esta limitación no solo refleja la naturaleza técnica de los sistemas de inteligencia artificial, sino también la necesidad de una supervisión humana para navegar los dilemas éticos inherentes a la confidencialidad.
La fragmentación regulatoria a nivel global agrava esta problemática. Mientras que la Unión Europea ha avanzado con la Ley de Inteligencia Artificial y el Reglamento General de Protección de Datos, que imponen estrictas obligaciones de confidencialidad y protección de datos, otras jurisdicciones, como Estados Unidos, presentan un enfoque fragmentado con regulaciones estatales dispares. Por ejemplo, en California, las leyes regulan el uso de voces generadas por inteligencia artificial, mientras que en Washington se exigen divulgaciones específicas para chatbots en el ámbito de la salud mental. Ello me obliga a deducir que la falta de armonización internacional complica la implementación de estándares uniformes de confidencialidad, dejando a los usuarios en un estado de incertidumbre jurídica según su ubicación geográfica.
La ausencia de un marco legal específico para la confidencialidad en la inteligencia artificial también tiene implicaciones en el ámbito ético. La percepción de los usuarios de que las interacciones con ChatGPT son privadas puede llevar a la divulgación de información que, en un contexto profesional tradicional, estaría protegida por estrictas normas de confidencialidad. Esta situación no solo expone a los usuarios a riesgos legales, como la autoincriminación o la violación de acuerdos de confidencialidad, sino que también erosiona la confianza en las plataformas de inteligencia artificial. Considero que la resolución de este dilema requiere un enfoque multidimensional que combine avances técnicos, regulación jurídica y educación pública para alinear las expectativas de los usuarios con la realidad legal de estas tecnologías.
V.) Soluciones técnicas y regulatorias:
La creciente preocupación por la confidencialidad en la inteligencia artificial ha impulsado el desarrollo de tecnologías de mejora de la privacidad que ofrecen soluciones prometedoras para mitigar los riesgos identificados. El cifrado homomórfico, por ejemplo, permite realizar cálculos sobre datos cifrados sin necesidad de descifrarlos, lo que protege la privacidad de la información sensible durante su procesamiento. El aprendizaje federado permite entrenar modelos de inteligencia artificial sin centralizar los datos de los usuarios, manteniendo la información en los dispositivos locales. La privacidad diferencial, al introducir ruido controlado en los datos, asegura que las salidas de los modelos no puedan ser rastreadas hasta individuos específicos. Finalmente, la inteligencia artificial en dispositivo procesa las consultas localmente, eliminando la necesidad de transmitir datos a servidores externos. Lo anterior me sugiere que estas tecnologías, si se implementan de manera generalizada, podrían reducir significativamente los riesgos de divulgación forzada y mejorar la confianza en las plataformas de inteligencia artificial.
Desde una perspectiva regulatoria, la Unión Europea ha establecido un estándar elevado con la Ley de Inteligencia Artificial y el Reglamento General de Protección de Datos, que imponen requisitos estrictos para el tratamiento de datos personales y sensibles. La Ley de Datos, aplicable desde septiembre de 2025, refuerza el derecho de portabilidad y busca garantizar un acceso justo a los datos generados por productos conectados. En contraste, el enfoque fragmentado de Estados Unidos y la falta de una regulación integral en Canadá, tras el fracaso de la Ley de Inteligencia Artificial y Datos, destacan la necesidad de una armonización global. Entiendo que esta disparidad regulatoria no solo complica el cumplimiento para los proveedores de inteligencia artificial, sino que también genera incertidumbre para los usuarios, quienes enfrentan diferentes niveles de protección según su jurisdicción.
La presión regulatoria, particularmente en la Unión Europea, está estimulando la adopción de tecnologías de mejora de la privacidad, lo que demuestra una relación sinérgica entre la regulación y la innovación tecnológica. Por ejemplo, la necesidad de cumplir con el Reglamento General de Protección de Datos ha llevado a un mayor interés en el cifrado homomórfico y el aprendizaje federado en sectores como la salud. Asumo que esta convergencia entre marcos jurídicos y avances técnicos representa una oportunidad para construir un ecosistema de inteligencia artificial más seguro, siempre que se aborde la fragmentación regulatoria y se fomente la colaboración internacional.
VI. Reflexiones finales:
El análisis de la inexistencia del secreto profesional en el seno de ChatGPT revela una tensión fundamental entre la innovación tecnológica y la protección de los derechos fundamentales. Mientras que las profesiones tradicionales operan bajo marcos jurídicos y éticos que garantizan la confidencialidad de las comunicaciones, las plataformas de inteligencia artificial carecen de un privilegio legal equivalente, lo que expone a los usuarios a riesgos de divulgación forzada y autoincriminación. La advertencia de Sam Altman subraya la urgencia de abordar esta brecha, no solo para proteger la privacidad de los usuarios, sino también para preservar la confianza en la inteligencia artificial como una herramienta de apoyo en contextos sensibles.
Para mitigar estos riesgos, considero que es imperativo adoptar un enfoque multidimensional que combine educación pública, avances técnicos y regulación jurídica. Los usuarios deben ser informados sobre las limitaciones de privacidad de las plataformas de inteligencia artificial y animados a utilizar funciones como el modo de chat temporal o la exclusión del entrenamiento del modelo. Los desarrolladores deben integrar principios de privacidad por diseño y adoptar tecnologías como el cifrado homomórfico y la inteligencia artificial en dispositivo. Los reguladores deben acelerar la creación de marcos legales específicos que aborden la confidencialidad en la inteligencia artificial y fomentar la armonización internacional para garantizar una protección uniforme.
Ciertamente, la evolución de la inteligencia artificial ofrece una oportunidad única para redefinir la relación entre tecnología y privacidad. La convergencia de soluciones técnicas y regulatorias, junto con una mayor conciencia pública, puede transformar la «confianza ciega» en una confianza informada, asegurando que la inteligencia artificial no solo sea una herramienta poderosa, sino también un espacio seguro para los usuarios. La resolución de este desafío no solo protegerá los derechos individuales, sino que también fortalecerá la legitimidad y la adopción responsable de estas tecnologías en el futuro.
Perfil de LinkedIn para contacto, disponible en: https://www.linkedin.com/in/diego-fierro-rodr%C3%ADguez-9a5848315/?original_referer=https%3A%2F%2Fwww%2Egoogle%2Ecom%2F&originalSubdomain=es