Redactado por Diego Fierro Rodríguez, quien es (entre otras muchas cosas) letrado de la Administración de Justicia Letrado en el Ministerio de Justicia de España. Imparte cursos para cuerpos generales como formador en el Instituto Andaluz de Administración Pública y colabora habitualmente con revistas de investigación y difusión jurídica, como Economist & Jurist, Law & Trends, Legaltoday y Confilegal, estando enfocado en el estudio de aspectos vinculados con la Administración de Justicia y las nuevas tecnologías, entre otras materias. Igualmente, es codirector de la Revista Acta Judicial (…).
I.) El surgimiento de un modelo disruptivo en el panorama tecnológico global:
El lanzamiento de DeepSeek representó un hito que obliga a reconsiderar las dinámicas de poder en el ámbito digital, particularmente en lo que respecta a su integración en estructuras institucionales que tradicionalmente han dependido de procesos humanos para la toma de decisiones críticas. Lo anterior me sugiere que este modelo, desarrollado por una empresa china con sede en Hangzhou, no solo ha alterado el equilibrio económico al provocar fluctuaciones significativas en los mercados bursátiles mundiales, sino que también plantea interrogantes profundos sobre la soberanía estatal y la protección de derechos fundamentales en un entorno donde la automatización se entrelaza con funciones públicas esenciales.
Entiendo que, seis meses después de su irrupción, DeepSeek ha pasado de ser una herramienta de código abierto accesible a convertirse en un instrumento auxiliar en diversas instancias gubernamentales chinas, lo cual exige un análisis jurídico que examine las implicaciones de tal adopción bajo el prisma de principios como la proporcionalidad, la transparencia y la accountability en el derecho administrativo.
Considero que el respaldo implícito del liderazgo chino, evidenciado en encuentros de alto nivel donde el fundador de la empresa compartió escenario con figuras prominentes del sector tecnológico, subraya una estrategia nacional de fomento a la innovación que, si bien impulsa el desarrollo económico, podría vulnerar normas internacionales relativas a la no discriminación en el acceso a tecnologías y a la prevención de monopolios estatales encubiertos. Ello me obliga a deducir que la bendición oficial no es meramente simbólica, sino que configura un marco jurídico en el cual las empresas tecnológicas chinas operan bajo una obligación legal de alinearse con directrices estatales, lo que complica la aplicación de tratados bilaterales sobre comercio y propiedad intelectual, como aquellos derivados de la Organización Mundial del Comercio, donde la distinción entre iniciativa privada y control gubernamental se difumina. En este sentido, el fenómeno de DeepSeek ilustra cómo la inteligencia artificial puede servir como vector para la consolidación de un régimen autoritario, exigiendo una evaluación detallada de su conformidad con estándares universales de derechos humanos, tales como los establecidos en la Declaración Universal de los Derechos Humanos, particularmente en lo tocante a la privacidad y la libertad de expresión.
Asumo que la rápida diseminación de este modelo, con millones de descargas a nivel global, no solo refleja su eficiencia técnica en tareas de razonamiento y procesamiento de datos, sino que también expone vulnerabilidades en los sistemas jurídicos internacionales que aún no han adaptado sus marcos regulatorios a la velocidad de tales avances, lo cual podría derivar en litigios transfronterizos por infracciones a leyes de protección de datos. La narrativa de su éxito, amplificada por elogios de figuras como el fundador de Nvidia, invita a un escrutinio jurídico sobre la colaboración entre entidades privadas de diferentes jurisdicciones, donde acuerdos comerciales podrían inadvertidamente facilitar transferencias de tecnología que contravengan sanciones económicas impuestas por razones de seguridad nacional.
II.) La integración institucional en el contexto chino:
La adopción de DeepSeek por parte de instituciones chinas, desde juzgados hasta departamentos de policía y hospitales, configura un paradigma de asistencia institucional que, aunque eficiente en términos operativos, plantea serias dudas jurídicas en relación con la independencia judicial y la imparcialidad en la administración de justicia. Lo anterior me sugiere que, en los tribunales de Pekín, donde se utiliza para redactar sentencias en cuestión de segundos, esta herramienta podría interferir con el principio de motivación de las resoluciones judiciales, exigido por el derecho procesal para garantizar que las decisiones sean no solo rápidas, sino también razonadas y sujetas a revisión, evitando así una delegación indebida de competencias humanas a algoritmos opacos. Entiendo que en casos como disputas de divorcio en Nanchang o la predicción de atascos en Kunshan, la inteligencia artificial asume roles que tradicionalmente requieren juicio humano, lo cual podría vulnerar el derecho a un proceso justo, consagrado en instrumentos como el Pacto Internacional de Derechos Civiles y Políticos, al introducir sesgos inherentes en los datos de entrenamiento que no se someten a escrutinio público.
Considero que la utilización en la policía de Shenzhen para analizar vídeos de videovigilancia y capturar fugitivos mediante reconocimiento facial ejemplifica un uso que, si bien efectivo en la localización de personas buscadas, suscita preocupaciones jurídicas sobre la proporcionalidad en la invasión de la privacidad, especialmente cuando se procesan datos biométricos de multitudes sin consentimiento individual, lo que podría contravenir principios de habeas data y protección contra búsquedas irrazonables. Ello me obliga a deducir que la obligación legal de las empresas tecnológicas chinas de cooperar con requerimientos gubernamentales, derivada de leyes nacionales sobre ciberseguridad, transforma a DeepSeek en una extensión del aparato estatal, complicando la aplicación de extradiciones internacionales o reclamaciones por daños en foros extranjeros donde se alegue violación de derechos. En hospitales de Fuzhou, donde se emplea para explicar tratamientos a pacientes, surge el interrogante sobre la responsabilidad civil por errores médicos inducidos por sugerencias algorítmicas, requiriendo un análisis bajo el derecho de obligaciones que determine si la entidad usuaria o el desarrollador asume la carga de la prueba en demandas por negligencia.
Asumo que la integración en líneas directas de servicio público en Meizhou, operativas las veinticuatro horas, optimiza la accesibilidad ciudadana pero expone riesgos de discriminación algorítmica, donde respuestas automatizadas podrían perpetuar desigualdades basadas en datos sesgados, exigiendo regulaciones que incorporen auditorías independientes para cumplir con principios de igualdad ante la ley. Esta expansión institucional, respaldada por capacitaciones a funcionarios y comités locales, refleja una política estatal que prioriza la eficiencia sobre la salvaguarda de libertades individuales, lo cual invita a comparar con marcos jurídicos occidentales que imponen evaluaciones de impacto en derechos humanos previas a la implementación de tales tecnologías.
III.) Implicaciones jurídicas en la privacidad y la soberanía de datos:
El despliegue de DeepSeek en entornos institucionales chinos pone de relieve tensiones jurídicas fundamentales en el ámbito de la privacidad de datos, donde la obligación de cooperación con el gobierno chino, impuesta por legislación nacional, podría facilitar accesos no autorizados que vulneren normativas internacionales sobre transferencia transfronteriza de información personal. Lo anterior me sugiere que, en un escenario donde la inteligencia artificial procesa datos sensibles como historiales médicos o registros judiciales, se activa el principio de minimización de datos, establecido en regulaciones como el Reglamento General de Protección de Datos de la Unión Europea, el cual exige que solo se recolecten y usen los estrictamente necesarios, cuestionando si las prácticas chinas cumplen con tales estándares en interacciones globales. Entiendo que el bloqueo por países como Australia, Corea del Sur, India, Italia y la República Checa, motivado por temores a brechas de seguridad, representa una afirmación de soberanía digital que se sustenta en argumentos jurídicos de prevención de riesgos, donde se invoca el principio de precaución, esencialmente en materia de protección de datos, para justificar prohibiciones en dispositivos gubernamentales.
Considero que estas medidas restrictivas no solo protegen la confidencialidad de documentos estatales, sino que también evitan potenciales litigios por violación de contratos internacionales o tratados bilaterales que regulan el flujo de datos, como aquellos derivados del Marco Transatlántico de Privacidad de Datos. Ello me obliga a deducir que la naturaleza de código abierto de DeepSeek, aunque promueve la innovación global, introduce complejidades en el derecho de propiedad intelectual, donde modificaciones por terceros podrían generar responsabilidades subsidiarias por daños causados en jurisdicciones extranjeras, exigiendo cláusulas de indemnización en acuerdos de uso. Asumo que la censura incorporada en el modelo respecto a temas políticos sensibles, impuesta por el Partido Comunista Chino, plantea dilemas ético-jurídicos sobre la libertad de información, potencialmente configurando una forma de control extraterritorial que contraviene principios de no interferencia en asuntos internos de otros estados.
En este marco, la colaboración con empresas como Baidu, Tencent y Huawei amplifica los riesgos de concentración de poder en manos de entidades alineadas con el estado, lo cual podría derivar en demandas antimonopolio bajo leyes como la Sherman Act en Estados Unidos, si se demuestra que tales integraciones distorsionan la competencia global. La dependencia de chips extranjeros, pese a presiones nacionales, subraya vulnerabilidades en la cadena de suministro que podrían invocarse en disputas comerciales ante la Organización Mundial del Comercio, donde se argumente dumping tecnológico subsidiado.
IV. Retos técnicos y regulatorios en el desarrollo futuro:
Las dificultades técnicas enfrentadas por DeepSeek, como el retraso en el lanzamiento de su modelo R2 debido a problemas en el entrenamiento con chips locales, revelan limitaciones jurídicas en la autonomía tecnológica china que impactan en la fiabilidad de su asistencia institucional. Lo anterior me sugiere que tales contratiempos, al obligar al uso de componentes estadounidenses pese a directrices nacionales, podrían exponer a la empresa a sanciones por incumplimiento de regulaciones internas, mientras que en el plano internacional facilitan argumentos para embargos basados en seguridad nacional. Entiendo que el reclutamiento de talento joven y expertos repatriados configura un ecosistema de innovación que, si bien acelera avances, plantea cuestiones de derecho laboral sobre condiciones de empleo y protección de secretos industriales, especialmente cuando salarios elevados atraen a profesionales de jurisdicciones con estándares más estrictos.
Considero que el elogio de líderes globales a los modelos chinos de código abierto invita a un debate jurídico sobre la armonización de estándares éticos en inteligencia artificial, donde tratados multilaterales podrían exigir transparencia en algoritmos usados en instituciones públicas para prevenir abusos de poder. Ello me obliga a deducir que el fenómeno de DeepSeek ejemplifica cómo la asistencia institucional de inteligencia artificial puede erosionar barreras democráticas, exigiendo marcos regulatorios que incorporen revisiones judiciales obligatorias para su implementación.
Asumo que, en última instancia, este ejemplo peligroso urge a una reflexión colectiva sobre el equilibrio entre innovación y salvaguarda de derechos, sin que ello implique una paralización del progreso tecnológico, que, no obstante, debe llevarse a cabo con pleno conocimiento de las implicaciones que puede tener su uso en los regímenes dictatoriales.
Perfil de LinkedIn para contacto, disponible en: