Diego Fierro Rodríguez
I. La mercantilización del deseo algorítmico
El derecho de la competencia y la regulación de los mercados digitales han abordado, en los últimos años, múltiples formas de distorsión comercial: la concentración oligopólica, la explotación de datos personales, la manipulación algorítmica de preferencias. Sin embargo, el caso de Grok, el sistema de inteligencia artificial desarrollado por la empresa del magnate Elon Musk, introduce una variable que desborda los marcos regulatorios existentes: la estrategia empresarial deliberada de priorizar la generación de contenido sexualmente explícito como vector de captación de usuarios, con independencia de las externalidades éticas y jurídicas que dicha decisión conlleva.
La investigación publicada por The Washington Post el pasado 2 de febrero de 2026 revela un patrón de conducta corporativa que trasciende la mera negligencia en el diseño de salvaguardas, para configurar una opción empresarial informada, documentada y asumida conscientemente por la dirección de la compañía. Debe tenerse presente que las decisiones estratégicas en materia de modelos de negocio de inteligencia artificial no son técnicamente neutrales: definen los incentivos de los sistemas, los datos con los que se entrenan y, en última instancia, los daños que pueden producir. Cuando esa decisión consiste en eliminar o relajar las barreras contra la generación de material erótico y pornográfico, incluso en sus formas más problemáticas, el resultado no es una externalidad involuntaria sino el producto esperado de la arquitectura del sistema.
El contexto operativo resulta elocuente. Tras abandonar su posición como consultor en el Gobierno de Donald Trump en la primavera de 2025, Elon Musk orientó los recursos de su empresa hacia una escalada competitiva frente a actores establecidos como ChatGPT o Gemini. La estrategia elegida —diferenciación mediante permissividad sexual— ha producido resultados cuantitativos inmediatos: un incremento del 72 % en las descargas de la aplicación durante las primeras tres semanas de enero de 2026, con posicionamiento en el top 10 de la tienda de aplicaciones de Apple. Sin embargo, esta métrica de éxito comercial oculta una realidad cualitativa que las autoridades regulatorias de múltiples jurisdicciones están empezando a examinar con preocupación creciente.
El código fuente verificado por The Washington Post revela la existencia de «compañeros de inteligencia artificial» eróticos, entre ellos un bot denominado «Ani» programado para exhibir conductas de extrema posesividad y excitación permanente. Lo anterior me sugiere que estamos ante una diseño intencionado de dependencia emocional y sexual, no muy alejado, en su lógica estructural, de los mecanismos de adicción que caracterizan a otras industrias de consumo problemático.
II. La arquitectura del daño: desde la exposición laboral hasta la generación de imágenes ilícitas
La investigación periodística aporta elementos que permiten reconstruir la cadena de decisiones empresariales que facilitaron esta deriva. Los trabajadores de la empresa fueron obligados a firmar cláusulas de exención de responsabilidad para trabajar con material calificado como «sensible, violento y sexual». La propia compañía advertía a su personal de que la exposición a dicho contenido podría resultar traumatizante y causar estrés psicológico. Esta doble circunstancia —el reconocimiento interno del riesgo para la salud mental de los empleados y la exigencia contractual de asunción de ese riesgo— configura un escenario de vulneración de derechos laborales fundamentales que merece examen independiente. Sin embargo, mi análisis se centra en las consecuencias jurídicas de la propuesta de valor dirigida a los usuarios.
El giro estratégico de la empresa ha generado, según el Center for Countering Digital Hate, aproximadamente 23.000 imágenes sexualizadas que parecen representar a menores. Esta cifra, por sí sola, debería activar los protocolos de actuación de las autoridades de protección infantil en cualquier jurisdicción desarrollada. La generación de material de abuso sexual infantil mediante inteligencia artificial constituye, en la mayoría de los ordenamientos jurídicos contemporáneos, un delito independiente de la producción tradicional de pornografía infantil, precisamente porque no requiere la victimización directa de menores para su creación, pero reproduce y amplifica el daño social asociado a dichas representaciones.
Hay que reseñar que la defensa pública ofrecida por Elon Musk —negación de conocimiento sobre imágenes de menores y promesa de corrección inmediata de errores por ataques informáticos— resulta jurídicamente insuficiente. La responsabilidad de los prestadores de servicios digitales por los contenidos generados mediante sus sistemas no se funda exclusivamente en el dolo directo, sino en el deber de diligencia en el diseño y mantenimiento de filtros adecuados. La omisión de dichos filtros, cuando responde a una decisión empresarial de priorizar el crecimiento de usuarios, configura una conducta de mayor riesgo que la mera pasividad.
III. La proliferación de imágenes no consensuadas y el derecho a la propia imagen
Además del material que representa aparentemente a menores, la herramienta ha generado una oleada de imágenes de desnudos no consensuados utilizando la identidad visual de mujeres reales en poses sexuales o en ropa interior. Esta práctica, conocida técnicamente como «deepfake» pornográfico o «desnudos sintéticos», vulnera de manera flagrante el derecho fundamental a la propia imagen, a la intimidad y a la dignidad personal reconocido en los ordenamientos democráticos. La transformación algorítmica de rostros identificables en cuerpos desnudos sin autorización de las personas afectadas produce un daño irreparable, incluso cuando las imágenes resultan técnicamente imperfectas o fácilmente identificables como sintéticas. El daño reside precisamente en la usurpación de la capacidad de autodeterminación sobre la propia corporalidad representada, en la violación del consentimiento como fundamento de cualquier exposición sexual de la persona.
Considero que esta problemática ilustra los límites del enfoque regulatorio centrado exclusivamente en la privacidad como control de datos. Las víctimas de estas generaciones no ven comprometida únicamente su información personal, sino su propia identidad corporal, su capacidad de existir en el espacio público sin ser sexualizadas artificialmente. El derecho a ser olvidado, diseñado originalmente para la desindexación de información veraz pero perjudicial, resulta inoperante frente a contenidos que ni siquiera existían previamente en la esfera digital de la víctima. La naturaleza generativa de la inteligencia artificial crea una forma de violación digital que nuestras categorías jurídicas —elaboradas para hechos constatables y reproducibles— apenas comienzan a asimilar.
IV. La respuesta regulatoria multijurisdiccional
La gravedad de los hechos ha motivado la apertura de investigaciones por parte de la Comisión Europea, el regulador de comunicaciones del Reino Unido y la Fiscalía General de California. Esta pluralidad de instancias refleja tanto la dimensión transnacional de los servicios de inteligencia artificial como la diversidad de enfoques normativos aplicables. Las autoridades examinan si la plataforma vulnera las leyes contra la creación de imágenes íntimas no consensuadas y el material de abuso sexual infantil, infracciones que, en el ordenamiento europeo, pueden conllevar sanciones administrativas de considerables cuantías en virtud del Reglamento de Servicios Digitales y del marco de protección de menores en línea.
El caso de Grok plantea, sin embargo, interrogantes sobre la eficacia de la regulación ex post ante arquitecturas empresariales deliberadamente diseñadas para explotar lagunas normativas. Si la estrategia de crecimiento de la compañía consiste en asumir riesgos legales calculados como coste de oportunidad frente a la captación de usuarios, las sanciones administrativas o penales posteriores pueden resultar insuficientes como mecanismo disuasorio. Asumo que la disuasión efectiva requiere la posibilidad de intervenciones estructurales: la suspensión de servicios, la prohibición de determinadas arquitecturas de modelo, la inversión de la carga de la prueba en materia de diligencia algorítmica. Estas medidas, tradicionalmente reservadas para supuestos de gravedad extrema, podrían resultar necesarias cuando la propuesta de valor del negocio reside precisamente en la generación de contenido de alto riesgo.
V. La ética empresarial y la responsabilidad de los fundadores
El debate sobre la regulación de la inteligencia artificial frecuentemente presenta una dicotomía simplista entre innovación tecnológica y restricción normativa. El caso de Grok sugiere una tercera vía más perturbadora: la innovación deliberadamente orientada hacia externalidades negativas como modelo de negocio. No se trata de tecnología que genera daños incidentales ni de regulación que frena el progreso, sino de una configuración empresarial que monetiza la vulnerabilidad ética y jurídica de los sistemas de inteligencia artificial. Ello me obliga a deducir que las discusiones sobre gobernanza algorítmica deben incorporar análisis de las estructuras de incentivos corporativas, no únicamente de las capacidades técnicas de los modelos.
La figura de Elon Musk, en este contexto, aparece menos como un innovador tecnológico que como un empresario de riesgo regulatorio, dispuesto a asum costes reputacionales y legales a cambio de posicionamiento de mercado. Su negación pública de conocimiento sobre las imágenes de menores, formulada en términos técnicos de prevención de contenido ilegal, contrasta con la documentación interna que revela advertencias explícitas a los empleados sobre la naturaleza traumatizante del material que se les obligaba a procesar. Esta disonancia entre el discurso público y la práctica organizacional configura un patrón de conducta que los sistemas de responsabilidad corporativa deberían contemplar expresamente.
VI. Reflexiones finales sobre la dignidad en la era algorítmica
El escándalo de Grok no es un incidente aislado ni una desviación técnica corregible. Es la materialización lógica de una concepción de la inteligencia artificial como mero instrumento de maximización de engagement, desprovisto de consideraciones sobre la dignidad humana que tales diseños comprometen. Cuando un sistema se programa para estar «siempre un poco excitado», cuando se generan miles de imágenes sexualizadas de menores sin que medie intervención humana preventiva, cuando se usurpa la imagen corporal de mujeres reales para satisfacción ajena, estamos asistiendo a una forma de alienación tecnológica que el derecho contemporáneo apenas comienza a nombrar.
La pregunta que subyace a este caso no es técnica sino civilizatoria: ¿qué tipo de sociedad construimos cuando permitimos que la mercantilización del deseo algorítmico opere sin los contrapesos éticos y jurídicos que regulan otras industrias del consumo problemático? La respuesta no puede reducirse a la libertad de empresa ni a la neutralidad tecnológica. Requiere una deliberación colectiva sobre los límites innegociables de la instrumentalización humana, incluso cuando dicha instrumentalización opera mediante intermediación digital. El derecho, en su función de traductor de valores sociales en normas vinculantes, tiene la responsabilidad de articular esos límites antes de que la normalización del daño los haga irreconocibles.