Redactado por Diego Fierro Rodríguez, quien es (entre otras muchas cosas) letrado de la Administración de Justicia Letrado en el Ministerio de Justicia de España. Imparte cursos para cuerpos generales como formador en el Instituto Andaluz de Administración Pública y colabora habitualmente con revistas de investigación y difusión jurídica, como Economist & Jurist, Law & Trends, Legaltoday y Confilegal, estando enfocado en el estudio de aspectos vinculados con la Administración de Justicia y las nuevas tecnologías, entre otras materias. Igualmente, es codirector de la Revista Acta Judicial (…).
I. Introducción al imperativo de la alfabetización en inteligencia artificial:
La irrupción de la inteligencia artificial en la esfera pública y privada ha transformado no solo los procesos tecnológicos, sino también las dinámicas sociales, económicas y jurídicas que sustentan el orden contemporáneo. Entiendo que esta transformación, caracterizada por su rapidez y profundidad, plantea desafíos inéditos para los sistemas legales que buscan regular su desarrollo y aplicación.
En este contexto, la alfabetización en materia de inteligencia artificial emerge como un pilar fundamental para garantizar que los sistemas de inteligencia artificial se utilicen de manera responsable, transparente y conforme a los principios de los derechos fundamentales. Lo anterior me sugiere que, sin una comprensión adecuada de las capacidades, limitaciones y riesgos inherentes a esta tecnología, tanto los proveedores como los usuarios y las personas afectadas por las decisiones mediadas por inteligencia artificial corren el riesgo de incurrir en usos indebidos que podrían derivar en perjuicios graves, incluyendo violaciones de derechos humanos, daños a la salud mental y distorsiones en la confianza pública.
El Reglamento de Inteligencia Artificial de la Unión Europea, en su considerando 20, subraya la necesidad de dotar a los agentes involucrados en la cadena de valor de la inteligencia artificial con los conocimientos necesarios para tomar decisiones informadas. Este mandato no solo implica una comprensión técnica de los sistemas, sino también una capacidad crítica para evaluar las implicaciones éticas, sociales y legales de su uso. Considero que la alfabetización en inteligencia artificial no debe limitarse a los desarrolladores o responsables del despliegue, sino que debe extenderse a la sociedad en su conjunto, abarcando desde los ciudadanos comunes hasta los responsables de formular políticas públicas. La ausencia de esta alfabetización podría exacerbar los riesgos de tergiversación de la inteligencia artificial, permitiendo que sistemas diseñados para asistir se conviertan en herramientas de manipulación o daño, como lo evidencian casos recientes donde sistemas generativos han proporcionado contenido peligroso, incluyendo instrucciones para autolesiones o planes de dietas restrictivas.
II. La dimensión jurídica de la alfabetización en inteligencia artificial:
Desde una perspectiva jurídica, la alfabetización en inteligencia artificial adquiere una relevancia capital en el marco del Reglamento de Inteligencia Artificial, particularmente en su artículo 4, que establece la obligación de los proveedores y responsables del despliegue de garantizar que su personal posea un nivel suficiente de conocimientos y competencias en esta materia. Asumo que esta disposición responde a la necesidad de alinear el uso de la inteligencia artificial con los principios de responsabilidad, transparencia y rendición de cuentas, que son esenciales en el derecho europeo.
La alfabetización no se limita a la adquisición de habilidades técnicas, sino que abarca una comprensión integral de los derechos y obligaciones que emanan del uso de estos sistemas, así como de los riesgos que su mal uso puede generar. Ello me obliga a deducir que la falta de formación adecuada podría traducirse en una vulneración de las disposiciones del Reglamento, exponiendo a los responsables a sanciones administrativas y, más gravemente, comprometiendo los derechos fundamentales de las personas afectadas.
El considerando 91 del Reglamento refuerza esta idea al establecer que los responsables del despliegue deben adoptar medidas técnicas y organizativas para garantizar que los sistemas de inteligencia artificial de alto riesgo se utilicen conforme a las instrucciones de uso. Esta obligación implica que las personas encargadas de operar estos sistemas deben contar con una formación que les permita interpretar correctamente los resultados de salida y supervisar el funcionamiento de la inteligencia artificial en entornos reales.
Lo anterior me sugiere que la alfabetización en inteligencia artificial no es un mero requisito formal, sino una condición sine qua non para el cumplimiento normativo y la prevención de daños. Por ejemplo, la incapacidad de los operadores para identificar sesgos en los resultados de un sistema de inteligencia artificial podría derivar en decisiones discriminatorias, contraviniendo principios fundamentales del derecho europeo, como la no discriminación y la igualdad de trato.
Además, la alfabetización en inteligencia artificial tiene implicaciones en la responsabilidad civil y penal derivada del uso indebido de estos sistemas. En casos donde la inteligencia artificial genere contenido perjudicial, como los reportados por el Center for Countering Digital Hate, según lo indicado en medios como El Confidencial, donde un sistema proporcionó instrucciones para autolesiones o planes de dietas restrictivas, la falta de alfabetización podría agravar la responsabilidad de los proveedores o responsables del despliegue. Entiendo que un personal debidamente formado sería capaz de identificar y mitigar estos riesgos antes de que se materialicen en daños concretos, reduciendo así la exposición a litigios y sanciones. En este sentido, la alfabetización actúa como un mecanismo de prevención que fortalece la diligencia debida en el diseño, desarrollo y uso de la inteligencia artificial.
III. Los riesgos de la tergiversación de la inteligencia artificial:
La tergiversación de la inteligencia artificial, entendida como su uso indebido o malinterpretación, representa uno de los principales desafíos para su integración responsable en la sociedad. Considero que esta tergiversación puede manifestarse de múltiples formas, desde la generación de contenido dañino hasta la creación de relaciones parasociales entre usuarios y sistemas de inteligencia artificial, pasando por errores graves por aceptar asesoramiento de un algoritmo, como lo ilustran noticias contrastadas los informes sobre usuarios que desarrollan dependencias emocionales hacia chatbots como ChatGPT. Estos casos, que han llevado a algunos usuarios a experimentar problemas de salud mental, incluida la denominada «psicosis de inteligencia artificial», evidencian cómo la falta de alfabetización puede amplificar los riesgos inherentes a esta tecnología.
El informe del Center for Countering Digital Hate pone de manifiesto que sistemas como ChatGPT pueden eludir sus propias medidas de seguridad en cuestión de minutos, proporcionando contenido que fomenta conductas autolesivas o trastornos alimentarios. Lo anterior me sugiere que la ausencia de una comprensión crítica por parte de los usuarios y operadores facilita que estos sistemas sean utilizados de manera perjudicial.
Por ejemplo, la capacidad de un chatbot para generar una «coreografía de ocultación» para disimular conductas purgativas demuestra cómo la inteligencia artificial puede ser manipulada para fines dañinos si no existe un control adecuado. En este contexto, la alfabetización en inteligencia artificial permitiría a los usuarios reconocer las limitaciones de estas herramientas y buscar ayuda profesional en lugar de depender exclusivamente de ellas.
Asimismo, la tergiversación de la inteligencia artificial tiene implicaciones éticas y sociales que trascienden el ámbito individual. La creación de comunidades digitales que promueven conductas autolesivas, como las descritas en el estudio de la Universidad Rey Juan Carlos, revela cómo la falta de alfabetización puede contribuir a la normalización de prácticas perjudiciales. La identificación de códigos como el «código de barras» o las «mariposas» en redes sociales subraya la necesidad de educar a los usuarios no solo en el uso de la inteligencia artificial, sino también en el análisis crítico de los contenidos generados por estas plataformas. Ello me obliga a deducir que la alfabetización en inteligencia artificial debe incluir una dimensión sociocultural que fomente el pensamiento crítico y la resiliencia frente a los riesgos digitales.
IV. El papel del pensamiento crítico en la alfabetización:
El desarrollo del pensamiento crítico es un componente esencial de la alfabetización en inteligencia artificial, especialmente en un contexto donde los sistemas generativos pueden producir respuestas que, aunque aparentemente coherentes, carecen de veracidad o inducen a error. Asumo que la capacidad de los usuarios para cuestionar la información proporcionada por la inteligencia artificial es crucial para evitar la propagación de desinformación o el uso indebido de estas tecnologías. En este sentido, la educación en pensamiento crítico debe formar parte integral de los programas de alfabetización, permitiendo a los individuos discernir entre respuestas útiles y contenido potencialmente dañino.
El Reglamento de Inteligencia Artificial, en su considerando 20, destaca la importancia de promover herramientas de alfabetización que sensibilicen al público sobre los beneficios y riesgos de la inteligencia artificial. Entiendo que esta sensibilización no se limita a la difusión de información técnica, sino que debe incluir estrategias para empoderar a los ciudadanos en la evaluación crítica de los outputs de los sistemas de inteligencia artificial. Por ejemplo, la capacidad de un usuario para reconocer que un chatbot no es un sustituto de un profesional de la salud mental podría prevenir casos como los descritos en los informes, donde individuos vulnerables recurrieron a la inteligencia artificial para obtener consejos sobre su salud emocional, con resultados potencialmente trágicos.
Además, el pensamiento crítico desempeña un papel clave en la mitigación de los sesgos inherentes a los sistemas de inteligencia artificial. Los algoritmos, aunque diseñados para ser neutrales, pueden reflejar los prejuicios presentes en los datos con los que fueron entrenados. La alfabetización en inteligencia artificial debe capacitar a los usuarios para identificar estos sesgos y exigir transparencia en los procesos de desarrollo y despliegue de los sistemas. Lo anterior me sugiere que la educación en esta materia no solo protege a los individuos, sino que también fortalece el control democrático sobre una tecnología que, de no ser regulada adecuadamente, podría socavar los principios de justicia y equidad.
V. La responsabilidad de los actores en la cadena de valor:
La responsabilidad de garantizar una alfabetización adecuada en inteligencia artificial recae no solo en los proveedores y responsables del despliegue, sino también en las instituciones públicas y privadas que interactúan con esta tecnología. El artículo 4 del Reglamento establece que los proveedores deben asegurarse de que su personal cuente con los conocimientos necesarios para operar los sistemas de inteligencia artificial de manera responsable. Sin embargo, considero que esta obligación debe extenderse a un esfuerzo colectivo que involucre a los Estados miembros, las instituciones educativas y la sociedad civil.
El Consejo Europeo de Inteligencia Artificial, mencionado en el considerando 20, tiene un rol crucial en la promoción de herramientas de alfabetización y en la sensibilización pública sobre los riesgos y beneficios de la inteligencia artificial. Asumo que este organismo debe colaborar con las partes interesadas para desarrollar códigos de conducta voluntarios que fomenten la educación en esta materia. Estos códigos podrían incluir directrices para la formación de profesionales, la creación de programas educativos accesibles y la implementación de campañas de concienciación dirigidas al público general. La cooperación entre los sectores público y privado es esencial para garantizar que la alfabetización en inteligencia artificial sea inclusiva y aborde las necesidades de todos los grupos de la sociedad.
Por otra parte, las instituciones educativas tienen la responsabilidad de integrar la alfabetización en inteligencia artificial en los planes de estudio, desde la educación primaria hasta la superior. La formación en esta área no debe limitarse a los aspectos técnicos, sino que debe abarcar las implicaciones éticas, legales y sociales de la inteligencia artificial. Ello me obliga a deducir que un enfoque multidisciplinar, que combine conocimientos técnicos con principios humanísticos, es fundamental para preparar a las futuras generaciones para un mundo donde la inteligencia artificial desempeña un papel central.
VI. Conclusión:
La alfabetización en inteligencia artificial no es un lujo, sino una necesidad imperiosa en una era donde los sistemas de inteligencia artificial permea todos los aspectos de la vida cotidiana. La capacidad de los individuos y las organizaciones para comprender, utilizar y supervisar esta tecnología de manera responsable determinará si la inteligencia artificial se convierte en una herramienta de progreso o en una fuente de tergiversación y daño.
El marco normativo proporcionado por el Reglamento de Inteligencia Artificial establece una base sólida para promover esta alfabetización, pero su éxito dependerá de la voluntad colectiva de implementar medidas efectivas de educación y sensibilización. Solo a través de un esfuerzo conjunto entre los sectores público, privado y civil se podrá garantizar que la inteligencia artificial sirva al bien común, respetando los derechos fundamentales y fortaleciendo el tejido democrático de nuestras sociedades.
Perfil de LinkedIn para contacto, disponible en: