Diego Fierro Rodríguez
Letrado de la Administración de Justicia
Ministerio de Justicia de España
I. Cuando la tecnología nos supera: las lecciones que no aprendimos
¿Se acuerdan de esa escena en la película donde Oppenheimer mira el hongo atómico y dice aquello de «Me he convertido en la Muerte»? Siempre me ha parecido que en ese momento no estaba hablando solo de la bomba, sino de algo más profundo: de esa sensación que tenemos cuando creamos algo que se nos escapa de las manos.
Pienso en eso cada vez que veo cómo avanza la inteligencia artificial. Es como si estuviéramos repitiendo la misma historia, pero con distinto disfraz. Oppenheimer nos miraría con esa cara cansada, con esos ojos que han visto demasiado, y nos diría: «Chicos, ¿en serio no han aprendido nada?».
La verdad es que me lo imagino a veces, sentado en un banco del parque, viendo cómo la gente habla con sus teléfonos, cómo los algoritmos deciden qué noticias leemos, qué música escuchamos, incluso con quién nos enamoramos. Y sonreiría con esa sonrisa triste que tenía, como diciendo: «Otros tiempos, los mismos errores».
Lo que más me duele es que estamos cometiendo los mismos fallos de siempre. Corremos detrás de la novedad técnica sin pararnos a pensar: ¿esto nos hace más humanos o nos convierte en esclavos de nuestras propias creaciones? Oppenheimer lo entendió demasiado tarde: la tecnología no es neutral. Lleva grabada a fuego las intenciones, los miedos y las ambiciones de quienes la crean.
II. La culpa del que crea: ¿podemos dormir tranquilos?
Hay una foto de Oppenheimer anciano que me parte el alma. Se le ve consumido, como si llevara encima el peso de todas las vidas que su invento había segado. Me pregunto: ¿los creadores de IA duermen tranquilos por las noches? ¿O dan vueltas en la cama preguntándose qué monstruo han soltado en el mundo?
La diferencia es que la bomba mataba de forma visible, dramática. La IA mata lentamente: erosiona la privacidad, amplifica los prejuicios, convierte a las personas en números. Es una violencia silenciosa, pero no menos real.
Me viene a la cabeza aquel programador que diseñó un algoritmo para contratar personal y descubrió horrorizado que discriminaba a las mujeres. No era mala persona, simplemente no había pensado que su creación aprendería todos nuestros prejuicios y los multiplicaría. Como Oppenheimer, que creó la bomba para parar a los nazis y acabó matando a civiles inocentes.
III. Cuando las máquinas deciden: el miedo a perder el control
¿Se han parado a pensar lo raro que es que un algoritmo decida si merecemos una hipoteca? ¿O que un sistema de reconocimiento facial pueda seguirnos por la calle sin que nadie nos explique para qué? Es como vivir en una pesadilla de ciencia ficción, pero en lugar de despertarnos, le damos al «sí, acepto los términos y condiciones».
Oppenheimer entendería este miedo. Él sabía lo que era crear algo que luego no podías controlar. Me lo imagino diciéndonos: «¿No ven el patrón? Primero creen que dominan la tecnología, luego la tecnología los domina a ustedes».
Lo más preocupante es que ni siquiera entendemos cómo toman las decisiones estas máquinas. Es como tener un empleado que hace exactamente lo que le pedimos, pero no sabemos por qué. Y cuando algo sale mal, señalamos al de al lado: «Fue el algoritmo, no yo».
IV. Lo que vale una vida: cuando los números importan más que las personas
Recuerdo una historia de Oppenheimer que me impactó. Después de la guerra, visitó la Casa Blanca y le dijo al presidente Truman: «Señor presidente, tengo las manos manchadas de sangre». Truman lo despidió y después dijo que no quería ver a «ese llorica» nunca más.
Hoy, los datos son la nueva sangre. Cada vez que un algoritmo decide que alguien no merece un préstamo o que un estudiante no es suficientemente bueno, hay sangre digital manchando el sistema.
Lo peor es que nos estamos acostumbrando. Aceptamos que nos vigilen, que nos clasifiquen, que nos puntúen. Como si fuéramos productos en un supermercado, no personas con dignidad.
Oppenheimer nos diría: «¿En serio van a permitir esto? ¿Van a cambiar su humanidad por un poco de comodidad?»
V. Un mundo dividido: los que tienen IA y los que no
Si hay algo que Oppenheimer entendió perfectamente es que la tecnología no une, divide. Los que tienen la bomba mandan sobre los que no la tienen. Los que tienen IA mandarán sobre los que no la tengan.
Veo a los grandes gigantes tecnológicos acumulando un poder que ni los estados pueden controlar, y me pregunto: ¿dónde quedamos los demás? ¿Los ciudadanos de a pie? ¿Los pequeños países?
Es la misma historia de siempre, pero con Silicon Valley en lugar del Pentágono. Los mismos desequilibrios, las mismas injusticias, solo que con mejor marketing.
VI. La última lección: no podemos volver atrás, pero podemos elegir cómo seguir
Al final, la gran lección de Oppenheimer es simple pero devastadora: no hay vuelta atrás. Una vez que Pandora abre la caja, no puede cerrarla. La IA ya está aquí, entre nosotros. La pregunta no es cómo eliminarla, sino cómo domesticarla.
Me imagino a Oppenheimer viejo, sabio, cansado, dándonos el único consejo que importa: «No cometan mis errores. No esperen a ver el hongo atómico para darse cuenta de lo que han hecho. Piensen ahora. Discutan ahora. Regulen ahora».
Y sobre todo, nos diría que no dejemos que los técnicos decidan solos. Esto es demasiado importante. Involucremos a filósofos, a artistas, a maestros, a los ciudadanos. A la gente común que tendrá que vivir con las consecuencias de lo que se genere en los laboratorios.
Al final, se trata de recordar que detrás de cada línea de código hay una persona. Detrás de cada algoritmo, una vida que puede ser mejorada o destruida. No es una cuestión técnica, es una cuestión de humanidad.
La tecnología puede responder a casi cualquier pregunta, excepto a la más importante: ¿para qué queremos vivir? Oppenheimer lo entendió demasiado tarde. Nosotros todavía estamos a tiempo.