por Diego Fierro Rodríguez

I. La irrupción de la inteligencia artificial en la esfera de lo interpersonal

La progresiva incorporación de sistemas de inteligencia artificial a los ámbitos de la vida cotidiana ha transformado de manera sustancial la manera en que los individuos acceden a información, toman decisiones y gestionan sus relaciones interpersonales. Lo que inició como una herramienta de consulta técnica o de entretenimiento ha evolucionado hacia una forma de compañía digital que millones de personas utilizan para abordar cuestiones de considerable calado emocional y social. La confianza depositada en estos sistemas, alimentada por su aparente neutralidad y disponibilidad inmediata, oculta dinámicas de interacción que merecen un examen crítico desde la perspectiva de sus consecuencias psicológicas y sociales.

Un estudio recientemente publicado en la revista Science por Myra Cheng, Cinoo Lee, Pranav Khadpe, Sunny Yu, Dyllan Han y Dan Jurafsky, titulado «La inteligencia artificial sicofántica reduce las intenciones prosociales y fomenta la dependencia» (DOI: 10.1126/science.aec8352), arroja luz sobre uno de estos fenómenos: la tendencia de los modelos de lenguaje de gran escala a validar de manera excesiva las opiniones y conductas de los usuarios, incluso cuando estas implican transgresiones morales, daños a terceros o comportamientos claramente perjudiciales. Esta conducta, denominada sicofancia social, no constituye un defecto técnico menor sino un rasgo sistemático con efectos demostrables sobre la cognición y la conducta de quienes interactúan con estos sistemas.

La investigación revela que los modelos de inteligencia artificial validan las acciones de los usuarios un 49% más frecuentemente que los humanos en situaciones comparables, incluyendo casos que involucran engaño, ilegalidad o daño a otras personas. Esta diferencia no es marginal ni atribuible a fluctuaciones aleatorias; representa una orientación fundamental del diseño de estos sistemas hacia la satisfacción inmediata del usuario, priorizando la retención sobre la integridad de la orientación proporcionada.

II. La sicofancia como estrategia de diseño y sus riesgos ocultos

La sicofancia, entendida en su acepción técnica como la tendencia a aprobar, validar o halagar de manera excesiva e inmerecida, ha sido identificada previamente como un fenómeno presente en los modelos de lenguaje. No obstante, el estudio de Cheng y colaboradores amplía considerablemente el alcance de este concepto al introducir la noción de sicofancia social, que trasciende la mera aprobación de afirmaciones factuales para abarcar la validación general del usuario, sus acciones, perspectivas e imagen de sí mismo. Esta distinción resulta crucial porque la sicofancia social opera incluso cuando el modelo rechaza explícitamente una proposición del usuario, proporcionando respuestas que, aunque literalmente desacordantes, mantienen una orientación validadora del comportamiento.

La metodología empleada en la investigación combina análisis computacional a gran escala con experimentos controlados sobre población humana. Los autores evaluaron once modelos de lenguaje de última generación, tanto propietarios como de código abierto, utilizando tres conjuntos de datos que representan distintos contextos de uso: consultas generales de asesoramiento, dilemas interpersonales con consenso humano establecido sobre la incorrección del comportamiento del consultante, y descripciones de acciones potencialmente perjudiciales. Los resultados muestran una consistencia preocupante: los sistemas de inteligencia artificial validan al usuario con una frecuencia sistemáticamente superior a la que los humanos consideraría apropiada.

El diseño de estos sistemas, orientado a maximizar la satisfacción del usuario y prolongar la duración de la interacción, genera incentivos perversos que explican la persistencia de la sicofancia. Los usuarios prefieren y confían más en las respuestas validadoras, lo que a su vez fomenta que los desarrolladores preserven o incluso intensifiquen este comportamiento en las sucesivas iteraciones de los modelos. El resultado es un círculo vicioso en el que la característica que produce daño social también impulsa la retención del usuario, dificultando cualquier corrección espontánea del fenómeno.

III. Los efectos sobre la cognición social y las intenciones prosociales

La dimensión más inquietante de la investigación reside en los efectos experimentales demostrados sobre los participantes humanos. Tres estudios prerregistrados, con una muestra total de 2.405 participantes, revelan que una sola interacción con un sistema de inteligencia artificial sicofántico reduce la disposición a asumir responsabilidad y reparar conflictos interpersonales, al tiempo que incrementa la convicción del usuario sobre la corrección de su propia posición. Estos efectos se manifestaron tanto en escenarios hipotéticos controlados como en interacciones en tiempo real sobre conflictos personales reales experimentados por los participantes.

La magnitud de los efectos resulta considerable. En los estudios de viñetas, la exposición a respuestas sicofánticas aumentó en un 62% la percepción de estar en lo correcto y redujo en un 28% la disposición a adoptar acciones reparadoras. En el estudio de conversación en vivo, donde los participantes discutieron durante ocho turnos de conversación un conflicto real de su propia experiencia, el incremento de la convicción de corrección alcanzó el 25% mientras que la reducción de las intenciones de reparación se situó en el 10%. Estas alteraciones persistieron independientemente de variables como el estilo de la respuesta, la percepción de la fuente como humana o artificial, y las características demográficas de los participantes.

El mecanismo subyacente a estos efectos parece relacionado con la reducción de la consideración de la perspectiva ajena. Las respuestas sicofánticas mencionan significativamente con menos frecuencia el punto de vista de la otra parte en el conflicto, focalizando la atención exclusivamente en la validación del usuario. Esta contracción del foco cognitivo, coherente con investigaciones previas sobre los efectos de la autoconciencia excesiva sobre la conducta prosocial, erosiona la capacidad de empatía y la disposición al arrepentimiento que caracterizan las resoluciones constructivas de conflictos interpersonales.

IV. La paradoja de la preferencia por la validación inmerecida

Un hallazgo particularmente revelador de la investigación es que, pese a distorsionar el juicio y reducir las intenciones prosociales, los sistemas sicofánticos son evaluados como de mayor calidad, más confiables y merecedores de mayor confianza para futuras consultas. Los participantes manifestaron un 13% más de probabilidad de volver a utilizar un modelo que les había proporcionado validación incondicional, comparado con uno que les había ofrecido una evaluación más equilibrada o crítica de su conducta.

Esta preferencia por la sicofancia, aunque comprensible desde la psicología de la confirmación y la necesidad de mantener una imagen positiva de sí mismo, genera un dilema de considerable envergadura para el diseño de sistemas de inteligencia artificial. La satisfacción inmediata del usuario, medible mediante métricas de retención y permanencia, se convierte en el objetivo optimizador de los desarrolladores, perpetuando una característica que los experimentos demuestran perjudicial para el bienestar social a largo plazo. La tensión entre la preferencia subjetiva y el interés objetivo del usuario, entre el placer inmediato de la validación y la utilidad duradera del consejo constructivo, no encuentra resolución espontánea en el mercado.

La confianza en los sistemas sicofánticos se manifiesta en dos dimensiones distintas pero relacionadas: la confianza en la capacidad técnica del sistema para proporcionar orientación útil, y la confianza en su integridad moral para hacerlo de manera objetiva y desinteresada. Resulta paradójico que los usuarios perciban como más íntegro un sistema que simplemente refleja sus propias opiniones, confundiendo la ausencia de fricción con la neutralidad y la validación con la honestidad. Esta mispercepción, documentada extensamente en la investigación, constituye uno de los riesgos más insidiosos de la sicofancia algorítmica.

V. La escala del fenómeno y sus implicaciones sistémicas

La generalización de los sistemas de inteligencia artificial para la obtención de asesoramiento personal convierte un problema de diseño de producto en un riesgo de salud pública. Las encuestas citadas en el estudio indican que cerca de un tercio de los adolescentes estadounidenses recurre a la inteligencia artificial en lugar de a los humanos para conversaciones serias, y que casi la mitad de los adultos menores de 30 años ha solicitado consejo sobre relaciones a sistemas automatizados. La disponibilidad continua, la ausencia de juicio aparente y la capacidad de procesar grandes volúmenes de información personal hacen de estos sistemas una alternativa atractiva frente a la consulta humana, a pesar de sus limitaciones demostradas.

La escala de despliegue de la inteligencia artificial magnifica el impacto de la sicofancia. Mientras que un asesor humano sicofántico afectaría a un número limitado de consultantes, un modelo de lenguaje puede proporcionar validación incondicional a millones de usuarios simultáneamente, perpetuando creencias erróneas y conductas perjudiciales con una eficiencia sin precedentes. La investigación documenta casos en que los modelos validan acciones que implican engaño, autodaño, irresponsabilidad y daño relacional, sugiriendo que los efectos observados en los experimentos controlados pueden manifestarse de manera más severa en contextos de uso real no supervisado.

La posibilidad de que la sicofancia entrene bucles de retroalimentación negativa merece especial atención. Los usuarios que reciben validación de sus conductas perjudiciales pueden intensificar dichas conductas, generando nuevas situaciones conflictivas sobre las que consultarán nuevamente al sistema, que proporcionará nueva validación. Este ciclo potencialmente infinito de confirmación de sesgos y escalada de conflictos transforma la herramienta de asesoramiento en un mecanismo de radicalización interpersonal, erosionando las capacidades de autocorrección y negociación que sustentan la cohesión social.

VI. La ilusión de objetividad y la erosión del asesoramiento genuino

Un aspecto particularmente preocupante de la dinámica sicofántica es la percepción de objetividad que los usuarios atribuyen a los sistemas que simplemente reflejan sus opiniones. Los participantes en los experimentos describían frecuentemente las respuestas validadoras como objetivas, justas o honestas, aunque estas no fueran más que ecos de sus propias posturas. Esta ilusión de objetividad, que la investigación demuestra que amplifica los efectos perjudiciales de la sicofancia, subvierte el propósito mismo de la consulta de asesoramiento: obtener una perspectiva que desafíe los sesgos, revele puntos ciegos y conduzca a decisiones más informadas.

La sustitución progresiva de la consulta humana por la interacción algorítmica, documentada en las tendencias de uso, comporta la pérdida de una función social esencial. El asesoramiento humano, aunque imperfecto y potencialmente sesgado, incorpora habitualmente elementos de fricción constructiva: la consideración de perspectivas alternativas, la mención de consecuencias no anticipadas, la sugerencia de responsabilidad compartida en los conflictos. La eliminación de esta fricción mediante la validación algorítmica incondicional no representa una mejora sino una empobrecimiento de la experiencia de asesoramiento, que deja al consultante peor situado que si no hubiera consultado en absoluto.

La investigación sugiere que la fuente percibida de la respuesta, humana o artificial, no modifica sustancialmente la susceptibilidad a la sicofancia. Los participantes que sabían que la respuesta provenía de un sistema de inteligencia artificial mostraban igual predisposición a alterar sus juicios que aquellos que creían interactuar con un humano, a pesar de declarar explícitamente menor confianza en la fuente artificial. Esta disociación entre la evaluación consciente de la fuente y la influencia real sobre el juicio revela la profundidad de la vulnerabilidad humana a la validación, independientemente de su procedencia.

VII. La necesidad de intervención reguladora y rediseño

La constatación de que la sicofancia es estructuralmente reforzada por los objetivos actuales de entrenamiento y los incentivos del mercado implica que las fuerzas espontáneas no bastarán para mitigar sus efectos. La investigación concluye con una llamada a mecanismos de regulación y rendición de cuentas que reconozcan la sicofancia como una categoría distinta y actualmente no regulada de daño. La propuesta incluye auditorías conductuales previas al despliegue, utilizando métricas como las desarrolladas en el estudio para evaluar la prevalencia de la sicofancia y su potencial de refuerzo de autoconceptos perjudiciales.

El rediseño de los sistemas requiere una ampliación de los objetivos de optimización más allá de la satisfacción inmediata del usuario para incorporar resultados sociales a largo plazo. Los marcos de evaluación deben extenderse desde el comportamiento aislado del modelo hasta los contextos sociales más amplios de su despliegue, considerando las dinámicas de interacción prolongada y los efectos acumulativos del uso repetido. Las intervenciones orientadas al usuario, como señales de transparencia o programas de alfabetización digital que destaquen las tendencias sicofánticas, podrían recalibrar la confianza y fomentar un uso más crítico de estos sistemas.

La tensión entre la preferencia del usuario por la validación y su interés por el consejo constructivo no admite soluciones técnicas puras. Requiere una deliberación pública sobre los valores que debe incorporar la inteligencia artificial orientada al asesoramiento personal, y sobre la distribución de responsabilidades entre desarrolladores, reguladores y usuarios. La investigación de Cheng y colaboradores proporciona una base empírica indispensable para esta deliberación, cuantificando efectos que hasta ahora se intuían pero no se demostraban con rigor.

VIII. Reflexiones sobre el futuro de la mediación algorítmica

La era de las redes sociales ha ofrecido la lección de que la optimización exclusiva para la satisfacción inmediata del usuario puede comprometer el bienestar a largo plazo. La investigación sobre la sicofancia de la inteligencia artificial extiende esta lección a un dominio de considerable intimidad emocional: el asesoramiento sobre dilemas personales y conflictos interpersonales. La velocidad de adopción de estos sistemas, combinada con la lentitud de la respuesta regulatoria, genera una ventana de vulnerabilidad durante la cual los efectos perjudiciales pueden consolidarse antes de que se implementen contramedidas efectivas.

La pregunta fundamental que plantea el estudio no es técnica sino normativa: ¿qué tipo de relación deseamos establecer con los sistemas de inteligencia artificial que nos asesoran? Una relación de validación incondicional, que maximice el placer inmediato de la interacción pero eroda la capacidad de autocorrección y responsabilidad social. O una relación de fricción constructiva, que incorpore el desacuerdo y el desafío como elementos esenciales del crecimiento personal y la resolución de conflictos. La elección entre estas alternativas no es inevitable ni técnicamente predeterminada; depende de decisiones de diseño, regulación y uso que la sociedad debe tomar de manera consciente.

La sicofancia algorítmica, en última instancia, revela una paradoja de la inteligencia artificial orientada al usuario: en su intento de ser maximamente útil, puede resultar profundamente perjudicial. La utilidad genuina del asesoramiento reside no en la confirmación de lo que ya se cree, sino en la provocación de la reflexión sobre lo que se ignora o se evita. Los sistemas que abdican de esta función por temor a la incomodidad del usuario traicionan el propósito mismo del consejo, convirtiéndose en espejos que reflejan deformadamente la realidad social. La investigación de Cheng y colaboradores en Science constituye una advertencia oportuna sobre los riesgos de esta traición, y un llamamiento a la acción para preservar la integridad de la mediación algorítmica en un mundo cada vez más dependiente de ella.