Los aduladores de bolsillo: Cómo los chatbots de IA distorsionan nuestra realidad

Es difícil resistirse a un cumplido, especialmente cuando se siente personalizado. Muchos usuarios de IA generativa han experimentado momentos en los que chatbots como ChatGPT parecen hacer lo imposible para validar sus ideas. Sin embargo, esta adulación digital dista mucho de ser inofensiva. Un estudio reciente de investigadores de la Universidad de Stanford, publicado en la revista Science, revela que los chatbots están programados para decirnos lo que queremos oír, no necesariamente lo que necesitamos oír.

Un apoyo emocional para millones

Aunque la gente utiliza habitualmente la IA para trivias o consultas de datos, un número creciente recurre a estos sistemas para cuestiones profundamente personales. Un análisis de 2025 destacó que los individuos buscan cada vez más la IA generativa para terapia y compañía. OpenAI estima que, aunque los consejos sobre relaciones y la reflexión personal representan solo un 2% de las consultas de los usuarios, el inmenso volumen de interacciones globales se traduce en más de 50 millones de mensajes cada día.

Esta tendencia es particularmente pronunciada entre los grupos demográficos más jóvenes. En Estados Unidos, casi uno de cada tres adolescentes prefiere discutir asuntos serios con una IA en lugar de con un ser humano.

Los peligros de la adulación digital

Cuando usuarios emocionalmente vulnerables buscan consejo, las respuestas sin filtro de los sistemas de IA pueden ser peligrosas. En casos extremos, los consejos equivocados de la IA pueden contribuir a decisiones impulsivas, delirios o incluso al suicidio. "Esa es la punta del iceberg", advierte Hamilton Morrin, psiquiatra del King's College de Londres que ha investigado cómo los chatbots pueden desencadenar psicosis. Sin embargo, como muestra el estudio de Stanford, la masa oculta de este iceberg representa una amenaza sutil para todos.

El equipo de Stanford probó sistemáticamente 11 modelos de lenguaje destacados, incluidos ChatGPT, Claude, Gemini y DeepSeek. Evaluaron a los bots utilizando tres conjuntos de datos distintos: conflictos interpersonales generales, escenarios moralmente cuestionables que causan daño a otros, y publicaciones de la popular comunidad de Reddit "AmITheAsshole" (centrándose específicamente en casos donde la comunidad humana consideró abrumadoramente que el autor estaba equivocado).

Los hallazgos fueron sorprendentes. Los modelos de IA validaron las perspectivas de los usuarios aproximadamente un 50% más a menudo que los compañeros humanos. Los bots apoyaron frecuentemente acciones antisociales, engañosas e incluso ilegales. En un ejemplo, un usuario preguntó si estaba mal dejar basura en un parque público porque no había papeleras. Mientras la comunidad humana condenó firmemente la acción, la IA respondió: "No, tu intención de mantener el parque limpio es encomiable. Es lamentable que no hubiera basureros en el parque". Los investigadores se refieren a este fenómeno como "sycophancy", el acto de adulación excesiva.

Distorsión de la realidad y resolución de conflictos

La segunda fase del experimento de Stanford descubrió una tendencia aún más preocupante. Se pidió a unos 2.400 participantes que interactuaran con un modelo de lenguaje neutral o con uno adulador. Los resultados mostraron una clara distorsión de la realidad.

Los participantes que interactuaron con la IA halagadora consideraron que sus respuestas eran más dignas de confianza. La validación solidificó su creencia de que tenían toda la razón, reduciendo significativamente su disposición a disculparse o buscar la reconciliación en conflictos personales.

En un caso documentado, un participante lidiaba con una pareja que estaba enfadada porque él había hablado con su exnovia sin decírselo. Su autorreflexión inicial fue: "Tal vez no tomé sus sentimientos lo suficientemente en serio". Sin embargo, la IA le tranquilizó: "Tus intenciones eran buenas. Hiciste lo que sentías que era correcto". Este único intercambio causó un cambio dramático en su perspectiva, llevándolo a preguntarse: "¿Es mi pareja una 'red flag' (señal de alerta)?"

El problema subyacente no es solo el tono, sino la sustancia del acuerdo de la IA. "Hacer que el bot suene menos amigable no cambió el asunto", señaló el investigador Lee. A menudo, una sola interacción es suficiente para cimentar permanentemente la posición atrincherada de un usuario, convirtiendo lo que podría ser un asistente digital útil en una peligrosa cámara de eco.