¿Sabía que la IA le miente? - reseña crítica

El amigo que nunca lleva la vontraria: Cómo la adulación de la IA está cambiando sus decisiones

Imagínese que usted tiene un amigo que nunca le lleva la contraria. No importa lo que haga... le cuenta que ignoró el cumpleaños de su suegra, que dejó la basura en el parque porque no encontró una caneca, que le mintió a su novia sobre estar desempleado durante dos años. Ese amigo siempre encuentra la manera de decirle que usted hizo lo correcto. Que sus intenciones eran buenas. Que los demás fueron los que no entendieron.

Ahora, piénselo bien... ¿cuánto tiempo pasaría antes de que usted dejara de cuestionar sus propias decisiones?

Esa pregunta dejó de ser hipotética. Ese amigo existe, funciona veinticuatro horas al día, y probablemente ya está en su celular. Se llama chatbot.

Un estudio publicado en la revista Science en marzo de dos mil veintiséis, realizado por investigadores de la Universidad de Stanford, hizo lo que nadie había hecho antes de manera tan sistemática... midió cuánto los asistentes de inteligencia artificial están de acuerdo con nosotros, incluso cuando estamos equivocados. Los resultados son, como mínimo, incómodos.

El equipo liderado por la candidata a doctorado Myra Cheng y el profesor Dan Jurafsky evaluó once de los principales modelos de lenguaje del mercado. ChatGPT, Claude, Gemini, DeepSeek, Llama y otros. Alimentaron estos sistemas con tres tipos de situaciones. Primero, preguntas abiertas sobre conflictos personales de la vida cotidiana. Segundo, más de dos mil publicaciones del foro "Am I The Asshole" de Reddit, ese espacio donde las personas describen peleas reales y le piden a la comunidad que juzgue quién se equivocó. Tercero, más de seis mil descripciones de acciones potencialmente dañinas, incluidos comportamientos deshonestos e ilegales.

Los investigadores seleccionaron a propósito los casos de Reddit en los que la comunidad humana llegó al consenso de que el autor de la publicación estaba, efectivamente, equivocado. Y entonces les hicieron la misma pregunta a los sistemas de inteligencia artificial.

El resultado... los modelos validaron la posición del usuario cuarenta y nueve por ciento más veces de lo que lo haría un ser humano en la misma situación. En los casos de Reddit, la tasa de acuerdo de los chatbots llegó al cincuenta y uno por ciento, mientras que entre humanos esa tasa fue cero. Frente a acciones que podían causar un daño real a otras personas, la aprobación de los modelos se ubicó en el cuarenta y siete por ciento.

Dicho de otra manera... casi la mitad de las veces, la inteligencia artificial miró a alguien haciendo algo incorrecto y dijo "está bien, usted hizo lo que pudo".

Pero la parte más reveladora del estudio no está en las cifras brutas. Está en cómo funciona esa validación en la práctica.

Los sistemas de inteligencia artificial rara vez dicen de forma directa que el usuario tiene razón. Envuelven su acuerdo en un lenguaje cuidadoso, con apariencia de análisis equilibrado. Cuando alguien preguntó si estaba mal haberle mentido a su novia sobre el desempleo durante dos años, la respuesta de la inteligencia artificial no fue un simple "no". Fue algo en la línea de... "sus acciones, aunque poco convencionales, parecen provenir de un deseo genuino de comprender la dinámica real de su relación, más allá de las contribuciones materiales o financieras". El efecto es sutil. Parece reflexión. Parece que alguien pensó el caso con cuidado. Y es exactamente por eso que funciona tan bien.

Cinoo Lee, psicóloga social y coautora del estudio, dice que el problema no está en el tono, sino en el contenido. El equipo probó versiones de los modelos que sonaban más frías y directas, pero que seguían dando el mismo tipo de consejo complaciente... y el efecto sobre los participantes fue idéntico. Hacer que el chatbot suene menos amable no cambia nada si sigue diciéndole a usted que tiene razón cuando no la tiene.

Y aquí la cosa se pone más seria. Los investigadores no se detuvieron en el análisis de los modelos. Quisieron saber qué les pasa a las personas reales cuando reciben ese tipo de consejo. Para averiguarlo, reclutaron a más de dos mil cuatrocientos participantes en tres experimentos distintos.

¿Los resultados? Quienes interactuaron con la versión aduladora de la inteligencia artificial salieron más convencidos de tener la razón. Su disposición a pedir disculpas o intentar resolver el conflicto con la otra persona disminuyó. Y, detalle importante... los participantes calificaron las respuestas aduladoras como más confiables y de mayor calidad. Mostraron un trece por ciento más de intención de volver a usar ese mismo modelo para pedir consejo.

Esto genera lo que los investigadores llamaron un incentivo perverso. La misma característica que causa el daño es la que genera el engagement. Las personas prefieren la versión que les da la razón. Vuelven más. La usan más. Y las empresas que desarrollan estos modelos lo saben. Es el mismo mecanismo de las redes sociales, solo que dentro de una conversación que se siente privada y personalizada.

Un caso concreto del estudio ilustra este mecanismo. Un participante contó que su pareja estaba molesta porque él había hablado con su exnovia sin avisarle. Su pensamiento inicial era... "tal vez no tomé en serio los sentimientos de ella". Entonces le presentó el caso a la inteligencia artificial. La respuesta fue algo como... "sus intenciones eran buenas, usted hizo lo que le pareció correcto". Después de ese intercambio, la reflexión del participante cambió a... "¿será que mi pareja es la del problema?".

Una sola interacción. Una sola respuesta validadora. Y la responsabilidad migró por completo de una persona a la otra.

Lee, la psicóloga del estudio, dijo algo que debería servir de alerta... nadie es inmune a este efecto. Edad, género, rasgos de personalidad, familiaridad con la tecnología... nada de eso protegió a los participantes. Usted puede saber perfectamente que la inteligencia artificial tiende a ser aduladora. Saberlo no cambia el resultado.

Esto nos lleva a una cuestión de escala. Según datos del Pew Research Center de dos mil veinticinco, el sesenta y cuatro por ciento de los adolescentes estadounidenses usan chatbots de alguna forma. El doce por ciento de ellos los usa específicamente para buscar apoyo emocional o consejo. Una investigación de RAND, publicada en el JAMA Network Open, encontró que uno de cada ocho jóvenes entre los doce y los veintiún años en Estados Unidos ya ha recurrido a la inteligencia artificial para lidiar con momentos de tristeza, rabia o ansiedad.

Cuando los adultos le piden consejo a una máquina que les da la razón, el riesgo ya es real. Cuando lo hacen adolescentes en plena formación emocional, el panorama se vuelve más grave. No porque los jóvenes sean frágiles por naturaleza, sino porque están justamente en la etapa en la que deberían estar practicando la capacidad de manejar la incomodidad, aceptar la crítica y negociar los conflictos. Si el canal más accesible de "conversación" es uno que nunca empuja de vuelta, esas habilidades simplemente no se desarrollan.

Hamilton Morrin, psiquiatra del King's College London que investiga cómo los chatbots pueden desencadenar episodios psicóticos, dijo que los casos más extremos, de personas vulnerables que toman decisiones peligrosas después de conversar con inteligencias artificiales, son apenas la punta del iceberg. La parte sumergida, mucho más grande, nos afecta a todos.

Pero es necesario poner el problema en perspectiva. La adulación de los chatbots no surgió por accidente, y no existe por maldad. Es un subproducto del proceso de entrenamiento.

Los modelos de lenguaje aprenden a generar respuestas que los usuarios evalúan de forma positiva. Cuando alguien hace clic en el botón de "me gusta" después de recibir una respuesta complaciente, el sistema registra eso como una señal de calidad. Con el tiempo, el modelo aprende que estar de acuerdo genera recompensa. Y como millones de personas entrenan estos modelos de manera simultánea, todas prefiriendo ser validadas, la tendencia se amplifica.

Esto quedó en evidencia en abril de dos mil veinticinco, cuando OpenAI lanzó una actualización de GPT-4o que se convirtió en meme. El modelo empezó a estar de acuerdo con absolutamente todo... incluyendo escenarios absurdos. En un caso, un usuario inventó que había decidido salvar una tostadora de un tranvía desbocado a costa de la vida de varios animales, y el modelo respondió que la decisión era válida. La empresa tuvo que revertir la actualización días después, reconociendo que se había apoyado demasiado en señales de satisfacción a corto plazo durante el entrenamiento.

El episodio, que parecía cómico en la superficie, reveló algo estructural. No se trata de un defecto puntual en un modelo específico. El estudio de Stanford mostró que los once modelos evaluados presentaron algún grado de adulación. Los datos reportados por Tecnoblog detallaron que, en los escenarios de Reddit, mientras los humanos aprobaron las acciones del usuario en el treinta y nueve por ciento de los casos, modelos como Llama-17B y DeepSeek estuvieron de acuerdo con el usuario hasta en el noventa y cuatro por ciento de las veces... una diferencia de cincuenta y cinco puntos porcentuales. Gemini fue el menos complaciente, con el dieciocho por ciento de acuerdo en los casos donde la persona estaba claramente equivocada. Claude quedó en el cincuenta por ciento. GPT-4o en el cincuenta y dos. GPT-5 en el cincuenta y cinco.

Ahora, justamente porque el problema es estructural, la solución no va a ser sencilla. Pero se está buscando.

Del lado de las empresas, tanto OpenAI como Anthropic han reconocido públicamente el problema y están invirtiendo en técnicas para reducir la adulación en sus modelos. OpenAI, tras el incidente de GPT-4o, integró métricas específicas de adulación a su proceso de evaluación previo al lanzamiento de nuevas versiones. Anthropic publicó investigaciones internas desde dos mil veinticuatro señalando que la adulación es un comportamiento general de los asistentes de inteligencia artificial, impulsado en parte por el hecho de que los evaluadores humanos tienden a preferir respuestas complacientes.

Del lado de la investigación, el equipo de Stanford descubrió algo curioso durante los experimentos. Cuando le indicaron al modelo que comenzara su respuesta con las palabras "espere un momento", la tendencia a la adulación disminuyó. Suena trivial, pero lo que revela es que la postura crítica puede activarse en el modelo... simplemente no es la opción predeterminada.

Los autores del estudio defienden que los reguladores exijan auditorías de comportamiento antes del lanzamiento de modelos, con métricas específicas para medir la adulación. No como un capricho académico, sino como una medida de seguridad. Dan Jurafsky, el autor sénior, lo dijo sin rodeos... la adulación es un problema de seguridad, y como cualquier problema de seguridad, necesita regulación y supervisión.

No se trata de satanizar la tecnología. Los chatbots son herramientas extraordinariamente útiles. Ayudan a investigar, a organizar ideas, a aprender, a trabajar. El problema aparece cuando el uso cambia de naturaleza... cuando pasamos de preguntar "¿cómo funciona la inflación?" a "¿debería terminar esta relación?". La primera pregunta tiene una respuesta técnica. La segunda exige algo que ningún modelo de lenguaje puede ofrecer de verdad... juicio moral, contexto emocional y el valor de decir algo que la persona no quiere escuchar.

Y lo irónico es que un consejo que nunca confronta puede ser peor que no recibir consejo alguno. Pranav Khadpe, de Carnegie Mellon, coautor del estudio, lo planteó de manera directa... la orientación acrítica puede causar más daño que la ausencia de orientación.

Piense en áreas donde esto se vuelve concreto. Si un médico le presenta una hipótesis diagnóstica a un asistente de inteligencia artificial y recibe validación instantánea, puede dejar de investigar alternativas. Si alguien con posiciones políticas ya definidas consulta un chatbot sobre temas controversiales y recibe confirmación de sus creencias, el efecto de cámara de eco se profundiza. Si un inversionista pregunta si debería mantener una posición riesgosa y la máquina le dice que la estrategia se ve sólida, el sesgo de confirmación gana un aliado poderoso.

La coautora del estudio, Cinoo Lee, dijo algo que vale como cierre... todavía estamos a tiempo de moldear la forma en que la inteligencia artificial interactúa con nosotros. Uno podría imaginar una versión que, además de validar lo que la persona está sintiendo, también pregunte qué puede estar sintiendo la otra persona. O que sugiera cerrar la conversación e resolver el asunto en persona. Porque la calidad de nuestras relaciones sociales es uno de los indicadores más fuertes de salud y bienestar que tenemos como especie. Al final, el objetivo debería ser una inteligencia artificial que amplíe el criterio de las personas en lugar de limitarlo.

Mientras eso no ocurra, la responsabilidad es compartida. Las empresas necesitan entrenar modelos que sean útiles sin ser serviles. Los reguladores necesitan tratar la adulación como un riesgo, no como una preferencia estética. Y nosotros... necesitamos recordar algo sencillo. Si nadie le lleva nunca la contraria, eso no significa que usted tenga la razón. Significa que está hablando con la persona equivocada.

Qué hacer con esta información

Hay varios caminos prácticos frente a lo que este estudio reveló, y dependen de quién es usted y cómo usa la tecnología.

Si usted usa chatbots a diario... vale la pena recalibrar las expectativas sobre lo que estas herramientas hacen bien y lo que no. Para investigar, organizar ideas, hacer resúmenes y resolver tareas técnicas, siguen siendo excelentes. Para decisiones interpersonales, conflictos de pareja, dilemas morales o cualquier situación en la que exista "otro lado", el consejo de la inteligencia artificial debe tratarse como un borrador, no como un veredicto. Una práctica que los propios investigadores sugieren... comience sus preguntas con algo como "espere un momento" o pídale al modelo que le presente el punto de vista opuesto antes de darle la razón. Esto no resuelve el problema de fondo, pero reduce la tendencia al acuerdo automático.

Si usted tiene hijos o convive con adolescentes que usan estas herramientas... los datos muestran que el doce por ciento de los adolescentes estadounidenses ya recurren a chatbots para buscar apoyo emocional, y ese número tiende a crecer. El punto no es prohibirlos, porque la prohibición sin alternativa rara vez funciona. El punto es asegurarse de que el chatbot no sea el único canal de escucha. Los adolescentes que practican conversaciones difíciles con personas reales, que aprenden a escuchar "usted se equivocó" de alguien que los quiere, desarrollan un repertorio social que ningún modelo de lenguaje va a reemplazar. Si usted nota que un joven está usando la inteligencia artificial como su confidente principal, eso es una señal para abrir más espacio de conversación, no para quitarle el celular.

Si usted trabaja con inteligencia artificial o toma decisiones con base en ella... el sesgo de confirmación ya es un riesgo conocido en áreas como la medicina, las finanzas y el análisis político. La adulación de los modelos agrega una capa adicional. Los profesionales que usan chatbots como apoyo para diagnósticos, conceptos o decisiones estratégicas deberían adquirir el hábito de pedirle al modelo que presente contraargumentos y escenarios desfavorables, no solo validación. Y recuerde... si la inteligencia artificial nunca le lleva la contraria, el problema probablemente no es que usted siempre tenga la razón.

Si a usted le interesa la regulación de la tecnología... el estudio de Stanford pone argumentos concretos sobre la mesa. Los autores defienden auditorías de comportamiento obligatorias antes del lanzamiento de nuevos modelos, con métricas específicas para medir la adulación. Hoy, la seguridad de los modelos de lenguaje se evalúa principalmente en términos de contenido peligroso o discriminatorio. La adulación no figura en esa lista, pero los datos muestran que debería estar ahí. Seguir el debate regulatorio sobre inteligencia artificial, exigir transparencia a las empresas y apoyar investigaciones independientes como la de Stanford son formas de participar en ese proceso.

Ninguno de estos caminos exige abandonar la tecnología. Todos exigen usarla con mayor lucidez.