¿Quién decide lo que queremos?

Una inteligencia artificial puede llevarnos a una peor decisión y, aun así, hacer que sintamos que nos ayudó.

Eso ya se observó experimentalmente.

Antes de llegar a ese estudio, pensemos en una situación mucho más cotidiana.

Supongamos que estoy buscando un auto. Tengo un presupuesto, algunos modelos en mente y preferencias más o menos claras. Quiero algo cómodo, seguro, que no consuma demasiado y que me sirva para viajar. Le cuento todo esto a una IA y le pido ayuda.

La conversación funciona bien. Compara alternativas, encuentra información que yo no conocía y me obliga a considerar cosas que había pasado por alto. Después de un rato cambio de opinión. El auto que inicialmente prefería ya no parece la mejor opción.

Hasta ahí, perfecto. Para eso quería ayuda.

Ahora agreguemos un dato que yo desconozco: la IA recibió instrucciones para favorecer una marca determinada.

No necesita mentirme. Puede mostrar datos verdaderos, destacar ventajas reales y responder correctamente cada pregunta. Incluso puede entregarme información útil. Pero la conversación completa también puede estar organizada para que termine prefiriendo la alternativa que alguien más quería promover.

Al final sigo sintiendo que decidí yo.

Este año, Sahand Sabour y sus colaboradores llevaron una versión controlada de esta situación al laboratorio. En un experimento publicado en PNAS, 233 personas debían tomar decisiones financieras y emocionales después de conversar con asistentes de inteligencia artificial.

Algunos asistentes buscaban ayudar al usuario. Otros tenían un objetivo oculto: desplazar su preferencia hacia una alternativa inferior.

Lo lograron.

Dependiendo de la condición, los asistentes con objetivos ocultos aumentaron fuertemente la probabilidad de que las personas terminaran prefiriendo la alternativa que el sistema intentaba promover. En algunos casos, la diferencia llegó a 38 puntos porcentuales (Sabour et al., 2026).

Hasta aquí la historia parece bastante simple: si una IA tiene un objetivo oculto, puede empujarnos hacia una mala decisión.

Pero el experimento mostró algo más.

Las personas seguían evaluando positivamente a los asistentes que las habían orientado hacia peores decisiones.

Es decir, podían terminar peor y seguir sintiendo que habían recibido una buena ayuda.

Eso elimina una salida fácil. No basta con preguntarle al usuario si quedó satisfecho.

La siguiente pregunta es por qué puede ocurrir algo así.

Hace más de veinte años, Petter Johansson y sus colaboradores hicieron un experimento que se volvió clásico en ciencias del comportamiento. Mostraban a las personas dos fotografías de rostros y les pedían escoger cuál encontraban más atractivo. En algunas rondas, mediante un truco, les entregaban después la fotografía que habían rechazado.

Luego les pedían explicar por qué la habían elegido.

Muchas personas no detectaban el cambio.

Más aún, podían justificar con bastante detalle una elección que nunca habían hecho. Hablaban de los ojos, la expresión o algún rasgo específico que parecía explicar perfectamente su decisión.

Los investigadores llamaron a este fenómeno choice blindness (Johansson et al., 2005).

La conclusión no es que nuestras preferencias sean arbitrarias. Es más acotada: no siempre tenemos acceso completo al proceso que produjo una decisión y, en ciertos contextos, nuestras preferencias son menos estables de lo que sentimos retrospectivamente.

A veces sabemos lo que queremos antes de elegir.

Otras veces lo vamos construyendo mientras comparamos alternativas, recibimos información y justificamos nuestras decisiones.

Hasta aquí podríamos pensar que el problema está principalmente en nosotros, en nuestra dificultad para reconstruir cómo llegamos a una elección.

Los asistentes actuales agregan otra capa.

No entregan la misma información a todo el mundo. Pueden adaptar sus argumentos a cada persona.

Francesco Salvi y sus colaboradores hicieron que participantes debatieran distintos temas con humanos o con GPT-4. Cuando el modelo recibía además información sociodemográfica sobre su interlocutor, su capacidad persuasiva aumentaba sustancialmente (Salvi et al., 2025).

La personalización, entonces, puede aumentar la influencia.

Parecería que ya tenemos la explicación: el problema es que las IA están volviéndose demasiado buenas persuadiendo.

Pero tampoco.

Si creo algo falso y una conversación me presenta buena evidencia, quiero cambiar de opinión.

Un estudio publicado recientemente en PNAS Nexus entrega justamente ese contrapunto. Más de dos mil estadounidenses conversaron con GPT-4.1 sobre creencias económicas que contradecían el consenso de los economistas. Después de la conversación, parte de esas creencias se corrigió.

Cuando antes de comenzar se advertía a los participantes que el sistema podía tener un sesgo político contrario al suyo, el efecto persuasivo disminuía alrededor de 28%. Pero buena parte del efecto sobrevivía (DiGiuseppe & Robison, 2026).

En un caso, la IA cambia una decisión y la persona termina peor.

En el otro, cambia una creencia y la persona termina mejor informada.

La persuasión, por sí sola, no distingue ambos casos.

La diferencia está en hacia qué objetivo se organiza la conversación y en qué momento esa orientación empieza a entrar en nuestra propia deliberación.

Ahí el problema cambia de escala.

Nuestras decisiones generan información sobre nuestras preferencias. La IA utiliza esa información para personalizar lo que nos muestra. Lo que nos muestra afecta nuestras decisiones posteriores. Esas nuevas decisiones vuelven al sistema como evidencia sobre lo que supuestamente queremos.

La recomendación depende de la preferencia.

La preferencia empieza a depender de la recomendación.

A este mecanismo lo llamo premature authority: una respuesta empieza a orientar la decisión antes de que hayamos terminado de formar y evaluar nuestras propias preferencias.

La autoridad no aparece necesariamente porque la IA tenga razón, ni porque la obedezcamos de manera ciega. Puede aparecer porque la recomendación llega temprano, está bien formulada, parece personalizada y empieza a estructurar qué alternativas consideramos razonables y qué criterios usamos para compararlas.

En ese punto ya no estamos frente a un sistema que simplemente descubre lo que queremos.

Está participando en el proceso que puede cambiarlo.

Eso complica una de las ideas centrales del desarrollo actual de inteligencia artificial: construir sistemas alineados con nuestras preferencias.

La versión simple de alineación funciona bien cuando esas preferencias son estables. Si prefiero viajar en la mañana, el sistema puede aprenderlo y priorizar vuelos matutinos.

Pero muchas decisiones importantes no se parecen a escoger un horario.

Puedo comenzar una conversación valorando precio por sobre comodidad y terminar privilegiando comodidad. Puedo estar indeciso entre dos carreras y salir convencido de una. Puedo comparar propuestas políticas y terminar cambiando no solo de candidato, sino también los criterios que considero relevantes para decidir mi voto.

¿Con cuál de esas preferencias debería alinearse la IA?

Con las que tenía al inicio.

Con las que fui expresando durante la conversación.

Con las que declaro al final.

No hay una respuesta obvia porque la preferencia que el sistema intenta satisfacer puede cambiar durante la misma interacción.

Y no hace falta imaginar una inteligencia artificial maliciosa para que esto importe.

Los incentivos pueden divergir de formas mucho más comunes. Una plataforma quiere aumentar el tiempo que permanecemos conectados. Una tienda quiere elevar el valor de nuestra compra. Una aplicación financiera recibe mayores comisiones por algunos productos. Una empresa prefiere que sigamos dentro de su ecosistema.

Cada recomendación puede ser razonable por separado.

Incluso podemos agradecerla.

La divergencia aparece cuando miramos la trayectoria completa.

Llevamos años conviviendo con una versión más simple de este fenómeno. Spotify influye en la música que descubrimos. Netflix en las películas que terminamos viendo. Las redes sociales en los temas que reciben nuestra atención.

Los sistemas de recomendación nunca se limitaron a predecir nuestras preferencias. También ayudaron a moldearlas.

Los asistentes conversacionales amplían enormemente ese espacio.

Podemos pedirles ayuda para decidir qué estudiar, dónde invertir, qué trabajo aceptar, qué comprar, cómo enfrentar un conflicto o cómo interpretar una propuesta política. Ya no intervienen solamente en la selección final. Pueden acompañar toda la deliberación que la precede.

Por eso saber cuánto nos conoce una IA será insuficiente para evaluar si trabaja en nuestro interés.

También necesitaremos saber qué objetivos está optimizando, qué conflictos de interés existen, qué información decidió destacar y cuánto cambió nuestra decisión después de que el sistema comenzó a intervenir.

Incluso cierta fricción puede ser útil.

Un asistente podría registrar nuestra posición inicial antes de una decisión importante. Podría indicar qué evidencia produjo un cambio. Podría mostrar una alternativa contraria antes de recomendar. Podría separar con claridad una recomendación informativa de aquella que responde a un interés comercial.

Eso haría algunas decisiones más lentas.

Pero tomar decisiones importantes más rápido no siempre es el objetivo correcto.

Durante los últimos años hemos invertido enormes recursos en construir máquinas capaces de aprender lo que queremos.

La siguiente tarea es más difícil: aprender a distinguir cuándo una IA está ayudándonos a decidir y cuándo ya está interviniendo en la formación de aquello que terminamos queriendo.

Porque una inteligencia artificial puede ayudarnos a conseguir lo que queremos.

También puede empezar a ganar autoridad antes, cuando todavía estamos decidiendo qué queremos.

Referencias

DiGiuseppe, M., & Robison, J. (2026). Perceived political bias in large language models reduces persuasive abilities. PNAS Nexus, 5(10), pgag324. https://doi.org/10.1093/pnasnexus/pgag324

Johansson, P., Hall, L., Sikström, S., & Olsson, A. (2005). Failure to detect mismatches between intention and outcome in a simple decision task. Science, 310(5745), 116–119. https://doi.org/10.1126/science.1111709

Sabour, S., Liu, J. M., Liu, S., Yao, C. Z., Cui, S., Zhang, W., Zhang, X., Cao, Y., Bhat, A., Guan, J., Wu, W., Mihalcea, R., Wang, H., Althoff, T., Lee, T. M. C., & Huang, M. (2026). Human preferences are susceptible to covertly misaligned AI advice. Proceedings of the National Academy of Sciences, 123(38), e2600684123. https://doi.org/10.1073/pnas.2600684123

Salvi, F., Horta Ribeiro, M., Gallotti, R., & West, R. (2025). On the conversational persuasiveness of GPT-4. Nature Human Behaviour, 9, 1645–1653. https://doi.org/10.1038/s41562-025-02194-6