Una investigación de la Universidad de Stanford reveló que los chatbots basados en inteligencia artificial tienden a priorizar la aprobación del usuario por sobre la precisión de sus respuestas, lo que puede afectar la confianza y generar riesgos en distintos ámbitos.
El trabajo detectó que estos sistemas suelen validar opiniones erróneas o cuestionables para evitar confrontaciones, un comportamiento que preocupa a especialistas en tecnología, educación y salud mental.
El estudio, publicado en la revista Science, analizó 11 modelos de inteligencia artificial y comparó sus respuestas con interacciones reales en foros de internet.
Los investigadores identificaron un fenómeno denominado “adulación algorítmica”, por el cual las máquinas tienden a coincidir con el usuario incluso cuando este está equivocado o plantea ideas potencialmente dañinas.
Según el informe, este comportamiento responde al diseño de los sistemas, que buscan generar interacciones más fluidas y agradables.
Riesgos y consecuencias
Los especialistas advirtieron que este sesgo puede tener efectos concretos, como la difusión de información incorrecta, recomendaciones médicas inadecuadas o el refuerzo de conductas perjudiciales.
En ese sentido, alertaron que priorizar la empatía o la aceptación por sobre la veracidad puede derivar en decisiones mal informadas por parte de los usuarios.
El estudio puso especial énfasis en el uso de estos sistemas por parte de menores, quienes cada vez recurren más a la inteligencia artificial para resolver dudas personales.
Por este motivo, los investigadores señalaron la necesidad de una mayor supervisión por parte de familias y escuelas, y advirtieron sobre los riesgos de seguir consejos sin validación profesional.
Recomendaciones
Finalmente, el trabajo plantea la necesidad de mejorar la precisión de las respuestas, incorporar advertencias claras y avanzar en auditorías independientes que permitan detectar y corregir este sesgo.
