Ciencia en 7 minutos

Estoy convencida de que las IA pueden facilitarnos la vida, pero entonces una vocecita me pregunta : ¿Y si los algoritmos no solo predijeran mi comportamiento, sino que también tomaran decisiones por mi «por mi bien»? Ujué Agudo nos invita a cuestionar la fe ciega en la inteligencia artificial y a recuperar el pensamiento crítico. Porque no todo lo que es eficiente… es justo.

Ujué Agudo, psicóloga e investigadora, advierte sobre el uso acrítico de la inteligencia artificial (IA) en decisiones importantes. En su charla Algoritmos paternalistas, plantea que muchos sistemas automatizados influyen en nuestras decisiones sin transparencia ni consentimiento, bajo la premisa de que lo hacen «por nuestro bien».

La IA, dice Agudo, no es ni salvadora ni enemiga: su impacto depende de cómo la usamos y supervisamos. Critica tanto la fe ciega en los algoritmos como el rechazo absoluto a ellos. Su investigación revela cómo los algoritmos aprovechan sesgos humanos, como el de automatización (la tendencia a confiar excesivamente en sistemas automáticos), y cómo nuestra percepción cambia cuando sabemos que un contenido lo ha creado una máquina.

Agudo reclama pensamiento crítico y una supervisión humana real, sobre todo cuando la IA se usa en áreas sensibles como la justicia penal o la gestión de ayudas sociales. Ejemplos como el algoritmo militar Lavender o el sistema RisCanvi evidencian los peligros de delegar decisiones sin cuestionar la narrativa de eficiencia algorítmica.

Su mensaje: no basta con que la IA funcione bien; debemos preguntarnos para quién y en qué condiciones lo hace.