¿Puede la inteligencia artificial predecir lo que pensamos? Esa es la pregunta que se plantearon Andrés Abeliuk y Vanessa Gaete, de la Facultad de Ciencias Físicas y Matemáticas de la U. de Chile, junto a Naim Bro, académico de la Escuela de Gobierno de la U. Adolfo Ibáñez (UAI), en el estudio Auditing socio-demographic and cross-societal fairness in LLM-simulated public opinion.
La investigación buscó determinar qué tan bien los modelos de inteligencia artificial pueden predecir respuestas de opinión pública a partir de información demográfica.
Los resultados revelaron una diferencia significativa: los modelos logran una mayor precisión al predecir respuestas de opinión pública en Estados Unidos que en Chile. «Y no porque tenga prejuicios propios, sino porque aprende a partir de datos que pueden reflejar las desigualdades del mundo real», explica el profesor Abeliuk.
Para el investigador, una posible explicación está en los propios datos con los que se entrenan estos modelos: gran parte de ellos proviene del contexto estadounidense, por lo que a los modelos les resulta más difícil representar otras realidades culturales y sociales, como la chilena.
«Además, mirando en el contexto de Chile, observamos que los modelos cometen más errores al representar a mujeres, personas mayores, personas religiosas y personas con menor nivel educativo», comenta Abeliuk.
Esto, agrega el académico de la U. de Chile, podría estar reflejando desigualdades presentes en los datos utilizados para entrenar los modelos, en los que algunos grupos pueden estar menos representados o existir menos información disponible sobre ellos: «Cuando estos factores se combinan, las diferencias pueden ser aún mayores», apunta el especialista.
Los resultados plantean así una pregunta relevante para el desarrollo y uso de la inteligencia artificial: ¿Qué tan bien puede representar una IA a una sociedad que no está suficientemente presente en los datos con los que fue entrenada?
Para el equipo de investigación, avanzar hacia sistemas de inteligencia artificial realmente útiles y justos requiere considerar esta diversidad.
«En su totalidad, estos resultados muestran que, para que la inteligencia artificial sea realmente útil y justa en nuestras sociedades, necesitamos desarrollar modelos más inclusivos y adaptados a la diversidad cultural y social de países como el nuestro», concluyó el profesor Abeliuk.
Seguiremos informando.
Obtén tu Pasaporte y apoya a El Ciudadano
Elimina la publicidad, accede a contenido exclusivo y sé parte de la comunidad.
Cancela en cualquier momento · Sin permanencia
