La sociedad ha integrado con tanta rapidez y facilidad la inteligencia artificial en su día a día, que rara vez se cuestiona si realmente es una herramienta neutra, objetiva y fiable a la hora de generar respuestas informativas. Sin embargo, un artículo publicado por El País ha reabierto el debate sobre los sesgos invisibles que arrastran estos sistemas interactivos. El artículo expone cómo el algoritmo situaba de forma desproporcionada a cuatro comunidades autónomas (Cataluña, Madrid, Andalucía y el País Vasco) como el núcleo casi exclusivo de la identidad española.
Este caso evidencia un fenómeno con profundas implicaciones sociales y éticas. Las respuestas que ofrecen los modelos de lenguaje dejan de lado un análisis neutral, equilibrado y diverso, ya que nacen de una acumulación estadística de datos que reproduce fielmente los desequilibrios de internet. Así es como, en el caso expuesto, el sistema le da más importancia a unos territorios que a otros, lo que reduce la diversidad de un país a sus datos más posibles.
El riesgo de separar el mensaje del emisor
El verdadero peligro de esta tendencia es la forma en que los usuarios consumen la información generada por la inteligencia artificial. Tradicionalmente, cuando un ciudadano leía un dato o una opinión, evaluaba su credibilidad en función de quién firmara ese mensaje: un medio de comunicación concreto, una institución, un perfil en redes sociales… Pero los grandes modelos de lenguaje rompen este mecanismo de protección y autoverificación.
Una visión sesgada o incompleta de la realidad, extraída originalmente de páginas web con intereses particulares, se diluye dentro del entrenamiento del algoritmo. Al final, el software presenta esa misma información bajo una apariencia de neutralidad y rigor técnicos y el usuario tiende a bajar la guardia y a aceptar como un hecho lo que en realidad es un simple promedio de textos de internet. De este modo, los algoritmos eliminan los matices y simplifican debates complejos que requerirían una exploración mucho más profunda.
El sesgo demográfico
Este problema de representación y falta de pluralidad se estudió en The Geopolitics of AI Safety: A Causal Analysis of Regional LLM Bias, donde demostraron mediante auditorías de datos que los sistemas de inteligencia artificial modifican de forma sistemática su comportamiento y el enfoque de sus respuestas en función del origen geográfico de las consultas. La investigación expone cómo los modelos conversacionales imponen visiones del mundo y la sociedad centralizadas. Además, esas visiones están condicionadas por la cultura y los intereses del entorno donde han sido desarrollados (habitualmente Estados Unidos y grandes corporaciones tecnológicas).
A nivel nacional, el informe Percepción pública de los sesgos de la IA en España, coordinado por el grupo de investigación GRIAL, advierte de una importante brecha en la población a la hora de detectar estos sesgos informativos. La mayoría de los usuarios carece de la formación técnica y comunicativa necesaria para identificar cuándo un texto aparentemente neutro está reproduciendo visiones ideológicas sesgadas o visiones geográficas centralistas.