¿La tecnología es imparcial? Sesgos en la producción de conocimiento científico
Por Ana Isabel Zermeño Flores*
Imagina que buscas en el mercado de tu ciudad productos para preparar un platillo mexicano, pero resulta que los productos que encuentras son importados de grandes empresas globales, pero los ingredientes locales, esenciales para lograr el sabor tradicional, están escondidos o no hay en existencia. No es que alguien los oculte intencionalmente; lo que sucede es que las reglas del mercado, las cadenas de distribución y los costos de entrada, favorecen a las grandes empresas productoras. Algo similar sucede en el ámbito académico donde las tecnologías digitales y la inteligencia artificial (IA) que usamos para buscar información científica tienden a resaltar las contribuciones del Norte Global, mientras que las del Sur Global quedan relegadas o invisibles.
En un reciente artículo sobre producción de conocimiento e injusticias epistémicas que publicamos colegas y yo en MedieKultur, analizamos los procesos de revisión de literatura científica y cómo estas tecnologías inciden en la representación del conocimiento. Mostramos que, aunque estas herramientas han beneficiado a la ciencia, tienen sesgos que afectan el acceso, la generación y la representación del conocimiento; así como la invisibilización de ciertos grupos y perspectivas, amplificando las desigualdades.
En nuestro trabajo detectamos y atendimos estos sesgos a tiempo; sin embargo, consideramos que hacer visible este proceso resultaría útil para otras personas investigadoras que comienzan a utilizar estas tecnologías, sobre todo la IA.
Sesgo del pasillo iluminado: representación del conocimiento
Al usar plataformas como Web of Science (WoS) o herramientas de IA como SciSpace y Elicit, descubrimos que los resultados priorizaban publicaciones de Estados Unidos y Europa. Es como si el supermercado científico estuviera diseñado para destacar solo productos de ciertas marcas, ignorando opciones valiosas de otras regiones. Este sesgo perpetúa la idea de que el conocimiento válido solo proviene de unos pocos lugares.
Por ejemplo, cuando buscamos estudios sobre el activismo juvenil en México, tuvimos dificultades para encontrar artículos relevantes, no porque no existieran, sino porque las herramientas no los hacían visibles. Este sesgo podría haber afectado nuestra investigación y dejar fuera a comunidades cuyos problemas locales no aparecerían en el radar académico.
Además, el acceso a estas herramientas está condicionado por reglas que privilegian a países con recursos para pagar suscripciones costosas, realizar investigaciones de gran escala y cumplir con estándares occidentales. Para personas investigadoras del Sur Global, las suscripciones a bases de datos como WoS son inaccesibles, al igual que licencias de herramientas IA o los costos de publicación en revistas de alto impacto.
Esto no significa que las tecnologías oculten intencionadamente la producción del Sur Global, sino que las barreras estructurales dificultan que sus investigadoras e investigadores publiquen en plataformas más visibles, lo cual genera un ciclo vicioso: la baja visibilidad de las investigaciones reduce su citación, disminuyendo aún más su presencia en espacios académicos de alto impacto.
Sesgo del espejo opaco: invisibilización del sujeto que genera conocimiento
Las herramientas digitales no solo filtran la información, también esconden quién la produce. En ciencia, esto significa que no sabemos si las y los autores son mujeres, si pertenecen a comunidades indígenas o enfrentan condiciones adversas. Para la ciencia dominante, el “sujeto situado” en sus circunstancias particulares, no es relevante.
Es como mirar un álbum donde algunas fotos aparecen claras y otras están desenfocadas o borradas. El conocimiento que queda fuera de foco pertenece a grupos históricamente marginados, lo que perpetúa la idea errónea de que la ciencia es neutral y ajena al contexto de quienes la producen.
Un mercado justo: reescribiendo las reglas del juego científico
A pesar de estas barreras, la tecnología digital tiene el potencial de cambiar las reglas del juego. Si se diseña y utiliza con un enfoque crítico, puede concebir estrategias donde todos los productos, independientemente de su origen, tengan la misma oportunidad de llegar a las y los consumidores. Es decir, que las y los investigadores accedamos a materiales no solo de calidad sino de una amplia diversidad.
Plataformas de acceso abierto como RedALyC ya visibilizan la producción científica de América Latina. Sin embargo, para que este mercado justo sea una realidad, es necesario que las y los diseñadores tecnológicos valoren la riqueza del conocimiento global y que las y los investigadores adopten estas herramientas de manera reflexiva. Además, es necesario que se incorpore el diseño ético, particularmente en IA, para entrenar modelos de lenguaje con parámetros más inclusivos.
Así como para cocinar necesitamos ingredientes diversos para lograr el mejor sabor, en la ciencia necesitamos incluir la mayor pluralidad de perspectivas para entender mejor nuestra realidad. El artículo de MedieKultur invita a reflexionar sobre cómo usamos la tecnología en la investigación y a trabajar para evitar que amplíe las brechas de desigualdad.
Imaginemos un futuro donde las herramientas digitales y la IA no solo guíen al pasillo más visible, sino que permitan explorar todo el supermercado del conocimiento para “cocinar” un futuro más justo y enriquecedor.
Para ampliar la información se sugiere consultar el artículo completo: https://tidsskrift.dk/mediekultur/article/view/143529
*Profesora de la Facultad de Letras y Comunicación e investigadora del Centro Universitario de Investigaciones Sociales de la Universidad de Colima
Las opiniones expresadas en este texto periodístico de opinión, son responsabilidad exclusiva del autor y no son atribuibles a El Comentario.
