Monocultura algorítmica: cuándo es un riesgo y cómo mitigarlo

Qué es la monocultura algorítmica

La monocultura algorítmica ocurre cuando un sector entero adopta el mismo algoritmo para tomar decisiones. En la práctica, esto ya se ve en casos como las puntuaciones de crédito estandarizadas (por ejemplo, FICO) o en el uso extendido de unas pocas herramientas de filtrado de currículos por grandes empresas.

En sectores donde la automatización reemplaza juicios humanos repetitivos —contratación, crédito, marketing— la monocultura puede surgir de manera natural porque las soluciones más eficientes tienden a difundirse rápidamente. Pero eso no responde a si esa uniformidad es buena o mala: depende del dominio y de cómo se use la tecnología.

Qué encontraron los investigadores del MIT

Manish Raghavan y Brian Hedden, investigadores del MIT que publicaron su análisis en Philosophical Perspectives, revisaron de manera sistemática los argumentos a favor y en contra de la monocultura algorítmica, enfocando su estudio en procesos de contratación. Raghavan es profesor en la Sloan School of Management y en EECS y Hedden ocupa posiciones compartidas entre Filosofía, Lingüística y el Schwarzman College of Computing. Ambos son investigadores del Laboratory for Information and Decision Systems (LIDS).

Su conclusión principal es que muchas críticas habituales a la monocultura no son universales: algunas fallan en ciertos escenarios y otras requieren matices. Sin embargo, demostraron matemáticamente que la monocultura tiende a generar cámaras de eco informacionales que reducen la exploración de opciones. En el contexto de contratación, eso puede significar que los mejores candidatos no siempre llegan a ser contratados.

Objecciones comunes y por qué no siempre aplican

• Exclusión sistemática: El temor es que si todos usan el mismo filtro, un candidato rechazado por una firma será rechazado por todas. Los autores muestran que, aunque las personas rechazadas pueden coincidir, la cantidad total de contrataciones en el mercado no cambia necesariamente por el hecho de uniformidad algorítmica. De hecho, en algunos modelos la competencia por el mismo grupo de candidatos puede aumentar el poder de negociación de estos y, potencialmente, los salarios.

• Pérdida de agencia del aspirante: Otro argumento es que la monocultura impide a los candidatos adaptar sus postulaciones tras un rechazo, porque su información se replica automáticamente en todas las empresas. Los investigadores señalan que este problema depende de la implementación: si los procesos permiten revisar y reenviar materiales, esa objeción pierde fuerza.

• Incentivos para hacer trampa (gaming): Con un único estándar, habría mayor incentivo para optimizar currículos específicamente para ese algoritmo. No obstante, los autores subrayan que una pluralidad de algoritmos también puede incentivar la estrategia dirigida: uno puede apuntar a los algoritmos de un subconjunto de empresas para obtener ventaja. En resumen, el juego existe tanto en monoculturas como en policulturas, y su magnitud depende de otros factores.

La crítica más sólida: cámaras de eco e inhibición de la exploración

Donde los investigadores encuentran un problema robusto es en la tendencia de la monocultura a homogenizar la información que llega a los tomadores de decisión. Al usar el mismo criterio repetidamente, las señales que los algoritmos recogen y transmiten se refuerzan entre sí, creando una especie de cámara de eco informacional. Eso reduce la exploración de candidatos atípicos o de perfiles que no encajan exactamente con la plantilla homogénea que el algoritmo favorece.

Matemáticamente, Hedden y Raghavan demuestran que este efecto inhibe la diversidad de opciones que llegan a la decisión final. En la práctica, podría traducirse en pérdida de oportunidades de encontrar talento no convencional o en la cristalinización de sesgos que nadie detecta porque todos los decisores comparten la misma lente.

Ensembles: combinar algoritmos como contramedida

Una propuesta interesante del estudio es que empaquetar varios algoritmos en un “ensemble” (un conjunto que combina múltiples modelos) puede contrarrestar las limitaciones de la monocultura. Un ensemble puede recuperar diversidad informativa y, en algunos casos, lograr resultados comparables o superiores a una policultura donde distintas empresas usan herramientas diferentes.

Esto sugiere que la solución no es necesariamente la diversidad de proveedores por sí sola, sino el diseño cuidadoso del sistema de decisión: combinar perspectivas algorítmicas dentro de la misma plataforma puede ofrecer lo mejor de ambos mundos: eficiencia estandarizada y variedad informativa.

Implicaciones para América Latina

Aunque el estudio se centra en modelos teóricos y ejemplos como contratación y crédito, los hallazgos son relevantes para empresas y reguladores latinoamericanos. En la región hay un interés creciente por automatizar procesos de selección, evaluación crediticia y servicios públicos con herramientas de IA. Algunas consideraciones para tomadores de decisión en América Latina:

• Evaluar no solo la precisión de un algoritmo, sino sus efectos sistémicos en el mercado laboral y en la inclusión social. La adopción masiva sin auditoría puede cristalizar sesgos locales.

• Considerar arquitecturas de decisión que integren múltiples criterios o ensembles dentro de la misma herramienta, en lugar de depender exclusivamente de un único modelo propietario.

• Diseñar procesos que permitan la rectificación y la intervención humana: opciones para que candidatos mejoren sus postulaciones o para revisiones manuales puntuales reducen riesgos de pérdida de agencia.

• Implementar auditorías periódicas y transparencia en criterios: no basta con adoptar tecnología; es necesario medir quiénes son beneficiados o perjudicados por su uso.

Conclusión: no todo es blanco o negro

El análisis de los investigadores del MIT muestra que la monocultura algorítmica no es inherentemente mala ni buena. Los efectos dependen de detalles técnicos y de diseño institucional. Mientras que algunos argumentos en contra de la monocultura pierden fuerza al modelarlos formalmente, el riesgo de cámaras de eco informacionales es real y puede perjudicar la exploración de talento.

Para empresas y reguladores interesados en adoptar IA —en América Latina y más allá— la recomendación práctica es evitar decisiones binarias: valorar la diversidad informativa dentro de los sistemas, considerar ensembles como alternativa técnica y mantener salvaguardas que permitan revisión, transparencia y mitigación de sesgos. Así se aprovechan las ventajas de escala y consistencia sin sacrificar la capacidad de descubrir talento y corregir errores sistémicos.