Armas de destrucción matemática

Una matemática convertida en analista cuantitativa cuenta su camino desde la fascinación por los números primos en la infancia hasta la crisis financiera de 2008, momento en que descubre que sus herramientas amadas estaban agravando problemas globales. Tras reconocer que las técnicas matemáticas se extendían a nuevas áreas —especialmente el análisis de datos personales y comportamientos humanos— con promesas de objetividad y eficiencia, acuña el término «armas de destrucción matemática» para describir algoritmos que, aunque sofisticados, producen resultados profundamente injustos.

Usando el ejemplo detallado de Sarah Wysocki, una excelente maestra despedida por un sistema de evaluación opaco basado en valor añadido, la obra muestra cómo estas herramientas operan como cajas negras inescrutables: sus veredictos son inapelables, sus mecanismos invisibles, y sus puntuaciones se convierten en realidades que nadie cuestiona. El sistema se autoperpetúa: al despedir a los maestros que clasifica como «malos», confirma su propio criterio sin verificación real.

La autora explora cómo estos modelos castigan sistemáticamente a los pobres y marginados mientras los privilegiados reciben trato personalizado. Revela también cómo los sesgos humanos se camuflan bajo aparente objetividad matemática, creando espirales de realimentación negativa donde los algoritmos generan las condiciones que luego «confirman» sus propias predicciones.