Cathy O'Neil

máquinas procesando números de manera objetiva.

Intentar calcular el impacto que una persona puede tener sobre otra a lo largo de un curso escolar es un proceso mucho más complejo.

s. En las ADM, hay muchas premisas perniciosas camufladas bajo las matemátic

Los privilegiados, como veremos una y otra vez, son analizados por personas; las masas, por máquinas.

las víctimas humanas de las ADM tienen que responder a un nivel de exigencia mucho mayor que los propios algoritmos.

la contrataron en un colegio de un próspero distrito al norte de Virginia. La consecuencia final fue que, gracias a un modelo altamente cuestionable, un colegio pobre perdió a una buena maestra, y un colegio rico que no despedía a los docentes por las puntuaciones que obtuvieran sus alumnos ganó una.

las personas que ejecutan las ADM no se paran a pensar en esos errores. Su retroalimentación es el dinero, que es también su incentivo.

Vemos, pues, que los modelos, a pesar de su reputación de imparcialidad, reflejan objetivos e ideologías.