De fiesta por justicia

Por aquel entonces yo tenía 14 años. Mi madre estaba tumbada en el sofá del cuarto de estar. De fondo la película del oeste y yo desde el pasillo mirando la escena, repitiendo en mi cabeza todas las frases planeadas.

Tomé una bocanada de aire y me envalentoné: ¿Mamá, me dejas ir con mis amigas a Elite Light?

Para quienes seáis de Madrid y hayáis pasado vuestra adolescencia en los 2000, sabéis a lo que me refiero. Elite Light era la versión para menores de edad de la discoteca Elite. Una vez pasabas el filtro de los puertas del lugar, sello en la mano y para dentro. Al entrar, medio colegio estaba allí con Los Nikis por himno. No ir esa tarde a Elite Light no solo suponía perder ese momento, también estar fuera de las conversaciones y cotilleos del lunes. Esto era algo que no quería y, sobre todo, algo que con esa edad no te puedes permitir.

Después de soltar un discurso lleno de emocionalidad y chantaje del bueno, mi madre profirió un sencillo, frío y cortante: “No”. En ese momento una bola acapara el centro de tu cuerpo y, esófago hacia arriba, te empieza a subir cargada de enfado saliendo por tu boca al grito de: ¡Qué injusticia!

Lo que entonces fue Elite Light, ahora lo es la diferencia salarial entre hombres y mujeres o la infrarrepresentación de las mujeres en el mundo tecnológico. Si yo hubiese sido Rosa Parks, el nudo en el estómago lo habría generado ceder el asiento del autobús y para Emmeline Pankhurst el sufragio masculino.

La sensación de justicia transita y cambia por vidas al igual que por épocas. Ahora, nuestra época es esa en la que empresas y organismos públicos toman decisiones automáticas basadas en algoritmos de aprendizaje máquina. Si algo caracteriza a estas decisiones automáticas es que, una vez creadas, el coste de aplicarlas en el mundo real es prácticamente cero. Su casi gratuidad tienta a empresas a llevarlas allá donde puedan y cuanto más mejor.

¿Cómo conseguimos que estas decisiones automáticas sean justas para las personas sobre las que se aplican? Si algo tienen de bonito las matemáticas es que lo permiten todo, lo albergan todo, solo necesitas papel, bolígrafo y la intención de definir algo. El sentido de esa definición no depende de su certera existencia sino de su posible sentido y es el contexto el que da dicho sentido.

Miremos el contexto. Supongamos que estamos empleando un modelo automático de clasificación para decidir si una persona va a recibir o no una subida salarial. El techo de cristal nos advierte que la variable género es una variable sensible para nuestro modelo, es decir, hombres y mujeres no suelen recibir el mismo trato. Ante la preocupación de que nuestro modelo contribuya a tal discriminación, analizamos sus resultados en términos de justicia.

¿El porcentaje de mujeres que reciben una subida salarial es igual que el porcentaje de hombres? ¿El porcentaje de mujeres que mi modelo ha clasificado correctamente es igual que el porcentaje de hombres? ¿El porcentaje de mujeres que mi modelo ha clasificado incorrectamente es igual que el porcentaje de hombres? A estas preguntas las denominamos paridad demográfica, igualdad de oportunidades y probabilidades iguales y son todas ellas definiciones matemáticas de justicia fundamentadas en el concepto de probabilidad.

¿Os habéis dado cuenta? Hemos perdido el contexto. ¿Os habéis planteado si las preguntas que he formulado tenían sentido? ¿O si al leer la palabra porcentaje habéis dado por hecho que lo que le siguiera estaría bien? Con las matemáticas a veces pasa. Tienen ese halo de exactitud embaucadora.

Así que toca parar, pero no mucho y, sobre todo, decidir y definir qué es la justicia en el aprendizaje máquina. En mi opinión y aunque lo importante es lo que decidamos conjuntamente, las preguntas y porcentajes los tienen que plantear las personas discriminadas, las personas que sufrirán las consecuencias si no hacemos un modelo justo. Judith Shklar lo decía así: “Cualesquiera decisiones que tomemos serán, no obstante, injustas a menos que consideremos a plena luz las perspectivas de las víctimas y otorguemos a sus voces su debido peso. Hacer menos que eso sería  no sólo injusto, sino políticamente peligroso.”

Por cierto, al final mi madre sí me dejó salir de fiesta.