Justicia social en la era de los datos, ¡reto aceptado!

Hay algunas personas que opinan que no se puede hablar de justicia respecto a un modelo de Machine Learning. Un modelo no deja de ser un algoritmo matemático al cual le das unos datos de entrada, hace con ellos una serie de operaciones y produce una salida. Entonces, ¿Cómo eso va a ser justo o injusto? Otras personas, incluso, niegan que los datos puedan estar sesgados. Por ejemplo, si haces una investigación sobre personas científicas y tu muestra tiene más hombres que mujeres, te dirán que la muestra no está sesgada ya que reflejan la realidad histórica en la que ha habido más hombres que mujeres en ese ámbito.

Martín-Baró es un psicólogo social del cual hablo mucho porque comparto en gran medida su línea de pensamiento respecto al papel de la psicología social en la sociedad. Una de las cosas que decía es que la realidad es contextual e histórica, que ha que entenderla como la realidad existente, es decir, la realidad en la que estamos por los acontecimientos históricos que la han propiciado, pero que podría ser otra en condiciones diferentes. De esta manera cuando decimos que el modelo representa la realidad o que los datos recogen la realidad es lo mismo que cuando, en una conversación coloquial, decimos "las cosas son como son" o "es lo que hay". La consecuencia de esto es que le damos a la realidad un carácter de natural y la perpetuamos al hacerlo.

Siguiendo con esta idea, para mí si podemos juzgar que un modelo está sesgado o es injusto porque lo miro desde las consecuencias vitales que producen sobre las personas o la sociedad en su conjunto. Lo importante no es cómo son las cosas, sino cómo deberían ser.

Os dejo el vídeo del webinar que hice la plataforma de SPAIN AI hablando de Justicia Social y Machine Learnning.

Para quién se lo esté preguntando, la directora de arte del vídeo fue Rocío Parrón quién hizo un trabajo increíble consiguiendo reflejar de forma gráfica exactamente lo que quería transmitir en palabras.