Modelos y algoritmos, casi todos hemos escuchado estas palabras al menos una vez. A muchos incluso les pueden causar molestia o un poco de temor debido, sobre todo, a esa tonta aversión a las matemáticas que nos infunden desde pequeños. Sin embargo, la vida cotidiana cada vez está más supeditada a la influencia de los modelos y de sus “tripas”, los algoritmos.
Diariamente, estamos expuestos a un sinnúmero de mediciones, pero en estos días de pandemia Covid-19, estamos inmersos en un mar de referencias a datos y pronósticos que se nos dice provienen de “modelos” (en este caso, uno de ellos es el llamado Modelo Centinela en el que se apoya la Secretaría de Salud para reportar números de posibles contagios).
Pero, vamos desde el principio: ¿qué es un modelo? Podemos definir un modelo como una representación de un proceso o situación, al que podemos manipular (considerando que lo que se va a representar no puede o no debe ser manipulado).
Y, ¿qué es un algoritmo que como dijimos, forma la base de cualquier modelo? Un algoritmo es un conjunto de instrucciones o reglas bien definidas y ordenadas que permite llevar a cabo un proceso, mediante pasos sucesivos que no generen dudas a quien quiera emplear el modelo correspondiente. Se piensa que es una derivación del nombre del matemático persa Al-Juarismi (~780-850 DC), que fue de los primeros en usarlos. En palabras más llanas, podemos pensar en los algoritmos como recetas matemáticas (y su derivación a recetas numéricas y de computación).
Pero, ¿por qué dijimos que los algoritmos están ahora detrás de nuestras vidas cotidianas? Resulta que los algoritmos se usan cada vez con más frecuencia para determinar diferentes cosas, como en el caso que referimos, en donde el algoritmo consiste en recolectar, unificar y corroborar información epidemiológica para su análisis y, así, generar información estadística mediante un grupo reducido de unidades de monitoreo denominadas sitios centinela.
Por otro lado, los algoritmos también pueden ser usados para determinar el tipo de personas que realizan alguna actividad de interés para otras personas. Esto puede ser con fines políticos, económicos, comerciales o sociales. Claro que el uso de los algoritmos en la ciencia ha sido cosa común desde hace ya mucho tiempo, pero no es este el tema de la nota.
En particular, el concepto tan en boga de «Aprendizaje Automático» o «Machine Learning», descansa en el uso de algoritmos para predecir el comportamiento o patrón detrás de un juego de datos (información colectada previamente). Sin embargo, estos algoritmos han sido desarrollados por una o varias personas, lo que introduce un sesgo personal (o de grupo) en su estructura, que es difícil (que no imposible) evitar. Lo anterior también nos lleva a poner en tela de juicio las decisiones que basemos en las recomendaciones de encuestas, redes sociales, comerciales, o artículos periodísticos, los cuales pueden entrar dentro este mismo sesgo. Es decir, existe lo que podríamos denominar: la justicia de los algoritmos.
Esta idea ha alcanzado extremos insospechados, pues incluos existe un grupo llamado la «Liga de la Justicia Algortímica» (Algortihmic Justice League), fundado por una graduada de matemáticas del Instituto de Tecnología de Massachusetts (MIT), Joy Buolamwini, quien se autodenomina “poetiza de la codificación”, el cual incluye a activistas, programadores, artistas, académicos, compañías, ciudadanos de a pie, políticos, y administradores. Este grupo se dedica a luchar contra la discriminación social ocasionada por la práctica y empleo indiscriminado de los algoritmos.
Podemos concluir esta nota con otra reflexión sobre el hecho de que los modelos, y los algoritmos en los que se basan, solamente son tan “buenos” y nos dan resultados útiles, como buenos sean los datos que entran en sus cálculos y resultados. Asimismo, todo modelo tiene un grado de incertidumbre que debe ser reportado y tomado en cuenta antes de basarnos en sus resultados para cualquier toma de decisiones. O recordando las palabras del estadístico George Box: “Todos los modelos son inexactos, pero algunos son útiles”.
