El racismo es un tema de actualidad en los confines digitales, ya que las agresiones y violaciones contra la comunidad negra en Estados Unidos ha desencadenado no sólo que las redes sociales se tornen en cajas de resonancia de los atropellos y violaciones que ha sufrido dicha comunidad, sino que también ha generado grandes movilizaciones sociales en estos días en Estados Unidos.
Pero el racismo va mucho más allá de lo que se refleja y reproduce en las redes sociales. Durante mucho tiempo ha estado presente la discusión de si la tecnología es o no neutral, si la programación de algoritmos o aplicaciones arrastran aspectos raciales o ideológicos.
Sin embargo, como dice la investigadora Ruha Benjamin (Race after technology, 2019), la tecnología también es una forma de dominación, una ideología y un compendio de reproducción del establishment y de posiciones ideológicas decimonónicas. La tecnología, para Ruha, no depende de forma exclusiva de las orientaciones que le dan los usuarios, sino que también su confección reproduce diversas concepciones que traen en la mente de quienes las hacen.
La autora aborda cómo diversas investigaciones han dado cuenta de este tipo de situaciones. Refiere, a modo de ejemplo, que las aplicaciones de bases de datos que extraen información y que sirven para obtener perfiles de potenciales empleados discrimina a los de piel oscura, lo mismo se refleja cuando se buscan datos de criminales, los negros siempre aparecen en los primeros sitios, pero en general las búsquedas en los motores, en su opinión, potencian la reproducción de estereotipos raciales.
Las nuevas tecnologías codifican, reflejan y reproducen las desigualdades existentes, al mismo tiempo que se promueven como más objetivas o progresistas que los viejos sistemas discriminatorios. Para ella, los sesgos están presentes de forma recurrente, porque quienes los confeccionan no se preocupan por las derivas o problemas que puedan generar sus programas o herramientas.
El problema, dice Ruha Benjamin, es que los programadores plasman y/o codifican sus mismos imaginarios culturales en los sistemas técnicos, y cuando se presentan situaciones que llevan a cuestionar sus creaciones, ellos afirman que eso no tiene nada que ver con lo programado, que son completamente externos al proceso que ellos han establecido.
La autora refiere que esto al final es resultado de que predominantemente la industria de la programación de software, de aplicaciones es resultado de la composición de los mismos, que son blancos, con ingresos buenos, que no tienen en su horizonte las preocupaciones raciales y los derechos humanos, pero lo que gran parte de quienes confeccionan software soslayan es que elaborar un programa no es sólo una decisión tecnológica sino también política.
Los algoritmos, pues, están impregnados o influidos de la cultura del entorno en que se gestan, por quienes los desarrollan, por la manera en que se seleccionan los datos usados en las pruebas y las poblaciones de usuarios a las cuales se dirigen.
Ruha concluye que el reto en los tiempos que corren no está en hacer a un lado las nuevas tecnologías, en desterrarlas, sino en reescribir los códigos culturales en lugar de centrarse sólo en sustituir los códigos por unos nuevos. En todo caso, el gran reto está en las relaciones, en transformar los valores que alientan a la misma. Se trata de pensar en que la tecnología es también terreno para la equidad, que no es la eficiencia la única que guía el accionar de dichas herramientas, se trata de no poner por delante el imperativo mercantil y pensar más en el bien colectivo que piden producir pero con equidad. Lo cual implica que esto es algo que va para largo, seguramente.
