Transcripción automática, sin corregir a mano. Puede tener errores.

La recogida y la interpretación de datos no son neutrales, los algoritmos tampoco. Detrás de su programación están personas como la mexicana Paola Villarreal, que lucha contra el sesgo racial dentro de la tecnología. Obviamente los datos no son perfectos, los algoritmos no son perfectos, la tecnología no es perfecta, y tampoco los políticos ni los tecnólogos somos perfectos. Paola Villarreal comenzó a programar a los 12 años y descubrió de adolescente su fascinación por los datos. Afirma que los algoritmos toman muchas decisiones que sesgan la información y aumentan la discriminación. Uno de los casos más sonados fue cuando hace unos años una pareja de afroamericanos fue etiquetada como gorilas por Google. También es altamente problemático que un algoritmo pueda decidir si una persona es la adecuada para un puesto de trabajo, o si es probable que cometa un delito. Pienso que uno de los principales retos es la eliminación o la medición al menos de los sesgos, de todo tipo de sesgos raciales, socioeconómicos, etc. en nuestros análisis. Entonces pienso que una de las causas principales es educar a los científicos de datos también en cuestiones sociales, en concientizarlos de que sus algoritmos, de que sus análisis tocan la vida de las personas. La discriminación socioeconómica, de género o racial es frecuente en los sistemas automatizados y puede tener consecuencias dramáticas. Villarreal pudo comprobarlo cuando en 2015 colaboró con la Unión Estadounidense por las Libertades Civiles. Gracias al proyecto Data for Justice, lograron revertir unas 20.000 condenas que mostraban un sesgo racista. Estos datos estaban en formatos abiertos, entonces pude acceder a ellos y comencé a visualizarlos y analizarlos. Los combiné con otras bases de datos, por ejemplo, el censo de Estados Unidos. Y muy, muy pronto empezaron a salir hechos interesantes. Por ejemplo, el hecho de que en Boston existe todavía la segregación racial de forma sistemática. Hay anillos de gente blanca que rodean gente de color, especialmente gente negra y gente latina. Y obviamente si vas a esos barrios, pues son barrios empobrecidos, con muchas carencias, con una presencia desproporcionada de policías. Sesgos y prejuicios de este tipo se potencian exponencialmente en la red, con lo que limitan la variedad de la información y tergiversan la realidad. Necesitamos muchas más científicas de datos como Villarreal para crear programas y algoritmos diversos y justos. CC por Antarctica Films Argentina