Una vez más volvimos a las aulas de la Universidad Nacional Autónoma de México (UNAM). Mailén García, nuestra Directora General, participó por tercer año consecutivo como docente invitada en el Diplomado “Introducción a la Ciencia de Datos: Herramientas para el aprendizaje automatizado en las Ciencias Sociales y Humanidades”. Allí estuvo al frente de dos encuentros -que tuvieron lugar el 21 de marzo y el 20 de junio- donde abordó temas de sesgos, gobernanza y el impacto social de la tecnología.

Primer eje: ¿qué es el feminismo de datos?

La clase comenzó con una instancia teórica orientada a conceptualizar el feminismo de datos y a explicar por qué es un problema que los procesos de trabajo con datos se piensen sin perspectiva de género. Inspiradas en el Feminismo de Datos, compartimos la idea de que detrás de cada recolección de información hay decisiones de poder: quienes financian y diseñan la tecnología son quienes deciden a quiénes visibilizar y a quiénes dejar fuera del sistema. En esta línea, se debatió también el mito de la neutralidad de los datos.

Segundo eje: de la teoría a la práctica

En una segundo momento, Mailén retomó los conceptos teóricos y los vinculó con distintos proyectos de DataGénero, mostrando aplicaciones concretas de esos principios. La propuesta fue que quienes asistieron a la clase pudieran pensar las formas de generar o producir datos a partir de una inteligencia artificial que pone información a disposición, como es el caso de AymurAI.

Entre los ejemplos trabajados, se presentó el proyecto Silencios Digitales, que documenta la expresión digital de la violencia contra el colectivo LGBTQI+. Mailén expuso cómo la violencia digital genera fenómenos de autocensura en mujeres y personas LGBTI+, que muchas veces optan por privatizar sus cuentas o dejar de publicar contenido político por miedo a represalias.

También se abordó el caso de AymurAI, nuestro software de código abierto aplicado a la justicia abierta. Mailén explicó cómo esta herramienta permite leer, procesar y anonimizar sentencias judiciales, especialmente en casos de violencia de género, para democratizar el acceso a la información protegiendo la identidad de las personas involucradas.

Tercer eje: riesgos y gobernanza de datos

La última parte de la clase estuvo dedicada a analizar errores frecuentes en la creación, implementación y uso de la inteligencia artificial, y los riesgos de desarrollar productos con bases de datos problemáticas. Mailén ilustró, a través de ejemplos, cómo las malas decisiones en gobernanza de datos derivan en sistemas de IA problemáticos.

Desde Datagénero consideramos fundamental que la formación de profesionales en datos reflexione sobre la necesidad de una gobernanza robusta, sobre todo frente a servicios públicos que operan con bases de datos con errores y sin auditorías previas. En este marco, se discutió también el riesgo del “solucionismo tecnológico”: la falsa promesa de que la IA resolverá por sí sola los problemas sociales. La clase cerró con una serie de recomendaciones de lectura sugeridas por Mailén.

***

Además de esta colaboración con la UNAM, desde Datagénero dictamos  un seminario en la UBA y tamibén participamos de distintas formaciones en otras universidades. Creemos que formar buenas y buenos profesionales en materia de datos aporta a la construcción de un mundo más equitativo, ya que la forma en que nombramos y entendemos los fenómenos actuales es clave para transformarlos y dejar de reproducir sus aspectos negativos.