Después de participar en la organización de las IV jornadas Data Feminism – lideradas por el Woman Data Lab de la Ciba – centradas en el debate sobre impacto social de la IA enfocado a los derechos de las mujeres, desde el equipo DataWomen, además de aprender e intercambiar prácticas con las ponentes, hemos querido recopilar las principales propuestas que deben incorporarse en los proyectos de IA para que estos sean respetuosos con los derechos de las mujeres.
El creciente uso de la inteligencia artificial y de datos está poniendo sobre la mesa algunos aspectos que afectan a la ciudadanía, como los sesgos sexistas en los algoritmos y en las bases de datos que alimentan estas Inteligencias Artificiales.
Respecto a los sesgos, uno de los más destacados es el sesgo sexista que discrimina a las mujeres. Por eso es vital incorporar en la agenda de políticas feministas la incorporacion de la mirada feminista sobre las tecnologias de datos (Feminism Data Tech). Para avanzar en ésta línea es necesario abordar diferentes retos como:
- La publicación de datos abiertos relevantes para abordar la discriminación de las mujeres y las violencias machistas
- La publicación de forma automatizada de datos abiertos públicos con desagregación de sexo.
- La aplicación de la perspectiva feminista en los algoritmos y proyectos digitales data.
- La divulgación y democratización del acceso a los datos.
Las jornadas se estructuraron en tres espacios de debate y una conferencia internacional. En la primera mesa el debate se articuló sobre cómo los sesgos sexistas presentes en la programación y en los datos de entrenamiento de algoritmos de la IA pueden tener un impacto en los derechos de las mujeres. En la segunda mesa, sobre tecnología de datos para los derechos de las mujeres se debatió sobre cómo incorporar las tecnologías de datos a las políticas públicas e intervención sobre derechos de las mujeres y en la tercera mesa se presentaron 3 proyectos feministas de tecnologías de datos creados a partir grupos y redes de mujeres con enfoque feminista.
La conferencia Internacional se centró en los retos del feminismo de datos, poniendo sobre la mesa la falta de representación de mujeres en los grandes proyectos de creación y la necesidad de publicación en las bases de datos con perspectiva feminista, de hecho esta fue una de las propuestas a liderar desde el activimo feminista.
Las principales propuestas recogidas durante la jornada son:
- Es fundamental ser conscientes de que todas las personas tenemos sesgos de entrada y que estos se plasman en los algoritmos generados, para evitar así sesgos sexistas en las IA.
- Hay que analizar el contexto, el tratamiento de los datos, los algoritmos empleados y evaluar y monitorizar todas las fases del proceso para evitar sesgos sexitas en los proyectos de IA.
- Es necesario incorporar equipos multidisciplinares y desarrollar una metodología concreta y efectiva para entrenar la IA y evitar los sesgos sexistas.
- Incluir validación humana en todos los pasos del proceso.
- Generar bases de datos con perspectiva feminista, para disponer de datos que alimenten la IA que visualicen la presencia de las mujeres, así como contemplen posibles discriminaciones.
- Hay que ir más allá de la promoción a las mujeres programadoras en los equipos de desarrollo, se debe conseguir la presencia de mujeres con poder de decisión en los equipos que escogen qué proyectos desarrollar (propósito, estructura, prioridades).
- Supervisar los datos con los que se entrenan los modelos que hacen predicciones. Se deben evitar las bases de datos con sesgos sexistas, ya que si las bases de datos contienen sesgos, los resultados del programa los reproducirá o amplificará.
- Debemos promover iniciativas para mejorar la calidad desde el punto de vista de la presencia de las mujeres en las bases de datos públicas que alimentan las IA. Un claro ejemplo es la Wikipedia, que solo contiene un 1% de biografías de mujeres (16% en España) mientras que los editores de la Wikipedia son un 87% hombres.
- Los ejemplos de estudios y diagnosticos de IA médicas, demuestran la importancia de mantener variables como: sexo nacimiento y sexo legal en las bases de datos, además de incoporar la pérspectiva de género al diseñar modelos de tecnología de datos de análisis de salud.
- Incorporar en las plataformas digitales que contienen personas autoras o creadoras la variable de sexo para lograr la igualdad en la promoción de los contenidos de hombre y mujeres.