Després de participar en l’organització de les IV jornades Data Feminism – liderades per la Woman Data Lab de la Ciba – centrades en el debat sobre impacte social de la IA enfocat als drets de les dones des de l’equip DataWomen, a més d’aprendre i intercanviar pràctiques amb les ponents, hem volgut recopilar les principals propostes que s’han d’incorporar als projectes d’IA perquè aquests siguin respectuosos amb els drets de les dones.
L’ús creixent de la intel·ligència artificial i de dades està posant sobre la taula alguns aspectes que afecten la ciutadania com els biaixos sexistes en els algorismes i en les bases de dades que alimenten aquestes Intel·ligències Artificials.
Respecte als biaixos, un dels més destacats és el biaix sexista que discrimina les dones. Per això és vital incorporar en l’agenda de polítiques feministes la incorporació de la mirada feminista sobre les tecnologies de dades (Feminism Data Tech). Per avançar en aquesta línia és necessari abordar diferents reptes com:
- La publicació de dades obertes rellevants per abordar la discriminació de les dones i les violències masclistes.
- La publicació de forma automatitzada de dades obertes públiques amb desagregació de sexe.
- L’aplicació de la perspectiva feminista en els algorismes i projectes digitals data.
- La divulgació i democratització de l’accés a les dades.
Les jornades es van estructurar en tres espais de debat i una conferència internacional. En la primera taula, el debat es va articular sobre com els biaixos sexistes presents en la programació i en les dades d’entrenament d’algorismes de la IA poden tenir un impacte en els drets de les dones. En la segona taula sobre tecnologia de dades per als drets de les dones es va debatre sobre com incorporar les tecnologies de dades a les polítiques públiques i intervenció sobre drets de les dones, i en la tercera taula es van presentar 3 projectes feministes de tecnologies de dades creats a partir de grups i xarxes de dones amb enfocament feminista.
La conferència Internacional es va centrar en els reptes del feminisme de dades posant sobre la taula la manca de representació de dones en els grans projectes de creació i la necessitat de publicació en les bases de dades amb perspectiva feminista; de fet, aquesta va ser una de les propostes a liderar des de l’activisme feminista.
Les principals propostes recollides durant la jornada són:
- És fonamental ser conscients que totes les persones tenim biaixos d’entrada i que aquests es plasmen en els algorismes generats per evitar així biaixos sexistes en les IA.
- Cal analitzar el context, el tractament de les dades, els algorismes emprats i avaluar i monitoritzar totes les fases del procés per evitar biaixos sexistes en els projectes d’IA.
- És necessari incorporar equips multidisciplinaris i desenvolupar una metodologia concreta i efectiva per entrenar la IA i evitar els biaixos sexistes.
- Incloure validació humana en tots els passos del procés.
- Generar bases de dades amb perspectiva feminista per disposar de dades que alimentin la IA que visualitzin la presència de les dones així com contemplar possibles discriminacions.
- Cal anar més enllà de la promoció a les dones programadores en els equips de desenvolupament, s’ha d’aconseguir la presència de dones amb poder de decisió en els equips que decideixen quins projectes d’IA tirar endevant. (propòsit, estructura, prioritats).
- Supervisar les dades amb les que s’entrenen els models que fan prediccions. S’han d’evitar les bases de dades amb biaixos sexistes ja que si les bases de dades contenen biaixos, els resultats del programa els reproduiran o amplificaran.
- Hem de promoure iniciatives per millorar la qualitat des del punt de vista de la presència de les dones en les bases de dades públiques que alimenten les IA. Un clar exemple és la Wikipedia, que només conté un 1% de biografies de dones (16% a Espanya) i els editors de Wikipedia són un 87% homes.
- Els exemples d’estudis i diagnòstics d’IA mèdiques demostren la importància de mantenir variables com sexe naixement i sexe legal en les bases de dades, a més d’incorporar la perspectiva de gènere al dissenyar models de tecnologia de dades d’anàlisi de salut.
- Incorporar en les plataformes digitals que contenen persones autores o creadores la variable de sexe per assolir la igualtat en la promoció dels continguts d’homes i dones.