Hoe maak je FemTech verantwoord?

De opkomst van FemTech en AI

Wereldwijd maken meer dan 50 miljoen vrouwen gebruik van menstruatie- of vruchtbaarheidstrackingapps. Vaak gebaseerd op algoritmes, beloven ze gepersonaliseerd inzicht in je cyclus en gezondheid. “Maar het blijft een algoritme, gebaseerd op gemiddelden, patronen en/of waarschijnlijkheden,” zegt Tamara Thuis, universitair docent bij het KIN Center for Digital Innovation. “Wat gebeurt er als jouw menstruatie en de ervaringen daarbij afwijken van die ‘algoritmische’ standaard? Of als je situatie verandert?”

De belofte van nauwkeurige voorspellingen klinkt aantrekkelijk. Maar veel apps gebruiken AI als marketingtool, zonder transparant te zijn over waar en hoe het precies wordt toegepast. “Zodra je meer data invoert, beloven ze nog betere resultaten,” vult postdoctoraal onderzoeker Maria Carmen Punzi aan. “Maar die data zijn intiem, gevoelig en niet altijd goed beschermd.”

Niet alleen de techniek telt

Het onderzoek van Thuis en Punzi richt zich niet op de techniek alleen, maar juist op de organisaties achter de technologie. Wat vertellen zij over het algoritme? Welke keuzes maken ze in ontwerp en data-opslag? “Het gaat niet alleen om hoe goed een algoritme presteert, maar ook om het verhaal eromheen,” zegt Thuis. “Hoe worden AI gedreven functionaliteiten gepresenteerd? Als iets dat jou kan vertellen wat je gaat ervaren? Of als iets dat je helpt zelf te begrijpen wat er in je lichaam gebeurt?”

De risico’s gaan verder dan privacy. Sommige apps geven pushmeldingen bij ‘afwijkingen’, gebruiken woorden als ‘abnormaal’ en ‘regulier’, en baseren hun standaard op een beperkt profiel van een gezonde, witte, heteroseksuele vrouw. Punzi: “Gebruikers die daarvan afwijken qua achtergrond, levensstijl of gezondheid worden niet goed meegenomen. Dat kan verwarring of zelfs angst veroorzaken.”

Samenwerken met de praktijk

Binnen het project werken de onderzoekers samen met verschillende partners, waaronder Yoni.care, het Feminist Generative AI Lab van de TU Delft en Erasmus Universiteit, en 28X, een partij die zelf werkt aan een menstruatieapp met ethische waarden als uitgangspunt. Thuis: “We volgen hun ontwikkelproces nauwgezet. Wat betekent het concreet als je zegt: wij willen het verantwoord doen?”

Die praktijkkennis koppelen ze aan analyse van bestaande apps en hun publieke communicatie, van websites tot appstores. “Op basis van die inzichten werken we onder andere toe naar twee tools: aan de ene kant richtlijnen en handvaten voor organisaties in ontwerpkeuzes en dilemma’s rond AI in FemTech, en aan de andere kant een beslisschema voor gebruikers bij het kiezen en gebruiken van een app. Welke ethische aspecten moet je rekening mee houden als organisatie? En als gebruiker: wat is belangrijk voor jou? Waar moet je dan op letten?”

Steun van het SIDN fonds

Het SIDN fonds ondersteunt dit project binnen de call Responsible AI in de praktijk. Dankzij de subsidie kunnen de onderzoekers hun reguliere werk combineren met diepgaand onderzoek naar de maatschappelijke impact van AI. “Het fonds maakt het mogelijk dat we hier tijd en aandacht aan kunnen geven,” aldus Thuis. “Het onderwerp ligt precies op het snijvlak van technologie, gezondheid en maatschappelijke waarden. En dat past goed bij waar het SIDN fonds voor staat.”

Mieke van Heesewijk, programmanager bij SIDN fonds: ‘Bij SIDN fonds vinden we het belangrijk dat technologie niet alleen innovatief, maar ook verantwoord is. FemTech raakt aan zeer persoonlijke en gevoelige data, en juist daarom moeten AI-toepassingen transparant, eerlijk en veilig zijn. Met dit onderzoek dragen we bij aan richtlijnen en bewustwording, zodat zowel ontwikkelaars als gebruikers kunnen vertrouwen op technologie die hun gezondheid ondersteunt zonder hun rechten en waarden uit het oog te verliezen.’

Brede impact, ook buiten de bubbel

Het project sluit naadloos aan bij de doelstelling van het SIDN fonds om te werken aan een sterker, veiliger internet. “Onze inzichten moeten niet alleen in academische papers belanden,” zegt Thuis. “We willen dat ze terechtkomen bij ontwikkelaars, organisaties maar ook bij vrouwen zelf. Niet om te zeggen welke app goed of fout is, maar om bewustwording te vergroten.”

En dat bewustzijn is hard nodig. Hoewel menstruatie en vruchtbaarheid vaak nog als taboe worden gezien, is er een miljardenindustrie ontstaan rond FemTech. “Vaak wordt gedacht: dit is een vrouwenonderwerp,” zegt Punzi. “Maar deze technologie raakt ons allemaal. Partners, investeerders, ontwikkelaars, er zijn veel mannelijke actoren actief in deze sector. En die dragen ook verantwoordelijkheid.”