Het Centrum Wiskunde & Informatica (CWI) heeft een methode ontwikkeld om gevoelige gegevens nauwkeuriger te filteren uit het Humanitarian Data Exchange (HDX), het openbare dataplatform van de Verenigde Naties (VN). Daarmee wil de VN voorkomen dat informatie bedoeld voor humanitaire hulpverlening in verkeerde handen terechtkomt.
Het HDX-platform bevat bijna twintigduizend datasets uit 254 crisisgebieden wereldwijd. Lokale overheden en organisaties delen er data over onder meer conflicten, natuurrampen, gebouwen en personen. Volgens CWI-onderzoeker Madelon Hulsebos realiseren organisaties zich vaak niet dat ogenschijnlijk neutrale informatie misbruikt kan worden. ‘Denk aan de coördinaten van ziekenhuizen in oorlogsgebieden. Zulke gegevens kunnen levensgevaarlijk zijn als ze openbaar beschikbaar blijven’, aldus Hulsebos.
Samen met ai-masterstudent Liang Telkamp ontwikkelde zij twee ai-mechanismen die datasets automatisch op gevoeligheid beoordelen. Een uitgangspunt daarbij is het concept ‘contextueel gevoelige data’: informatie die afhankelijk van tijd, plaats en omstandigheden wel of niet risico’s met zich meebrengt. Zo zijn ziekenhuislocaties in Nederland weinig kritisch, maar in Gaza potentieel levensbedreigend.
Voor een van de mechanismen gebruikten de onderzoekers VN-richtlijnen over welke gegevens gepubliceerd mogen worden. Door deze regels te koppelen aan datasets en te laten analyseren door taalmodellen zoals GPT-4 en opensource-modellen, verbeterde de nauwkeurigheid aanzienlijk. Waar Googles bestaande tool 63 procent van de gevoelige persoonsgegevens detecteerde, bereikte het CWI-systeem 94 procent, met bovendien minder vals-positieve meldingen.
Barcelona
De VN heeft nu besloten de CWI-mechanismen te integreren in het HDX-platform. In oktober presenteert Hulsebos de resultaten tijdens een VN-bijeenkomst in Barcelona. Volgens haar is de technologie ook breder inzetbaar, bijvoorbeeld bij cloudplatforms of publieke dataportals waar bedrijfs- en overheidsdata worden gedeeld.
computable
18-09-2025 07:00