Nieuw onderzoek: Meisjes wereldwijd worden te weinig beschermd tegen AI-risico’s

Wereldwijd maken jongeren gebruik van kunstmatige intelligentie (AI). Het is een hulpmiddel bij het studeren, ze vragen er om carrièreadvies en praten soms zelfs met chatbots voor emotionele steun. Maar hoewel meisjes en jongens evenveel gebruikmaken van AI, behandelen de systemen hen niet hetzelfde. Uit nieuw internationaal onderzoek van Plan International,‘Same question, different answers: the gendered impact of AI on young people’, blijkt dat AI-systemen bestaande ongelijkheid kan vergroten. Jongeren worden hier niet voldoende tegen beschermd.

In het onderzoek wordt een enquête gehouden onder jongeren uit vier verschillende continenten, een analyse van een representatieve dataset onder 3.513 Spaanse jongeren, tests met ChatGPT en een juridische vergelijking van wet- en regelgeving in de Europese Unie, Nederland, Frankrijk, Duitsland, Spanje, het Verenigd Koninkrijk, de Verenigde Staten en Kenia.

Grotere risico’s voor meisjes

De belangrijkste conclusie: Meisjes en jongens gebruiken AI ongeveer even vaak, maar gelijke toegang betekent niet automatisch gelijke behandeling, gelijke voordelen of gelijke bescherming. Volgens het onderzoek creëert AI zelf geen genderongelijkheid, maar kan het bestaande ongelijkheden wel versterken. Dit vraagt om betere regelgeving en maatregelen van overheden, technologiebedrijven en onderwijsinstellingen.

Jongeren gebruiken AI inmiddels massaal. Meer dan acht op de tien jongeren hebben ervaring met AI-tools en zetten het vooral in voor schoolwerk, informatievoorziening, carrièreoriëntatie, sociale interactie en emotionele ondersteuning. 59 procent van de meisjes en 56 procent van de jongens geeft aan AI weleens voor emotionele steun te gebruiken. Maar ze geven ook aan dat ze daarbij regelmatig ongepast, onveilig of bevooroordeeld advies krijgen.

Meisjes ervaren vaker negatieve gevolgen dan jongens. Zij voelen zich minder veilig, maken zich meer zorgen over AI-risico’s en rapporteren vaker problemen rond lichaamsbeeld en uiterlijk. Ook geven meisjes vaker aan dat AI-gegenereerde beelden en opmerkingen een negatief effect hebben op hoe zij naar zichzelf kijken. Ook worden ze vaker slachtoffer van seksuele AI-deepfakes.

Volgens het onderzoek creëert AI-genderongelijkheid niet zelf, maar kan het bestaande ongelijkheden wel versterken via de informatie, adviezen en kansen die systemen aanbieden.

“We mogen niet verwachten dat jongeren zelf kunnen beoordelen wat veilig, eerlijk of betrouwbaar is. AI-systemen zijn geen psychologen, juristen of experts. De verantwoordelijkheid om jongeren te beschermen ligt bij overheden en technologiebedrijven. En op dit moment lopen de regels achter op de werkelijkheid”, zegt Joyce Brummelman, International Advocacy Advisor bij Plan International.

Bescherming schiet tekort

Uit de juridische analyse blijkt dat de onderzochte wet- en regelgeving adolescenten, en met name meisjes, onvoldoende beschermen. De meeste wettelijke kaders zijn genderneutraal, bevatten geen genderspecifieke risicoanalyses en besteden weinig aandacht aan intersectionaliteit: de manier waarop factoren als leeftijd, gender, etniciteit en beperking elkaar kunnen versterken.

Ook de meest urgente risico’s voor meisjes vallen volgens het onderzoek vaak tussen bestaande wettelijke kaders. Het rapport noemt onder meer seksuele deepfakes, AI-gedreven schade aan het lichaamsbeeld en afhankelijkheid van AI-chatbots voor emotionele steun. Deze risico’s worden volgens de onderzoekers onvoldoende afgedekt door bestaande AI-wetgeving of algemene regelgeving.

“Juist de jongeren die bescherming het hardst nodig hebben, kunnen die bescherming niet altijd zelf afdwingen. AI-systemen zijn niet ontwikkeld met de belangen van meisjes als uitgangspunt, terwijl zij wel een onevenredig deel van de risico’s dragen. Voor adolescente meisjes is bescherming nog indirect en er zijn weinig afdwingbare maatregelen die specifiek rekening houden met gender en intersectionaliteit”, laat Brummelman weten.

Oproep tot meer regelgeving

Plan International roept overheden, onderwijsinstellingen en technologiebedrijven op om AI-beleid beter af te stemmen op de rechten en veiligheid van kinderen en jongeren, met speciale aandacht voor de risico’s waar tienermeisjes en andere achtergestelde groepen mee te maken krijgen. Want jongeren verdienen het om altijd en overal veilig te zijn. Ook online.
Lees de samenvatting van het rapport (Engelstalig)