La Haute-commissaire à l’enfance, Sarah El Haïry, a annoncé, mercredi 29 juillet, avoir saisi la Commission européenne, la plateforme de signalement Pharos et l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom). Cette décision fait suite à la découverte que plusieurs modèles d’intelligence artificielle (IA) hébergés sur la plateforme Hugging Face pouvaient être utilisés pour générer des images de personnes dénudées. 

Selon l’ONG IA Forensics, sept des neuf modèles d’IA de retouche d’image mis en avant sur la plateforme « permettent aux utilisateurs de déshabiller des personnes à l’aide de simples prompts ».

Sarah El Haïry a affirmé que l’IA « ne peut certainement pas servir à dénuder des enfants, des femmes ou n’importe qui sans son consentement », dans un message publié sur X. 

Le Parlement européen a par ailleurs approuvé l’interdiction au sein de l’Union européenne, des services d’IA permettant de « dénuder » des personnes sans leur consentement.