Faire un don
Finaliser mon don

Rapport alarmant sur l’IA générative et la pédocriminalité

par | 29 octobre 2024 | Actualités

Rapport alarmant sur l’IA générative et la pédocriminalité

Dans un contexte où les avancées technologiques transforment notre quotidien, la Fondation pour l’Enfance publie aujourd’hui un rapport préoccupant sur l’utilisation croissante de l’intelligence artificielle (IA) générative par les pédocriminels. Ce document met en lumière les dangers insidieux que représente cette technologie, désormais utilisée comme une arme redoutable contre les enfants.

Selon les données de l’Office Mineurs (OFMIN) de la Direction Nationale de la Police Judiciaire (DNPJ), 40 % des affaires impliquant des contenus pédopornographiques ont conduit à des actes sur des mineurs. L’IA générative, capable de créer des contenus toujours plus extrêmes et violents, soulève des inquiétudes quant à une possible augmentation des comportements addictifs chez les consommateurs, augmentant ainsi le risque de passage à l’acte.

Le rapport identifie trois enjeux majeurs pour protéger les mineurs de la cyberpédocriminalité générée par l’IA :

1 – Identifier et protéger les enfants victimes,
2 – Engager une réponse juridique et politique solide et coordonnée,
3 – Lutter contre l’intensification et la banalisation des violences sexuelles.

La Fondation pour l’Enfance appelle à une mobilisation collective face à cette menace émergente et formule 14 recommandations visant à détecter et sanctionner les contenus pédocriminels générés par l’IA, ainsi qu’à prévenir l’exploitation sexuelle en ligne des enfants.

Pour en savoir plus sur ces recommandations et participer à cette lutte essentielle, nous vous invitons à lire notre rapport ou sa synthèse. Rejoignez-nous dans notre engagement pour la protection des enfants !

Lire la synthèse du rapport • Lire le rapport entier

“La lutte contre la pédocriminalité en ligne, notamment générée par l’IA, est un défi social et sociétal, et nous avons tous une responsabilité.”

Joëlle SICAMOIS, Directrice de la Fondation pour l’Enfance

“La difficulté est que l’IA générative est en perpétuel mouvement. Chaque jour ou presque apporte son lot de nouvelles évolutions dans les capacités des modèles d’IA, dans les pratiques des utilisateurs, et donc de nouvelles problématiques et de nouveaux enjeux.”

Angèle LEFRANC, Chargée de plaidoyer de la Fondation pour l’Enfance

Fondation pour l'Enfance

La Fondation pour l’Enfance est née en 2012 de la fusion de deux fondations : la Fondation pour l’Enfance créée par Anne-Aymone Giscard d’Estaing en 1977, et la Fondation Protection de l’Enfance. Les missions de la « nouvelle » Fondation pour l’Enfance ont été redéfinies en 2012, et sont : la lutte contre les violences faites aux enfants, le développement du parrainage de proximité et la sensibilisation autour des usages du numérique chez les enfants, et en particulier chez les tout-petits.