L’IA générative s’engage pour la protection de l’enfance

 

L’IA générative s’engage pour la protection de l’enfance

Dans un élan de responsabilité collective, des leaders mondiaux du secteur de l’intelligence artificielle viennent de engager à intégrer les principes de « Sécurité dès la Conception » (Safety by Design) dans leurs technologies. Des entreprises de renom telles qu’Amazon, Google, Meta, Microsoft et OpenAI, en collaboration avec Thorn et All Tech Is Human, s’unissent pour contrecarrer les abus sexuels envers les enfants facilités par l’IA générative.

Cet engagement intervient dans un contexte alarmant : plus de 104 millions de fichiers suspects de matériel d’abus sexuel sur enfants (AIG-CSAM) ont été signalés rien qu’aux États-Unis en 2023. L’IA générative, permettant la création rapide et à grande échelle de tel contenu, pose un risque croissant non seulement pour la victimisation des enfants mais aussi pour les efforts de détection des victimes par les forces de l’ordre.

Les principes adoptés abordent chaque étape du cycle de vie de l’IA, de la conception au déploiement, en insistant sur la prévention plutôt que sur la correction post-dommage. Ces mesures incluent des contrôles stricts sur les jeux de données de formation, des tests de stress réguliers pour identifier les failles potentielles, et des solutions de provenance de contenu pour discerner le matériel généré par IA.

Le document « Safety by Design for Generative AI: Preventing Child Sexual Abuse » propose des stratégies concrètes et des mesures correctives adaptées aux divers acteurs de l’écosystème IA, qu’ils opèrent dans un cadre open source ou non, soulignant l’importance d’une approche proactive dans la conception des produits.

Cette initiative est une avancée significative vers un internet plus sûr pour les enfants et renforce l’importance de l’éthique dans l’innovation en IA. En ces temps où l’IA générative remodelle notre environnement numérique, l’engagement de ces géants technologiques pourrait bien définir les normes de sécurité pour l’avenir.

En adoptant ces principes, les entreprises de technologie montrent leur capacité à anticiper et à atténuer les risques avant qu’ils ne surviennent. L’appel est désormais lancé à toutes les entreprises du secteur pour qu’elles emboîtent le pas et renforcent leurs engagements envers la sécurité des enfants. La collaboration et la transparence dans le partage des progrès seront cruciales pour réussir à éradiquer les abus et à garantir que les innovations de l’IA générative contribuent positivement à notre société.

Source. : https://www.thorn.org/blog/generative-ai-principles/

REF.: https://moncarnet.blog/2024/04/25/lia-generative-sengage-pour-la-protection-de-lenfance/?fbclid=IwZXh0bgNhZW0CMTAAAR0TURj5ttr4qwfV3i9vPx6O3BuurffXDnjNtHe8oOtZbM9cc_zpu1mnPAI_aem_AYL4TUsUwavvu2LT7xKh6Ob3rqn0vWbJYsHwVp8-rN1QTbuHC7nJi0EA8bYdHmk1cfMdR_TPTJQwxRCWhWAiYu8x