Photo: VCG
Le principal régulateur chinois du cyberespace a publié de nouvelles règles pour réglementer l’application de la technologie et des services « deepfake » qui modifient les données faciales et vocales avec un apprentissage en profondeur ou la réalité virtuelle dans le but de réduire les risques qui pourraient découler des activités fournies par les plateformes connexes.
La technologie Deepfake, également connue sous le nom de « synthèse profonde des services d’information sur Internet », utilise une forme d’intelligence artificielle appelée apprentissage en profondeur pour créer des images de faux événements. Les vidéos et les audios peuvent être deepfakes.
Cette décision visait à réduire les risques pouvant découler des activités fournies par les plateformes, à promouvoir un développement sain de l’industrie, ainsi qu’à améliorer la capacité de réglementation, a déclaré l’Administration du cyberespace de Chine (CAC), qui a publié conjointement les dispositions à promulguer. le 10 janvier 2023, en compagnie du ministère de l’Industrie et des Technologies de l’information et du ministère de la Sécurité publique dimanche soir.
Selon le régulateur, avec son développement rapide, la technologie deepfake a été utilisée par du personnel peu scrupuleux pour diffuser des informations illégales et indésirables afin de porter atteinte à la réputation ou à l’honneur des personnes et de commettre des fraudes ces dernières années, ce qui a affecté l’ordre des communications et l’ordre social, altéré les droits et intérêts légitimes du public et nuisent à la sécurité nationale et à la stabilité sociale.
Une dernière affaire devant le tribunal de l’Internet de Hangzhou a montré qu’un développeur d’applications mobiles a profité de la technologie deepfake pour violer les droits de portrait de la victime après avoir illégalement utilisé les vidéos de la victime comme modèles pour fournir des vidéos générées par l’IA afin de réaliser des bénéfices, selon le Beijing Youth Daily.
Les costumes d’époque de la victime dans les vidéos qu’elle avait mises en ligne ont été utilisés par les utilisateurs de l’application pour créer de nouvelles vidéos avec leurs propres photos en payant 68 yuans (9,78 $) à 198 yuans au fournisseur de services.
Le promoteur a finalement été condamné par le tribunal à présenter des excuses et à indemniser la victime d’un total de 5 000 yuans.
Avec le développement rapide de la technologie de synthèse profonde et la prolifération de son application dans des scénarios réels, certains membres du personnel peu scrupuleux utilisent illégalement l’audio, la vidéo et d’autres technologies de synthèse et posent des problèmes aux informations sensibles privées telles que les visages, les empreintes vocales et les empreintes digitales.
Une autre victime surnommée Chen de Wenzhou dans la province du Zhejiang (est de la Chine) a été escroquée de près de 50 000 yuans par des criminels qui ont utilisé le visage généré par l’IA généré avec l’image de l’ami de Chen, selon un rapport de Xinhua en avril.
Des cas similaires ont été signalés dans plusieurs provinces, notamment les provinces du Zhejiang et du Jiangsu, dans l’est de la Chine, et les provinces du Henan, dans le centre de la Chine, ces dernières années. Les hors-la-loi sans scrupules ont obtenu des photos d’autres personnes ou acheté illégalement la voix d’autres personnes pour synthétiser de faux audios et vidéos ressemblant à de vraies personnes afin de commettre une fraude, de porter atteinte à la sécurité personnelle et des biens d’autrui ou de vendre, distribuer de manière malveillante des vidéos indécentes générées par l’IA. porter atteinte à la réputation ou à l’honneur d’autrui.
Par rapport aux technologies de synthèse du passé, la technologie deepfake est si avancée que les visages et les voix générés par l’IA peuvent ressembler et sonner identiques aux vrais, ce qui peut être plus facilement exploité par un personnel peu scrupuleux, Pan Zhigeng, doyen de l’école of Artificial Intelligence (School of Future Technology), a déclaré lundi au Chine Direct.
Le déploiement des dispositions devrait restreindre les actes illégaux, enquêter sur la responsabilité légale des personnes tenues pour responsables et servir d’avertissement contre les crimes, a déclaré Pan.
Les dispositions mettent l’accent sur l’interdiction d’utiliser la technologie deepfake pour se livrer à des activités interdites par les lois et les règlements administratifs.
Les dispositions obligent les fournisseurs de services deepfake à renforcer leur gestion de contenu et à établir et améliorer des mécanismes pour réfuter les rumeurs et pour faire appel, se plaindre et signaler les rumeurs.
Les dispositions obligent également les fournisseurs de services deepfake à renforcer leur gestion de la sécurité des données pour empêcher que les informations personnelles ne soient traitées illégalement et à examiner, évaluer et vérifier régulièrement le mécanisme de l’algorithme.
En outre, les fournisseurs de services ajouteront des identifiants au contenu généré ou édité en utilisant leurs services pour éviter au public toute confusion ou erreur d’identification. Aucune organisation et personne ne doit utiliser des moyens techniques pour supprimer, falsifier ou masquer les identifiants pertinents.
