La police du Zhejiang (E.China) réprime un gang utilisant ChatGPT pour créer de fausses vidéos à des fins lucratives

Photo IA : VCG

La police de Shaoxing, dans la province du Zhejiang (est de la Chine), a récemment réprimé un gang qui utilisait ChatGPT pour faire de fausses vidéos, le premier cas du genre dans le Zhejiang, selon le compte rendu officiel du Bureau de la sécurité publique de Shaoxing mercredi.

ChatGPT est un chatbot IA développé par Microsoft qui permet aux utilisateurs de générer des réponses basées sur les invites et les questions des utilisateurs. Selon AP News, ChatGPT a été utilisé pour créer des contrefaçons profondes, qui sont des images numériques, des vidéos ou d’autres formes de contenu multimédia fabriquées qui semblent être réelles.

Le 2 juin, lors de l’inspection en ligne, la police du district de Shangyu a identifié un internaute appelé « Xianyijieshuo » qui a publié une vidéo sur un incendie dans le parc industriel de Shangyu. En peu de temps, le nombre de vues de la vidéo a rapidement augmenté.

Les autorités ont tenté de vérifier la vidéo pour découvrir qu’elle était fausse. La police de Shangyu a rapidement identifié un groupe technologique dans une autre province lié au crime. Le 5 juin, la police a appréhendé trois suspects.

À la suite de l’enquête, il a été découvert que la société avait illégalement acquis un certain nombre de comptes vidéo en ligne depuis mai de cette année. Le groupe avait épissé et produit de fausses vidéos via ChatGPT avant de les publier sur les plateformes de médias sociaux pour gagner du trafic et générer des revenus. À ce jour, le gang a acheté illégalement plus de 1 500 comptes vidéo et publié plus de 3 000 fausses vidéos.

Les trois suspects sont détenus par la police pour avoir provoqué des querelles et provoqué des troubles, et l’affaire fait l’objet d’une enquête plus approfondie.

En mai dernier, les autorités de sécurité publique de la province du Gansu, dans le nord-ouest de la Chine, ont publié une déclaration exposant le cas d’un homme utilisant ChatGPT pour écrire une histoire sur un faux accident de train qui aurait entraîné la mort de neuf ouvriers du bâtiment, qu’il a ensuite publiée en ligne. L’histoire est devenue virale avec plusieurs médias grand public qui ont repris l’histoire sans le savoir.

Temps mondiaux

A lire également