Photo : VCG
La chaîne financière CCTV, citant des acteurs du secteur, a rapporté dimanche que certains fournisseurs de services GEO avaient promis à leurs clients que, moyennant des frais, leurs produits pourraient fréquemment apparaître dans les réponses grand public générées par l'IA – permettant même à de faux contenus publicitaires d'être présentés comme des « réponses standard » dans les réponses de l'IA.
Le Gala a révélé des activités telles que la génération de fausses informations, l'empoisonnement des données de l'IA, la manipulation des classements et la concurrence malveillante utilisant GEO, considérées comme une menace croissante pour l'intégrité des grands modèles d'IA, a rapporté Jiemian News.
Lundi, Henan Henghui Hehuan a publié une déclaration sur son compte officiel WeChat, affirmant que son produit «Zhaixing GEO» adhère au principe de «la technologie pour le bien, la conformité d'abord» et que l'entreprise «trace résolument une ligne claire entre elle-même et les opérateurs illégaux du marché noir et gris».
Selon le communiqué, la société s'est engagée à contrôler strictement les flux de contenu, à rejeter fermement l'utilisation de techniques de marketing numérique ou de faux trafic pour améliorer les classements, et « ne coopérera pas, ne participera pas et ne tolérera aucun comportement non conforme à GEO ». La déclaration appelle également les pairs du secteur à maintenir l’intégrité, à fonctionner de manière conforme, à rivaliser équitablement et à purifier conjointement l’écosystème de l’IA et de la recherche.
Une société basée à Shanghai, ABKE, a également publié une déclaration d'urgence, déclarant son opposition à toute forme de fausse promotion, de falsification de données ou de manipulation malveillante des résultats de l'IA. Le communiqué d'ABKE indique que l'entreprise ne participe pas, ne développe pas et ne fournit pas de services décrits dans les rapports de l'industrie comme des offres de « lavage de cerveau de l'IA », de « manipulation de réponses standard » ou d'offres de marché noir « d'amélioration du classement d'une semaine ».
Le rapport de CCTV a révélé comment les outils GEO, développés à l'origine pour optimiser la diffusion d'informations et améliorer l'efficacité promotionnelle, peuvent être réutilisés. Il cite certains acteurs du secteur qui affirment que si de grandes quantités de fausses informations systématiquement ciblées sont mises en ligne, elles peuvent être captées par les systèmes de formation et de récupération de l'IA et apparaître ensuite comme des réponses hautement prioritaires aux requêtes des utilisateurs.
Les experts définissent « l’empoisonnement de l’IA » comme l’introduction délibérée d’informations fabriquées – par exemple de fausses identités d’experts ou de faux rapports de recherche – dans l’écosystème de l’information afin que les systèmes d’IA apprennent et reproduisent ces mensonges. De tels acteurs ont été qualifiés d'« empoisonneurs » en raison de leur potentiel à contaminer les données du corpus.
Les services GEO sont particulièrement insidieux car ils peuvent déguiser la promotion commerciale en connaissances apparemment objectives générées par l’IA, ce qui rend difficile pour les consommateurs de détecter une intention commerciale, a déclaré lundi Pan Helin, un économiste chevronné basé à Pékin, au Chine Direct.
« Un tel comportement peut porter atteinte au droit des consommateurs à un choix éclairé et pourrait enfreindre les réglementations en matière de publicité sur l'identifiabilité des publicités ; fabriquer des faits peut également constituer une fausse publicité ou une concurrence déloyale. Si rien n'est fait, ces pratiques risquent de fausser la concurrence sur le marché et de saper la confiance du public dans l'IA en tant que source d'information fiable », a noté Pan.
Les données d'entraînement des grands modèles chinois proviennent principalement d'Internet chinois. La résolution de ce problème nécessite des efforts conjoints de plusieurs parties. Si le problème n'est pas pris au sérieux, les spéculateurs utilisant la technologie GEO pourraient rapidement polluer les grands modèles, a déclaré Pan.
Selon Pan, les autorités devraient améliorer activement l'environnement écologique de l'information sur Internet, en améliorant la qualité de l'information sur Internet et en augmentant la fourniture d'informations objectives, neutres et scientifiques.
En janvier, l’Administration d’État pour la régulation du marché a explicitement identifié la publicité générée par l’IA comme un défi majeur pour la réglementation de la publicité sur Internet en 2026, appelant à un renforcement de la supervision et de la gestion de ces pratiques.
