Des sociétés Internet chinoises et des universitaires se réunissent sur le lieu de naissance de Confucius pour discuter de la manière de construire une IA sûre et fiable

Le PDG et président d’Alibaba, Zhang Yong, s’adresse au Dialogue Nishan de la Conférence mondiale sur l’Internet à Qufu, dans la province du Shandong (est de la Chine), le 26 juin 2023. Photo : Liu Caiyu/GT

L’intelligence artificielle (IA) est désormais la frontière la plus active de l’innovation technologique numérique mondiale, une nouvelle piste pour l’économie numérique et un nouveau point chaud pour la concurrence internationale. Mais comment faire face aux défis qu’elle a posés afin de construire une IA sûre et fiable est un sujet de grande préoccupation pour tous.

Des représentants des principales sociétés Internet, dont Baidu, Alibaba, 360 Security Group, des universitaires et des responsables gouvernementaux se sont réunis à Nishan, le lieu de naissance de Confucius à Qufu, dans l’est de la Chine, pour tenter de trouver une réponse.

L’intelligence artificielle, comme les autres technologies numériques, est une épée à double tranchant. Bien qu’il nous apporte des méthodes de travail et de vie plus avancées, automatisées et intelligentes, il pose également des problèmes de sécurité, a déclaré Zhou Hongyi, fondateur de 360 ​​Security Group, au Chine Direct lors de la Conférence mondiale sur l’Internet Nishan Dialogue.

Que le modèle d’IA présente des vulnérabilités ou soit facilement attaqué ou induit en erreur, et que les données du modèle puissent être divulguées ou contaminées pendant la formation sont autant de défis de sécurité possibles, sans parler de ses dangers lorsqu’il est utilisé dans des domaines critiques tels que la finance, le droit et véhicules autonomes, a déclaré Zhou.

Face aux problèmes de sécurité concernant le développement de robots à grande échelle, Zhou estime que la clé pour parvenir à une application sûre et fiable de l’IA est de positionner les robots en tant qu’assistants des entreprises et des employés ou en tant que « copilote », permettant l’humain à jouer un rôle essentiel dans la boucle décisionnelle.

L’IA peut fournir des suggestions et des rapports, mais la décision finale doit être prise par des humains, et elle ne doit pas directement contourner les humains ou aller au-delà de divers systèmes commerciaux pour prendre des décisions, a déclaré Zhou.

S’adressant à la conférence, le PDG et président d’Alibaba, Zhang Yong, a déclaré que la technologie de l’IA devrait améliorer le bien-être de la population. Peu importe la puissance des machines, les humains qui les créent devraient toujours être plus forts, meilleurs et plus sages.

Chaque époque a ses propres caractéristiques civilisationnelles mais quel est l’esprit de la civilisation numérique aujourd’hui ? Zhang a déclaré que le confucianisme préconise l’importance de cultiver sa moralité avant d’atteindre le succès. Parallèlement, dans le développement de l’intelligence artificielle, le progrès technologique doit se conformer aux normes sociales et doit faire plus de bien à l’humanité.

Les menaces des technologies d’IA ne sont pas seulement techniques ou juridiques, mais peuvent également être sociales, car elles peuvent manquer d’équité ou d’égalité. Ainsi, la gestion du risque lié à l’IA sera plus complexe et nécessitera des moyens supplémentaires autres que l’approche normale de gestion des risques de cybersécurité, a déclaré Walter Fumy, président du CEN-CENELEC JTC 13 Cybersécurité et protection des données, au Chine Direct lors de la conférence.

Fumy a déclaré que l’UE est à l’avant-garde de la définition et de la réglementation de son IA, mais qu’en plus de l’approche européenne, de nombreux autres cadres sont disponibles. Il a appelé l’industrie à trouver un terrain d’entente quelque part, et non à proposer des centaines de législations différentes dans les domaines de l’IA qui seraient redondantes et se chevaucheraient.

Mais Gong Ke, directeur exécutif de la China New Generation Artificial Intelligence Development Strategy Academy, a déclaré au Chine Direct qu’il existe en fait des points communs entre le projet de loi de l’UE et des réglementations similaires en Chine et aux États-Unis. La différence réside dans la façon dont chaque pays énonce ses réglementations et met l’accent sur différents aspects, a déclaré Gong, appelant au partage et à l’échange de différents modèles d’IA des pays, tels que l’algorithme de confidentialité, afin de parvenir à un terrain d’entente.

Les législateurs de l’UE ont récemment fait un pas en avant vers l’adoption d’une législation historique sur l’utilisation de l’IA, la première loi globale sur l’IA au monde, et elle devrait parvenir à des accords définitifs sur des réglementations spécifiques, ont rapporté les médias.

Gong a déclaré que la loi de l’UE sera une référence importante pour que d’autres pays réglementent leur IA, mais que les pays accélèrent le développement de l’IA et essaient de comprendre comment ralentir l’IA en développement rapide, la priorité devrait être de trouver un équilibre car les réglementations seront directement affecter l’avenir du développement de l’industrie de l’IA.

« Espérons que la législation ne créera pas une » situation spéciale « pour l’Europe », ou disons que l’UE aura des réglementations beaucoup plus strictes que d’autres parties du monde, a déclaré Fumy au Chine Direct, expliquant alors que ce serait malheureux et entraverait certainement la développement de l’industrie, conduisant certaines startups à déménager plutôt ailleurs.

Pour la Chine, Zhou pense que les GPT personnalisés seront une solution possible qui permet des processus de prise de décision plus efficaces, sûrs et fiables, mais améliore également les performances dans diverses industries. À l’avenir, la Chine n’aura pas seulement un grand modèle d’IA, mais chaque département gouvernemental, entreprise et même chaque individu aura son propre « GPT personnalisé », a déclaré Zhou au Chine Direct.

Ces modèles d’IA personnalisés auront à la fois la capacité générale de comprendre les connaissances humaines et d’interagir avec les humains, ainsi que la capacité d’utiliser des connaissances spécifiques à l’industrie et des connaissances personnalisées uniques aux entreprises et aux gouvernements pour une formation et un ajustement améliorés. De ce point de vue, cela résoudra les problèmes de sécurité et de fiabilité, a déclaré Zhou.

Les représentants des principales sociétés Internet présents à la conférence sont conscients de l’importance de l’IA dans l’économie numérique et espèrent faire la différence dans la course à l’IA.

Le chatbot Tongyi Qianwen AI développé par Alibaba a reçu un grand enthousiasme et des commentaires de tous les horizons, en particulier de l’industrie, avec plus de 100 000 utilisateurs d’entreprise demandant un accès, couvrant presque toutes les industries nouvelles et traditionnelles, selon Zhang lors de la conférence.

Le PDG de Baidu, Robin Li, a déclaré que la prochaine frontière dans le développement de modèles d’IA n’est pas seulement d’imiter les humains et d’accomplir leurs « actions prescrites », mais aussi d’aider les humains à explorer et à découvrir des domaines inconnus et à franchir les limites que les humains n’ont pas pu franchir. surmonté dans le passé.

A lire également