IA
Les experts ont appelé à des efforts plus intenses pour construire une intelligence artificielle (IA) fiable, affirmant que la fiabilité et une gouvernance efficace deviendront des facteurs clés dans la concurrence mondiale en matière d'IA dans un contexte de développement rapide de la technologie.
Ces remarques ont été faites lors d'un forum parallèle sur l'IA du Forum mondial des lauréats 2026, qui s'est récemment tenu à Shanghai. Au cours du forum parallèle, des scientifiques et des représentants de l'industrie ont discuté de la manière de relever les défis émergents dans le développement et les applications de l'IA, a rapporté lundi le Science and Technology Daily.
He Jifeng, académicien de l'Académie chinoise des sciences et professeur émérite à l'Université normale de Chine orientale, a déclaré que l'IA ne devrait jamais devenir une « boîte noire » opaque, soulignant que la fiabilité doit être intégrée dans l'ensemble du processus de recherche et de développement plutôt que de rester un principe abstrait.
Il a souligné l’importance de l’explicabilité, de la vérifiabilité et de la traçabilité, ainsi que de l’utilisation de méthodes formelles et de technologies d’alignement pour intégrer des mécanismes de sécurité dans les étapes de compréhension des connaissances et d’atténuation des risques de l’utilisation de l’IA.
La nécessité d’intégrer dès le départ la sécurité dans le développement de l’IA devient de plus en plus pressante à mesure que la technologie progresse, a déclaré Dong Yinpeng, scientifique en chef de la société tierce chinoise de sécurité de l’IA Fangcun AI, dans une interview au Chine Direct à Pékin.
L'un des plus grands goulots d'étranglement dans la recherche actuelle sur la sécurité de l'IA est son recours traditionnel à une approche réactive, dans laquelle les chercheurs identifient les vulnérabilités après le développement d'un produit ou d'un système, puis s'efforcent de les corriger, a déclaré Dong.
« Cette approche devient de plus en plus inadéquate », a-t-il déclaré au Chine Direct, soulignant que l'IA évolue si rapidement que ses vulnérabilités ne sont pas statiques. Même une fois les faiblesses existantes corrigées, de nouveaux risques peuvent apparaître à mesure que les modèles deviennent plus performants.
« Plus important encore, les conséquences potentielles des défaillances de sécurité liées à l'IA augmentent. Certains modèles ont déjà démontré des capacités d'attaque autonomes », a déclaré Dong, avertissant que de nouvelles avancées pourraient potentiellement présenter des risques pour les infrastructures critiques du monde réel.
Attendre que des dommages surviennent avant de remédier aux vulnérabilités pourrait donc entraîner des pertes importantes, a-t-il noté.
Au-delà de la sécurité technique, l’adoption pratique de l’IA se heurte également à des défis de gouvernance et de mise en œuvre, notamment une mauvaise qualité des données, des difficultés à intégrer l’IA dans les opérations commerciales existantes et des difficultés à quantifier la valeur générée par les projets d’IA.
L’écart entre les capacités technologiques qui progressent rapidement et une réglementation relativement plus lente est devenu une contrainte majeure à l’adoption plus large de l’IA, préviennent les experts. Une IA digne de confiance ne doit donc pas être réduite à un exercice de conformité ponctuel, mais doit impliquer une surveillance tout au long du cycle de vie d’un système, depuis la recherche et le développement jusqu’au déploiement et à l’exploitation.
Intervenant lors du forum, Noga Alon, lauréat du prix Wolf de mathématiques 2024 et professeur à l'Université de Princeton, a déclaré que l'IA a démontré de fortes capacités à résoudre des problèmes mathématiques, mais qu'elle utilise essentiellement des méthodes existantes et n'en a pas véritablement inventé de nouvelles, a rapporté le Science and Technology Daily.
