Institut international pour la sécurité de l'IA IIAS

Mission

L’Institut international pour la sécurité de l’IA constitue un réseau coordonné d’instituts de sécurité de l’IA établis par les gouvernements participant au AI Safety Summit de novembre 2023. Son mandat consiste à évaluer les risques et les capacités des systèmes d’IA avancés, développer des méthodologies communes de test et d’évaluation, et faciliter la collaboration scientifique internationale sur la gouvernance de l’IA. Les instituts membres travaillent conjointement à minimiser les risques de surprise technologique et à établir des normes harmonisées pour l’évaluation de la sécurité des modèles de frontier AI.

Le réseau regroupe les institutions nationales du Royaume-Uni (UK AI Security Institute), des États-Unis (Center for AI Standards and Innovation), du Japon, du Canada, de Singapour, de Corée du Sud, de l’Australie, de la France, de l’Inde et d’autres pays, ainsi que des représentants de l’Union européenne. L’initiative s’inscrit dans l’agenda de gouvernance mondiale de l’IA, avec un accent particulier sur l’évaluation indépendante des risques systémiques liés aux systèmes d’IA généralistes avancés et la diffusion publique des résultats scientifiques de ces évaluations.

Gouvernance

La structure de gouvernance repose sur une coordination décentralisée entre les instituts nationaux, coordonnée par le UK AI Security Institute. Chaque institut est implanté au sein d’une administration nationale (ministères de la Science, de la Technologie ou organismes équivalents) et maintient son autonomie tout en participant au réseau international. La coordination internationale s’effectue via des sommets réguliers des pays participants (AI Seoul Summit mai 2024, suivis de réunions annuelles) et la production conjointe de rapports scientifiques internationaux sur la sécurité de l’IA avancée.

Les décisions opérationnelles et méthodologiques émanent de consensus entre les instituts membres, sans organe décisionnel centralisé formel. Le financement provient de budgets nationaux allocués par chaque gouvernement participant, avec le Royaume-Uni investissant environ 115 millions GBP sur dix ans et les États-Unis accroissant leur engagement par le truchement du CAISI. La gouvernance privilégie la transparence scientifique et la publication ouverte des méthodologies d’évaluation et des rapports, bien que certains résultats techniques détaillés puissent être soumis à des restrictions de sécurité.

Dossiers clés

• Évaluations harmonisées de modèles de frontier AI : Développement et déploiement de méthodologies communes pour tester et évaluer les capacités et risques des systèmes d’IA avancés (GPT-4, Claude, Gemini, etc.). Publication d’un rapport scientifique international en octobre 2025 synthétisant les résultats des évaluations coordonnées des instituts membres.
• Expansion du réseau (2024-2025) : Élargissement du réseau à 12+ pays et organisations (Australie, France, Inde lancées en 2025 ; adhésion de l’UE, Kenya, Allemagne, Italie). Objectif de couverture globale et représentation équilibrée des régions pour renforcer la légitimité et la portée des normes d’évaluation proposées.
• Harmonisation des normes et méthodologies : Élaboration collective de standards internationaux pour les tests de sécurité des modèles de frontier AI, y compris les capacités émergentes et les risques systémiques. Travail sur les capacités de jailbreak, la robustesse, et les comportements non intentionnels.
• Recentrage stratégique des États-Unis (2025) : Transformation du US AISI en Center for AI Standards and Innovation (CAISI) avec orientation davantage centrée sur la croissance économique et l’innovation, soulevant des questions sur l’alignement des priorités au sein du réseau international.
• Transition branding Royaume-Uni : Renomination de l’AI Safety Institute en AI Security Institute (février 2025), reflétant un ajustement du cadre de gouvernance vers une approche de sécurité plus large intégrant les risques technologiques et les enjeux géopolitiques.