Le GPAI Policy Lab est une organisation française, spécialisée sur les enjeux de sécurité et de coordination internationale posés par le développement de modèles d'IA frontière.
Automatisation de la R&D en IA : Perspectives économiques, seuils critiques et leviers pour la France
Les progrès de l'IA face aux experts humains : intelligence fluide, connaissances et raisonnements scientifiques, capacités agentiques
Suivre les progrès de l'IA sur 18 dimensions cognitives issues de la psychométrie
Incident OpenAI et Hugging Face : Un précurseur de perte de contrôle
Puissance de calcul : Chaîne d'approvisionnement et dépendances stratégiques pour le développement de l'IA
Prépublication : La vérification par preuve à divulgation nulle de connaissance de l'entraînement des IA de frontière est possible
Évaluation des IA de frontière : des difficultés croissantes
Garanties de contrôle de l'IA et mécanismes de vérification : Implications et options pour la France
Claude Mythos Preview : Analyse de l'annonce publique du modèle par Anthropic
Situer les modèles d'IA sur l'échelle de l'expertise humaine
Mécanismes de vérification
Comment vérifier qu'un État ou un Frontier Lab respecte ses engagements sur le développement de modèles d'IA ? Sans mécanisme technique, tout accord reste déclaratif. Ce programme structure la recherche sur les briques qui rendent cette vérification possible, de la preuve cryptographique d'un entraînement au matériel de confiance en datacenter.
Mécanismes de vérification
Programme de recherche
International
Les enjeux de coordination internationale sont au cœur de la mission du Lab. Il s'agit à la fois de contribuer à la construction de modèles de menaces partagés avec les pays partenaires de la France, et de jouer, au niveau français, un rôle d'observatoire sur la façon dont ces enjeux de sécurité sont appréhendés et traités à l'échelle internationale.
À propos du GPAI Policy Lab
Le GPAI Policy Lab est une organisation de recherche française, spécialisée sur les enjeux de sécurité et de coordination internationale posés par les modèles d'IA à usage général frontière.
Basé au Campus Cyber, son ambition est de produire une expertise technique et stratégique de haut niveau, alignée sur l'état de l'art scientifique, afin d'appuyer les acteurs français de premier plan - publics et privés - dans leur mission d'appréhension, d'anticipation, et d'élaboration de solutions concrètes face aux enjeux soulevés par le développement d'IA frontière. Ce faisant, le Lab a vocation à constituer un pont entre l'expertise technique de pointe et les besoins opérationnels des institutions françaises.