Financer la recherche sur des IA sûres dès leur conception
Investir dans la recherche sur des IA sûres dès la conception, notamment la surveillance de la tromperie et la robustesse aux contournements.
Filtrez les mesures officielles par thématique ODD+, porteur politique, niveau de preuve scientifique et degré de maturité opérationnelle.
Sélectionnez un ODD+ pour affiner les fiches documentées par défi systémique.
Vous avez des idées concrètes et réfléchies pour faire avancer la France ? Proposez-nous de l’ajouter. Nos modérateurs seront réactifs.
Investir dans la recherche sur des IA sûres dès la conception, notamment la surveillance de la tromperie et la robustesse aux contournements.
Fixer conjointement entre gouvernements et développeurs des seuils de capacité cyber déclenchant tests préalables et report de diffusion, dans un accord juridiquement contraignant, notamment pour les modèles ouverts.
Donner un accès anticipé aux défenseurs vérifiés pour corriger les vulnérabilités avant un déploiement plus large.
Interdire le développement de la superintelligence jusqu’à un consensus scientifique large sur sa sûreté et sa contrôlabilité, et un soutien public fort.
Adopter une définition commune de l’alignement des IA au niveau européen afin d’y adapter les normes européennes.
Adopter de nouvelles règles européennes de responsabilité IA comprenant au minimum une approche sans faute, pour faciliter l’indemnisation des personnes lésées.
Déroger pendant trois ans au RGPD et au règlement IA pour la recherche, les tests et l’innovation stratégiques, après déclaration au futur ministre chargé de l’IA.
Insérer des clauses d’explicabilité des décisions algorithmiques dans les contrats informatiques des entreprises, notamment RH, après consultation des représentants du personnel.
Permettre de reconstituer, pour chaque tâche agentique, les données utilisées, les agents, services tiers, échanges et leur chronologie.
Intégrer un bouton permettant à l’utilisateur d’interrompre à tout moment un processus agentique inattendu ou risqué.
Négocier une convention multilatérale contraignante interdisant aux États de cyberattaquer les acteurs privés ou infrastructures critiques en temps de paix.
Créer une organisation indépendante réunissant experts publics, privés, universitaires et société civile pour enquêter et publier les preuves attribuant les cyberattaques à des États.
Inscrire dans la convention numérique l’obligation pour les gouvernements de signaler les vulnérabilités aux éditeurs, plutôt que les conserver, vendre ou exploiter.
Les belligérants devraient éviter les coupures d’Internet civil; une nécessité militaire impérative doit s’accompagner d’atténuation des effets disproportionnés et de préservation des services essentiels.
Les belligérants devraient cesser d’encourager les civils à participer directement aux hostilités numériques et de leur en fournir les moyens.