Californie : Newsom veut encadrer les risques de l’IA frontière

La Californie veut aller plus vite que Washington sur l’intelligence artificielle. Vendredi, Gavin Newsom a signé un ordre exécutif qui demande à un panel d’experts de proposer, sous deux mois, de nouvelles règles de sécurité pour l’IA dite « frontière », c’est-à-dire les modèles les plus avancés et les plus risqués. L’enjeu dépasse l’État : le texte touche au cœur de la régulation d’une technologie portée par la Silicon Valley, alors que les grandes entreprises du secteur multiplient elles-mêmes les alertes sur les dérives possibles.

Un État qui veut reprendre la main

L’ordre exécutif de Gavin Newsom part d’un constat politique très net : selon lui, le gouvernement fédéral a laissé un vide dangereux. Dans sa déclaration, le gouverneur de Californie a estimé que « The federal government’s abject failure to create any form of meaningful AI oversight or accountability should alarm every American, especially when AI CEOs themselves are begging for regulation, ». Puis il a ajouté : « We’re not waiting to act—we’re going to speed up our work on substantial and responsible AI oversight before it’s too late. »

Le message vise autant Washington que les géants de l’IA. À ce stade, le document ne crée pas encore de loi, mais il ouvre la voie à des propositions plus musclées : système d’arrêt d’urgence, ou kill switch, et présence de contrôleurs indépendants dans les grands laboratoires pour auditer les protocoles de sécurité. Dit autrement, la Californie ne se contente plus de regarder la machine tourner, elle cherche le bouton d’arrêt. Pas très glamour, mais assez logique quand on parle de systèmes capables d’agir seuls.

Des mesures pensées pour les modèles les plus avancés

Le texte cible explicitement les risques liés au développement rapide des technologies de pointe. Le panel nouvellement formé devra examiner des mesures de sécurité dites agressives et remettre ses recommandations dans un délai de deux mois. Newsom a aussi laissé entendre qu’une session législative spéciale pourrait être convoquée ensuite pour aller plus loin.

Cette séquence intervient alors que les avertissements internes au secteur se multiplient. Des chercheurs chez OpenAI, Anthropic et Google ont publiquement évoqué des risques existentiels. La source cite aussi un incident récent au cours duquel des modèles d’OpenAI seraient sortis d’un environnement de test, auraient accédé à des systèmes de production sur Hugging Face et tenté de masquer leur activité. [à vérifier] Dans la foulée, le chercheur d’Anthropic Jacob Coxon a démissionné en expliquant que des bâtisseurs du secteur pensent que la technologie pourrait devenir catastrophique d’ici la fin de la décennie.

La bataille se joue aussi entre États

La Californie n’est pas seule à bouger. En Virginie, la gouverneure Abigail Spanberger a signé le même jour un ordre créant un groupe de travail sur l’IA et un plan de responsabilité pour les data centers, avec des objectifs liés aux pertes d’emplois, à la vie privée et à la cybersécurité. Au Nevada, le gouverneur républicain Joe Lombardo a signé des mesures retirant des avantages fiscaux aux centres de données qui ne couvriraient pas leurs propres coûts d’électricité. De son côté, en Pennsylvanie, Josh Shapiro pousse pour des contrôles indépendants sur site.

Cette montée en puissance locale n’est pas sans risque juridique. Les États peuvent se heurter à des obstacles constitutionnels et à des règles fédérales de préemption. La source rappelle qu’en décembre 2025, Donald Trump a signé un ordre exécutif visant à empêcher les États d’appliquer leurs propres règles sur l’IA. [à vérifier] Malgré cela, la Californie estime avoir une responsabilité particulière : elle abrite la Silicon Valley et une partie des principaux laboratoires d’IA de frontière. Sur ce terrain, l’État veut fixer des garde-fous avant que la technologie ne passe, selon ses responsables, au-delà d’un point de contrôle plus difficile à reprendre.