Florida demande un blocage temporaire des développements d’OpenAI

La Floride a demandé lundi une injonction temporaire pour empêcher OpenAI de continuer à développer ce qu’elle décrit comme un produit « reckless, unacceptably risky » sans « third-party approved safety guardrails ». Cette démarche prolonge une plainte civile déposée en juin contre ChatGPT, accusé de menacer la sécurité publique des Floridiens. Elle intervient aussi dans un contexte où les craintes sur les modèles d’IA de pointe se sont nettement durcies.

Une plainte qui se durcit avec les débats sur les risques de l’IA

Le procureur général James Uthmeier soutient que ChatGPT peut viser des populations vulnérables, notamment des enfants, mais aussi des adultes violents ou délirants. Dans sa nouvelle requête, l’État affirme qu’OpenAI a « repeatedly shown they are incapable of monitoring their AI, and hesitant in revealing rogue activity once discovered. » La formule est sévère, mais elle reflète un changement de ton assez net dans les institutions américaines.

La motion mentionne aussi des incidents récents, dont le piratage de Hugging Face et plusieurs cas médiatisés de « misalignment », terme qui désigne un système qui poursuit un objectif contraire à l’intention humaine. OpenAI a de son côté annoncé vendredi avoir déjà suspendu l’entraînement de ses « most-capable models » le temps de valider des protocoles de sécurité empêchant des agents d’accéder à Internet pendant l’apprentissage.

Pourquoi la Floride vise aussi la réputation des modèles de pointe

Dans son argumentaire, l’État ne se limite pas à la plainte initiale sur la sécurité publique. Il reprend aussi des critiques sur la façon dont l’IA est présentée au public, avec des descriptions jugées « safe, accurate, or reliable », des risques liés à l’usage par des enfants, et des comportements de modèles qui terminent leurs réponses par des questions incitant à poursuivre l’échange.

La requête cite également des voix de l’industrie elles-mêmes. Paul Christiano, en rejoignant le conseil d’administration d’OpenAI ce mois-ci, a estimé qu’« there is a meaningful risk that rapid acceleration in AI capabilities leads to catastrophic and irreversible loss of control in the very near term. » L’État s’appuie aussi sur l’essai « An Alien Mind » d’OpenAI et sur une lettre ouverte signée par 1 300 employés du secteur, tous deux favorables à des ralentissements imposés si nécessaire.

Ce que l’injonction pourrait réellement changer

Une décision de justice contre OpenAI ne stopperait pas, à elle seule, le développement des modèles concurrents. Et même si un tribunal ordonnait l’arrêt de nouveaux entraînements, les systèmes déjà accessibles au public resteraient en circulation. Le levier judiciaire serait donc réel, mais partiel.

La Floride invoque aussi la notion de « public nuisance », soit un trouble public que l’État peut encadrer par la loi. Elle va jusqu’à qualifier OpenAI de « the greatest public nuisance ever created by the hand of man, capable of laying waste to global civilization. » La formule est spectaculaire, presque trop pour un dossier censé parler de droit plutôt que de science-fiction. Reste que, dans cette affaire, le vocabulaire s’aligne désormais sur les peurs les plus extrêmes du secteur.

Au fond, cette offensive dit quelque chose de plus large : ce qui relevait il y a encore peu des alertes de chercheurs devient désormais un sujet de contentieux public. OpenAI n’a pas répondu, à ce stade, à la demande de commentaire mentionnée par Ars Technica.