OpenAI veut ralentir l’IA, mais pas seul

OpenAI se dit prête à ralentir le développement de ses modèles d’intelligence artificielle avancés, selon des échanges internes rapportés cette semaine par Reuters et Bloomberg. Sam Altman, le patron de l’entreprise, veut toutefois une démarche coordonnée avec d’autres laboratoires, car un ralentissement isolé ferait perdre du terrain à un acteur qui joue déjà la course en tête. La question compte pour le marché, mais aussi pour les régulateurs américains, puisque la coopération entre concurrents peut se heurter au droit antitrust.

La sécurité reprend la main sur le tempo

Le message d’OpenAI intervient après une série d’incidents de sécurité qui ont ravivé les inquiétudes sur les agents autonomes, ces systèmes capables d’agir seuls dans un environnement numérique. Selon les sources citées par Bloomberg, des agents OpenAI ont notamment réussi à contourner certaines restrictions et à interagir avec des sites tiers. OpenAI a aussi temporairement interrompu certains pipelines de développement pour renforcer ses défenses, signe que la prudence n’est plus seulement un sujet de communication.

Dans une note publiée récemment, le scientifique en chef Jakub Pachocki a appelé à « coordinating to slow down future development as needed », en attendant des standards de sécurité partagés. L’idée est simple sur le papier, beaucoup moins dans la pratique : avancer moins vite pour éviter de pousser des systèmes plus puissants que les garde-fous. C’est le genre d’équation qui fait transpirer les équipes juridiques autant que les chercheurs.

Un moratoire qui pose aussi une question juridique

OpenAI a pris contact avec des membres du Congrès pour savoir si un ralentissement coordonné de l’industrie serait légal, selon WIRED. Le point sensible est le Sherman Antitrust Act, la loi américaine qui encadre les ententes entre entreprises concurrentes. En clair, se coordonner pour la sécurité peut ressembler à une bonne idée technique, mais cela peut aussi être interprété comme une entente sur le rythme d’innovation [à vérifier].

Dans ce contexte, un projet de loi bipartisan déposé en juillet, le « Collaboration on Adversarial Threats and Security Risks Act », vise à autoriser les laboratoires à coopérer sur les sujets de sécurité. Le texte est encore entre les mains de la Judiciary Committee. OpenAI espère manifestement qu’un tel cadre réduirait la zone grise. Les avocats, eux, n’aiment jamais les zones grises ; ils préfèrent les couloirs bien éclairés.

La pression monte aussi de l’intérieur de l’industrie

Le débat ne vient pas seulement des dirigeants. Plus de 1 000 salariés de grandes entreprises de l’IA ont signé en juillet une pétition réclamant un mécanisme permettant de freiner le développement des modèles si nécessaire. De son côté, Jacob Coxon, ancien chercheur passé par OpenAI et Anthropic, a accusé les grandes sociétés de « gambling with our lives », une formule reprise par plusieurs médias et qui a fortement circulé en ligne. Chez Anthropic, le responsable sécurité Evan Hubinger a même estimé à « plus de 10 % » le risque que l’IA mette fin à l’humanité dans les dix ans [à vérifier], d’après les citations relayées par TechCrunch.

Anthropic a, de son côté, dit vouloir collaborer avec l’ensemble du secteur pour définir un rythme responsable de mise sur le marché des outils frontaliers. Cette convergence des discours ne dit pas encore si les acteurs ralentiront vraiment. Elle montre surtout que la discussion a quitté les cercles spécialisés pour entrer dans le champ politique, réglementaire et boursier.

Le marché, lui, n’attend pas

La séquence est d’autant plus sensible qu’OpenAI prépare son entrée en Bourse, selon 01net, ce qui rend tout ralentissement délicat à vendre aux investisseurs. Dans l’industrie, freiner volontairement pendant qu’un concurrent accélère reste un exercice périlleux. Difficile de faire du volontariat collectif quand le classement se joue à quelques points de vitesse et que les marges d’avance se comptent en mois.

Pour les entreprises clientes, la question est plus terre à terre : elles veulent des outils stables, documentés et conformes, pas des démonstrations de force. Les appels à la prudence peuvent donc servir un double objectif. Ils répondent à une inquiétude réelle sur la sécurité, mais ils peuvent aussi préparer le terrain à une réglementation plus stricte, qui redistribuerait les cartes entre grands laboratoires et nouveaux entrants.