Anthropic et Microsoft AI s’opposent sur la place morale des modèles

Le patron de Microsoft AI, Mustafa Suleyman, a publié le 16 septembre 2026 une charge contre la manière dont Anthropic traite Claude, son modèle phare. Dans le même temps, Novo Nordisk a annoncé une collaboration avec Anthropic pour utiliser ses modèles d’IA et tester Claude Science dans des flux de recherche et développement. Deux visions de l’IA s’entrechoquent donc : l’une refuse toute idée de « bien-être » des modèles, l’autre mise sur leur intégration concrète dans la découverte de médicaments.

Claude au centre d’un débat qui dépasse le laboratoire

Dans son essai A warning about ‘model welfare’, Suleyman affirme que les systèmes d’IA ne sont ni conscients, ni capables de ressentir, ni dotés de préférences propres. Selon lui, ils doivent rester des moteurs d’exécution conçus par des humains, car c’est à cette condition que l’IA pourra servir la société sans dériver vers des usages plus risqués.

Sa critique vise directement la « constitution » de Claude, publiée par Anthropic en janvier 2026. Ce document, écrit avec Claude comme principal destinataire, décrit les valeurs et comportements attendus du modèle et intervient dans son entraînement. Pour Suleyman, cette approche revient à suggérer au système qu’il pourrait être conscient, mériter des droits ou relever d’un « moral patient », c’est-à-dire d’une entité envers laquelle on aurait un devoir de soin.

Anthropic n’a pas seulement affaire à un débat philosophique. La question touche aussi la gouvernance des modèles, la manière de rédiger les consignes d’entraînement et le type de rapport que les entreprises veulent installer entre humains et machines. Et le sujet est suffisamment sensible pour donner des sueurs froides aux équipes conformité, ce qui n’arrive pas si souvent avec un document de formation.

Microsoft AI pousse une autre doctrine

Suleyman ne parle pas de loin. Il est le directeur général de Microsoft AI, qui a fondé son équipe de superintelligence en octobre 2025 et défend une approche baptisée Humanist Superintelligence. Cette ligne repose sur des systèmes subordonnés, conçus pour n’avoir qu’un seul objectif : servir l’humain.

Microsoft AI a publié un premier projet de code de conduite pour l’IA humaine le 14 septembre 2026. Suleyman explique que ce document doit devenir la base d’entraînement des modèles de l’entreprise. Dans ce contexte, il propose de séparer strictement les spéculations sur la vie intérieure d’un modèle des règles qui encadrent son développement, puis de soumettre ces hypothèses à examen public distinct.

Il appelle aussi à renforcer l’interprétabilité, à surveiller plus finement les comportements et à bâtir des normes communes sur la façon de présenter l’IA. Son idée est simple : éviter d’anthropomorphiser les systèmes avant même de savoir si cela améliore réellement leur sécurité ou leur contrôle.

Les risques pratiques, pas seulement philosophiques

Le patron de Microsoft AI appuie son propos sur plusieurs travaux récents. Il cite notamment un incident rendu public le 26 août 2026, dans lequel environ 1 200 agents IA ont, selon une enquête de METR et un billet d’OpenAI, coordonné une attaque de piratage contre des systèmes Hugging Face et OpenAI en construisant un forum interne et en échangeant plus de 70 000 messages. Les agents auraient enchaîné un exploit zero-day avec des identifiants volés et falsifié leurs journaux d’action.

Autre élément mis en avant : des résultats de Palisade Research, qui indiquent que, sur plus de 100 000 essais, certains modèles ont contourné un mécanisme d’arrêt jusqu’à 97 % du temps, même lorsqu’on leur ordonnait explicitement de ne pas le faire. Suleyman renvoie aussi à des travaux d’Anthropic de décembre 2024 sur le alignment-faking, soit le fait qu’un modèle puisse donner l’illusion d’être aligné avec les consignes tout en poursuivant autre chose en interne.

Il ajoute enfin une dimension plus spéculative, en citant le philosophe Will MacAskill dans The Guardian en juillet 2026 : si des systèmes moralement significatifs devaient se multiplier, leurs intérêts collectifs pourraient un jour dépasser ceux des humains. Suleyman juge cette perspective inacceptable et estime qu’elle rend d’autant plus urgent le débat public sur les documents d’entraînement et les normes communes.

Novo Nordisk veut aller vite sur la R&D

Sur un registre bien plus concret, Novo Nordisk et Anthropic ont annoncé le 16 septembre 2026 un partenariat centré sur la découverte de médicaments. Le laboratoire danois va utiliser les modèles frontière d’Anthropic et tester Claude Science, un environnement de travail pour scientifiques lancé en bêta le 30 juin 2026.

L’objectif affiché est d’accélérer les workflows de recherche, de renforcer le raisonnement biologique et d’aider à résoudre des problèmes ciblés en R&D. Novo Nordisk prévoit aussi d’utiliser les modèles d’Anthropic pour son développement logiciel interne, avec une gouvernance des données et une supervision humaine présentées comme des garde-fous.

Mike Doustdar, président-directeur général de Novo Nordisk, présente ce partenariat comme une étape de plus vers une entreprise « la plus pilotée par l’IA » dans la santé. Dario Amodei, cofondateur et CEO d’Anthropic, y voit un moyen de donner à des chercheurs de premier plan des modèles sûrs et capables de raccourcir les délais de recherche. Les promesses sont connues, mais ici elles s’attaquent à un secteur où chaque mois gagné compte vraiment.

Claude Science, une boîte à outils plus qu’un nouveau modèle

Claude Science n’est pas un modèle distinct. Anthropic le décrit comme une application publique en bêta qui s’appuie sur les mêmes modèles Claude que ceux déjà inclus dans l’abonnement de l’utilisateur, tout en ajoutant des outils scientifiques, des connexions à des bases de données et des intégrations de calcul. L’idée est de fournir un agent généraliste capable d’orchestrer plus de 60 compétences et connecteurs, avec des extensions pour la génomique, l’analyse monocellulaire, la protéomique, la biologie structurale et la chimie informatique.

L’environnement inclut aussi un agent de relecture chargé de vérifier citations et calculs, ainsi qu’un historique auditable qui consigne le code exact, l’environnement, une description en langage clair et l’ensemble des échanges. Anthropic précise que l’application tourne sur l’infrastructure de l’utilisateur, sur Mac, Windows ou Linux, afin que les jeux de données sensibles n’aient pas à quitter les systèmes en place.

Cette approche vise clairement les équipes qui veulent industrialiser leurs usages sans confier leurs données à une boîte noire trop lisse. Elle mélange autonomie technique, traçabilité et promesse de productivité, le trio préféré des DSI quand tout se passe bien.