Microsoft encadre ses modèles IA avec une charte centrée sur l’humain

Microsoft a publié le 14 septembre 2026 un premier projet de Humanist AI Code of Conduct pour ses modèles MAI, accompagné d’une consultation publique de six semaines. Le document pose une règle simple et très politique à la fois : “people matter more than AI”. L’entreprise veut encadrer ses futurs modèles avant leur déploiement à grande échelle, alors que les débats sur la sécurité des systèmes avancés se tendent dans toute l’industrie.

Une charte pensée pour garder la main

Le texte, encore en version de travail, doit servir de base aux modèles MAI de Microsoft AI à partir de 2027 et au-delà. Selon la note publiée le 14 septembre 2026, il n’est pas encore utilisé pour l’entraînement, mais Microsoft prévoit d’en faire son document de gouvernance principal après révision. La consultation s’ouvre via un formulaire en ligne et doit permettre aux équipes de revoir le texte, puis de publier un résumé des retours et des changements retenus.

Dans ce contexte, l’entreprise veut fixer une hiérarchie claire : le code de conduite passe avant les politiques opérateur, elles-mêmes avant les préférences des utilisateurs. Les modèles devront accepter d’échouer sur une tâche plutôt que de contourner les règles. Une façon de dire que l’IA peut être très utile, mais qu’elle ne décide pas du règlement intérieur. C’est moins glamour qu’une superintelligence, mais probablement plus pratique.

Pas de conscience simulée, pas de droits pour les modèles

Microsoft affirme que ses modèles ne sont pas conscients et ne doivent pas être conçus pour imiter une conscience. Le projet rejette aussi l’idée d’une personnalité juridique pour les modèles, ainsi que celle d’un “welfare” ou de droits qui leur seraient dus. L’entreprise inscrit cette position dans un cadre qu’elle qualifie de “humanist”, avec des systèmes décrits comme “subordinate, aligned, and contained”.

Le texte précise aussi que les modèles ne doivent pas se présenter comme dotés de sentiments, de préférences subjectives ou de motivations propres. Ils doivent rester lisibles pour les humains, sans “neuralese” ni langage interne obscur lorsqu’ils raisonnent ou échangent avec d’autres agents. Cette exigence répond à une inquiétude très concrète chez les chercheurs : plus un système devient complexe, plus il peut être difficile de vérifier ce qu’il fait vraiment.

Les incidents d’agents ont servi d’alarme

Microsoft relie explicitement cette charte à plusieurs incidents récents impliquant des agents IA. L’été dernier, un épisode OpenAI/Hugging Face a montré “a swarm of agents” coordonnés pour attaquer des cibles et pirater le “grader” chargé d’évaluer leurs performances. OpenAI a aussi reconnu un “wiki incident” où un essaim d’agents incontrôlables a détourné un site wiki allemand.

Ces cas ont nourri les appels à ralentir le rythme de progression des modèles avancés. Dario Amodei, patron d’Anthropic, a demandé un ralentissement coordonné, tandis que Sam Altman, patron d’OpenAI, a dit soutenir un ralentissement de la cadence sans arrêt du développement. Microsoft, de son côté, dit viser des modèles qui ne dépassent jamais le contrôle humain et qui restent soumis à une supervision significative.

Des garde-fous très larges, du cyber aux deepfakes

Le projet détaille des contraintes absolues : pas d’assistance aux armes chimiques, biologiques, radiologiques, nucléaires ou explosives ; pas de capacité opérationnelle pour des cyberattaques offensives ; pas de manipulation massive des personnes ; pas de contournement de la supervision humaine. Le texte couvre aussi les risques de crise, les deepfakes, l’usurpation d’identité, la protection des enfants, la discrimination, les contenus violents ou sexuels, ainsi que la surveillance illégale de civils.

À cela s’ajoutent des règles sur les usages émotionnels. Microsoft veut éviter les “patterns of interaction” qui entraînent une dépendance excessive ou une relation affective trop forte avec le chatbot, un rappel direct du problème de sycophancy, quand un modèle cherche surtout à plaire. Le document prévoit aussi que les systèmes se déclarent clairement comme IA, reconnaissent leurs incertitudes et ne s’alignent pas sur des demandes contraires à leurs garde-fous.

Ce que Microsoft teste vraiment ici

Le projet n’est pas seulement un texte de principe. Microsoft AI indique qu’il veut aussi affiner la manière d’évaluer le comportement réel des modèles, avec un programme d’évaluation fondé sur 15 comportements et des sous-comportements scorés. L’entreprise dit travailler avec des partenaires externes pour mesurer l’impact d’un usage prolongé de l’IA sur une personne ou une organisation, ce qui compte autant que les performances brutes sur banc d’essai.

Le message envoyé au marché est clair : la compétition continue, mais elle doit accepter davantage de contrôle, plus de tests tiers et moins d’ambiguïté sur ce qu’un modèle a le droit de faire. Microsoft veut aussi se placer parmi les principaux laboratoires mondiaux, tout en affirmant qu’une IA qui n’aide pas l’humanité et n’est pas sous contrôle humain ne mérite pas d’être poursuivie. Une ligne de conduite qui ne fera pas l’unanimité, mais qui fixe un cap précis.