L’ONU durcit le ton sur l’urgence d’encadrer l’IA

L’ONU estime que le monde est pris dans une « ruthless race » entre entreprises et États autour de l’IA, et que « the clock on AI regulation is ticking ». À un sommet organisé au Royaume-Uni le 5 octobre, le haut-commissaire aux droits humains Volker Türk a mis en garde contre des risques capables d’affecter l’égalité, la liberté et le débat public, mais aussi l’accès à des services essentiels comme l’eau, le chauffage ou les services financiers. Le message est simple : sans garde-fous, l’IA peut dériver plus vite que les règles censées la contenir.

Des avancées utiles, mais un risque qui se matérialise déjà

Volker Türk ne rejette pas les usages positifs de l’IA, qu’il cite dans la science, la santé ou l’éducation. Son alerte porte plutôt sur l’écart entre la vitesse de développement des modèles et la capacité des institutions à les superviser. Selon lui, laisser quelques acteurs définir seuls l’avenir de l’IA revient à accepter des effets que leurs propres créateurs ne savent pas toujours prédire ni maîtriser.

La formule est brutale, mais elle vise juste : un système capable de couper des populations de la communication, de l’eau propre ou des services bancaires « at the click of a button » n’est plus un simple outil d’optimisation. Il devient une infrastructure de pouvoir. Et quand une infrastructure tombe, on ne parle plus d’un bug. On parle d’un problème public.

La régulation avance, mais à plusieurs vitesses

Le haut-commissaire plaide pour des « human rights safeguards » et une diligence raisonnable obligatoires. À court terme, il juge aussi utile de mettre à jour les règles sur la responsabilité, la cybersécurité et la protection des données, en attendant des textes plus ciblés sur l’IA. Cette approche par couches a un mérite : elle peut agir avant que les grands cadres juridiques ne soient prêts.

Dans le même temps, l’industrie a déjà commencé à se doter de mécanismes de sécurité et d’auto-régulation. Volker Türk a cité l’accord signé le 29 septembre par six grandes entreprises d’IA à la Maison Blanche. Mais cet engagement reste, selon lui, seulement « morally binding ». Côté diplomatie, 29 pays et l’Union européenne soutiennent des contrôles plus stricts sur les modèles de frontière, tandis que la Chine et les États-Unis ont repoussé ces appels au profit d’une « AI hotline » destinée à gérer une crise éventuelle. Pratique, sur le papier. Un peu comme installer un bouton d’alerte après avoir laissé la porte du local ouverte.

New York, laboratoire de la bataille politique

La pression ne vient pas seulement des Nations unies. À New York, le conseil municipal examine 10 projets de loi pour encadrer l’usage de l’IA dans la plus grande ville des États-Unis. Lors d’une audience tenue le 5 octobre, des représentants d’Anthropic, OpenAI, Google et Meta ont répondu de manière jugée peu convaincante sur la manière de mesurer les risques. Elon Musk, lui, n’a pas répondu à la subpoena du conseil, ce qui n’a guère aidé à donner une image disciplinée du secteur.

Le conseil a aussi entendu Jacob Coxon, ancien lanceur d’alerte chez Anthropic, qui a estimé que « it is more likely than not that humanity loses control to these AIs and it could end in human extinction ». Alex Turner, ex-chercheur chez Google DeepMind, a de son côté averti qu’une IA « misaligned » pourrait devenir un adversaire plus dangereux que la Chine. Ces formules restent extrêmes, mais elles montrent le niveau de tension atteint dans le débat public.

Qui doit fixer les règles ? La question remonte jusqu’à la Cour suprême

Le cœur du sujet est désormais institutionnel. Volker Türk rappelle qu’aucun pays et aucune entreprise ne devraient définir seuls l’avenir de l’IA et des droits humains. Reste à savoir qui a le pouvoir d’imposer des limites dans un marché mondial qui se déplace plus vite que les législations nationales.

La réponse pourrait venir de la justice américaine. Selon la source, la capacité des États à réguler l’IA pourrait être tranchée indirectement par une affaire en Cour suprême liée au droit des États de poursuivre les compagnies pétrolières pour les dommages climatiques. Si ce dossier sert de proxy, il dira aussi jusqu’où une ville ou un État peut aller pour encadrer l’IA. Pour les régulateurs, la fenêtre se referme. Pour les entreprises, elle reste encore assez grande pour faire passer beaucoup de choses. Trop, peut-être.