Superintelligence : faut-il freiner la course à l’IA incontrôlée ?

Un appel international lancé en octobre 2025 par plus de 700 experts, parmi lesquels Geoffrey Hinton, Yoshua Bengio et Stuart Russell, réclame une pause dans le développement des intelligences artificielles dites « superintelligentes ». Cette demande intervient alors que les géants du secteur comme OpenAI, Google DeepMind ou Baidu multiplient les modèles toujours plus puissants, soulevant des inquiétudes sur les conséquences d’une évolution technologique qui pourrait dépasser notre capacité de contrôle.

Une course mondiale sans règles claires

Le terme « superintelligence » désigne une IA dont les capacités surpasseraient celles de l’humain dans presque tous les domaines, du raisonnement logique à la créativité, en passant par la planification stratégique et le sens moral. Pourtant, cette notion reste floue : personne ne sait précisément ce qu’elle recouvre ni comment la mesurer. Cette incertitude nourrit le débat sur la nécessité d’une pause, alors que les intérêts économiques et géopolitiques poussent à une compétition féroce entre États-Unis, Chine et Union européenne.

Les signataires de l’appel soulignent qu’une suspension unilatérale risquerait de faire perdre un avantage stratégique, mais que l’absence de coordination internationale rend cette pause indispensable pour éviter une dérive incontrôlée. Ils proposent la création d’une instance publique et indépendante chargée de superviser les développements les plus avancés, une idée qui fait écho au récent AI Act européen, lequel impose des règles strictes de transparence et de contrôle selon le niveau de risque des systèmes d’IA.

Un défi éthique et politique majeur

Au-delà des aspects techniques, la question de la superintelligence est profondément humaine et philosophique. Elle interroge notre capacité à nous gouverner face à une technologie potentiellement auto-améliorante et capable d’agir sans supervision. Les experts insistent sur la nécessité de réfléchir avant d’accélérer, car la superintelligence pourrait représenter un point de non-retour difficile à maîtriser.

Le flou sémantique autour de cette notion reflète aussi la complexité des intelligences elles-mêmes, qui ne se réduisent pas à des performances de calcul ou de raisonnement abstrait. Selon la théorie des intelligences multiples de Howard Gardner, il existe plusieurs formes d’intelligence, ce qui complique encore la définition d’une IA « supérieure » à l’humain.