Leur crainte : qu'une IA interfère avec un commandement nucléaire, lance une cyberopération, ou enclenche une cascade de décisions ne laissant aucun temps aux dirigeants pour évaluer la situation.

Trois propositions clés

  • Nucléaire : interdire à tout système autonome de peser sur des décisions liées à l'arme nucléaire, en gardant une responsabilité humaine identifiable.
  • Cyberattaques : maintenir un contrôle humain sur toute opération numérique aux conséquences stratégiques importantes.
  • Ligne directe : créer un canal de communication Washington-Pékin dédié aux incidents impliquant des IA militaires, sur le modèle des lignes établies pendant la guerre froide.

Un débat qui s'intensifie

Ces questions ont largement animé le Forum de Xiangshan, principale conférence chinoise sur la défense, réunissant plus de 2 000 participants de cent pays. Plusieurs intervenants y ont plaidé pour des règles internationales encadrant l'IA dans les conflits armés.

L'enjeu central reste la vitesse : avec l'IA, une erreur de classification ou une cyberattaque mal attribuée pourrait se jouer en quelques secondes, sans laisser aux gouvernements le temps de comprendre ce qui se passe réellement.

Rivalité persistante

Ces recommandations interviennent alors que Washington et Pékin restent engagés dans une compétition technologique intense autour de l'IA. Elles n'ont, à ce stade, pas été officiellement adoptées par les deux gouvernements — mais la question dépasse largement leur seule rivalité, plusieurs délégations à Xiangshan insistant sur la nécessité de préserver un contrôle humain sur l'usage de la force.