L'armée chinoise émet un avertissement concernant l'IA

« L'IA doit travailler en tandem avec les décideurs humains pour optimiser l'efficacité du commandement, en améliorant plutôt qu'en remplaçant les humains », a souligné l'Armée populaire de libération (APL) chinoise dans un article publié dans le PLA Daily le soir du Nouvel An, le 31 décembre 2024.

L'IA peut servir à renforcer les capacités humaines, par l'analyse de données, la simulation ou la planification, mais elle ne peut les remplacer, précise également l'article. « À mesure qu'elle évolue, l'IA doit rester un outil guidé par le jugement humain, garantissant que la responsabilité, la créativité et l'adaptabilité stratégique restent au cœur des décisions militaires », précise l'article.

Dans cet article, l'APL souligne que l'autonomie et la créativité humaines sont indispensables sur le champ de bataille. L'APL soutient que si les commandants humains peuvent réagir aux situations de manière dynamique et exploiter les faiblesses de l'ennemi, l'IA évolue dans des limites algorithmiques prédéterminées et ses réponses manquent souvent d'originalité.

L’APL s’oriente vers un modèle « les humains planifient et l’IA exécute », dans lequel la technologie est utilisée pour exécuter les stratégies et les tactiques développées par les commandants tout en conservant un élément de surveillance humaine.

L'APL privilégie également une structure où les machines analysent les données, fournissent des informations et recommandent des actions potentielles. Cependant, « les décisions finales incombent aux commandants humains, ce qui garantit la résistance aux erreurs liées à la nature « boîte noire » de l'IA », selon l'APL.