Les enjeux des IA rapides sur les fronts modernes
La tribune de Laure de Roucy-Rochegonde, politiste et directrice du centre géopolitique des technologies de l’IFRI, met en lumière une inquiétude majeure: l’ampleur des actions pilotées par l’IA et leur succession rapide peuvent échapper à l’œil humain.
Elle souligne que la vitesse des systèmes autonomes pousse à des décisions en temps réel, modifiant les dynamiques de guerre et remettant en cause les garde-fous traditionnels.
Selon elle, le risque n’est pas seulement technique mais éthique: quand les algorithmes primalement efficaces dictent les manœuvres, la marge d’erreur humaine diminue et la responsabilité s’efface.
Gouvernance et limites humaines face à l’IA
Face à ce constat, elle appelle à une gouvernance plus robuste, où les décisions sensibles restent sous contrôle humain et les chaînes de responsabilité soient claires.
Elle plaide pour des cadres transparents, des normes internationales et un principe de l’homme au cœur des systèmes, afin de préserver la sécurité et l’éthique même lorsque les machines accélèrent les opérations.
Le message porte aussi sur l’investissement dans la recherche responsable, l’audit des algorithmes et une coopération entre alliés pour éviter une course à l’armement algorithmique qui déséquilibre le pouvoir et multiplie les risques d’escalade.