Les West Pointers peuvent être formés pour mieux évaluer et apprécier l’IA, selon une étude

Bien que les Américains fassent généralement moins confiance à l’IA que, par exemple, les Chinois, ils sont souvent prêts à accepter les mauvaises réponses d’un chatbot. Alors que les dirigeants du Pentagone encouragent une utilisation plus large de ces outils, un nouveau document offre des nouvelles rassurantes : les cadets de West Point peuvent être formés pour être plus sceptiques à l’égard des résultats de l’IA, tout en restant globalement optimistes quant à son potentiel.

Des chercheurs de l’Université de Georgetown, de l’Université de Pennsylvanie et de l’Académie militaire américaine ont publié la semaine dernière un article comparant 236 cadets de West Point à un échantillon démographiquement similaire de 702 membres du public. Le document explore biais d’automatisation—la tendance des humains à trop compter sur l’automatisation – et aversion pour les algorithmesune tendance à « se méfier prématurément des résultats automatisés d’une manière qui augmente le risque d’accidents ou d’erreurs ».

Une hypothèse qu’ils cherchaient à tester était que les pressions du combat inciteraient les militaires à faire confiance aux résultats erronés d’un système d’aide à la décision, ou DSS.

« De grandes puissances telles que les États-Unis, la Chine et la Russie expérimentent l’intégration de l’IA DSS dans leurs structures de commandement, réduisant ainsi les délais entre le capteur et le tireur », écrivent-ils. Cela pourrait conduire les agents « à déléguer le pouvoir de décision à l’AI DSS ».

L’armée est depuis longtemps aux prises avec des assistants de décision basés sur l’IA. Mais l’arrivée récente de grands modèles linguistiques comme ChatGPT, Claude et Gemini a conduit West Point à déclarer un objectif académique spécial pour l’année scolaire 2024-25 : « L’humain et la machine : leadership sur le champ de bataille émergent ».

Ceci et d’autres efforts semblaient fonctionner. Dans l’étude, les West Pointers ont démontré des « scores de connaissances en IA » près de deux fois supérieurs à ceux du grand public et étaient deux fois moins susceptibles de commettre une erreur de biais d’automatisation, c’est-à-dire de faire confiance à un chatbot erroné.

Les cadets étaient également plus susceptibles d’évaluer les résultats de l’IA en examinant les propres indicateurs de confiance de l’outil, ce que font peu d’utilisateurs réguliers.

« Ces résultats correspondent à la manière dont l’USMA cherche à former les cadets afin qu’ils puissent acquérir une confiance justifiée, c’est-à-dire être correctement calibrés afin que leurs attentes concernant la précision d’un système d’IA correspondent à la réalité de la précision du système », ont écrit les chercheurs.

Dans l’étude, environ deux fois plus de cadets que de membres du public ont exprimé leur inquiétude quant aux conséquences dangereuses de l’IA, mais ils étaient beaucoup moins susceptibles de qualifier l’IA de « sinistre ».

Les cadets étaient également plus enthousiastes quant au potentiel de la technologie : 87,7 % ont vu de fortes applications bénéfiques pour l’IA, contre 72,5 % du public, tandis que 79,5 % l’ont décrite comme « excitante », contre 61,6 % du public.

Michael C. Horowitz de l’UPenn, ancien secrétaire adjoint à la Défense chargé du développement des forces et des capacités émergentes, a déclaré : Défense Un que l’étude « montre à quoi pourraient ressembler certaines des opportunités de formation continue au sein de l’armée américaine au moins. Cela suggère que la formation visant à réduire le risque de biais d’automatisation pour le personnel militaire utilisant l’intelligence artificielle pourrait être efficace ».

Horowitz a noté que la formation des cadets n’est « probablement pas représentative de l’armée moyenne à l’heure actuelle, mais elle montre la voie à suivre, du moins pour l’armée américaine ».

Une telle formation pourrait également profiter au public américain, ce qui pourrait apaiser les inquiétudes des technologues et des dirigeants qui affirment que la confiance déclinante des Américains dans l’IA, par rapport aux populations chinoises, constitue un problème de sécurité nationale.