Actualités
Actualités Tech

L’IA pourrait déclencher la «  guerre en essaim  » pour Tomorrow’s Fighter


Mais Missy Cummings, professeur à l’Université Duke et ancien pilote de chasse à la recherche de systèmes automatisés, affirme que la vitesse à laquelle la prise de décision pour les jets rapides signifie que tout système d’IA sera autonome.

Elle doute que l’IA avancée soit réellement nécessaire pour les batailles aériennes, où les avions pourraient être guidés par un ensemble plus simple de règles manuscrites. Elle se méfie également de la hâte du Pentagone d’adopter l’IA, arguant que des failles pourraient miner la confiance dans la technologie. «Plus l’IA créée par les DOD est mauvaise, moins les pilotes ou toute personne associée à ces systèmes leur feront confiance», a-t-elle déclaré.

Les avions de combat pilotés par l’IA peuvent éventuellement effectuer des parties de missions, telles que l’arpentage automatique d’une zone. Actuellement, les algorithmes d’EpiSci apprennent à suivre les mêmes protocoles qu’un pilote humain et à voler comme un autre membre de l’escadron. Gentile a effectué des vols d’essai de simulation dans lesquels l’IA est responsable d’éviter les collisions en vol.

L’adoption de l’IA uniquement dans l’armée semble s’accélérer. Le Pentagone pense que l’IA deviendra importante pour les guerres futures et la technologie de test pour tout, de la logistique et de la planification de mission au dépistage et au combat.

L’IA a commencé à infiltrer certains avions. En décembre, l’armée de l’air utilisé un programme d’IA pour contrôler le système radar dans l’avion espion U-2. Bien que ce ne soit pas aussi difficile que de piloter un avion de chasse, cela présente une responsabilité mortelle, car manquer un système de missiles au sol pourrait conduire à l’attaque du bombardier.

L’algorithme utilisé, est inspiré d’un algorithme développé par Alphabet filiale DeepMind, a appris à travers des milliers de missions qui simulent la navigation radar pour identifier les systèmes de missiles ennemis au sol, une tâche importante pour la défense dans une mission réaliste.

Will Roper, qui a démissionné de son poste de secrétaire adjoint de l’armée de l’air en janvier, a déclaré que la protestation partielle montrait que le déploiement d’un nouveau code pourrait être rapidement suivi sur les actifs militaires plus anciens. « Nous ne donnons pas les boutons de dérogation au pilote parce que nous voulons dire: » Nous devons être prêts à opérer de cette façon, là où l’IA contrôle vraiment la mission «  », a-t-il déclaré.

Mais Roper dit qu’il est important de s’assurer que ces systèmes fonctionnent correctement et qu’ils ne sont pas eux-mêmes vulnérables aux attaques. « Je crains que nous ne soyons trop dépendants de l’IA », a-t-il déclaré.

Le DOD était susceptible d’avoir des problèmes de confiance concernant l’utilisation de l’IA. UNE rapport Le mois dernier, le Centre des technologies émergentes et de la sécurité de l’Université de Georgetown a découvert que très peu de contrats militaires liés à l’IA mentionnaient la conception de systèmes fiables.

Margaret KonaevLe Pentagone semble être conscient de ce problème, mais c’est compliqué, car différentes personnes ont tendance à faire confiance à l’IA différemment, explique un chercheur du centre.

Une partie du défi vient du fonctionnement des algorithmes d’IA modernes. Avec l’apprentissage par renforcement, un programme d’IA ne suit pas un programme clair et peut parfois apprendre à se comporter de manière indésirable.

Bo Ryu, PDG d’EpiSci, a déclaré que les algorithmes de son entreprise étaient conçus conformément au plan de l’armée d’utiliser l’IA, avec un cadre responsable du déploiement de la force meurtrière.et peuvent être contrôlés à tout moment. L’entreprise développe également une plate-forme logicielle appelée Apprenez à connaître les troupeaux pour permettre à des groupes de drones civils de cartographier ou d’inspecter une zone en collaboration.

Il dit que le système d’EpiSci n’est pas seulement basé sur l’apprentissage par renforcement, mais a également des règles d’écriture manuscrite intégrées. « Le réseau neuronal a certainement beaucoup d’avantages et d’avantages, il ne fait aucun doute que », a déclaré Ryu. « Mais je pense que l’essence de notre recherche, la validité, est de déterminer où vous devriez et ne devriez pas. »


Les histoires avec WIRED sont plus étonnantes



Source link

Laissez un commentaire