Chers Lectrices et Lecteurs
Voici les dV-News 06-2024 et leur sélection d’articles et liens. Un drôle de titre, inspiré d’un article de PublicCitizen, lui-même clin d’œil à la série des G.I. Joe – un groupe militaire international œuvrant pour la paix et disposant de puissantes technologies – et un autre titre de film culte dont nous avons détourné le nom du personnage central. Tout ça pour introduire un sujet important: l’usage de l’IA comme moyen de guerre.
La mutation numérique des armées ne s’est pas faite en un jour. Cependant, depuis le début du conflit en Ukraine, jamais la présence et l’influence des technologies de l’information et de la communication (TIC) n’ont été aussi prégnantes. Mais c’est aussi une guerre pleine de paradoxes avec du very high tech d’un côté et de l’autre des images que l’on pensait à jamais appartenir au passé: les tranchées boueuses que les soldats doivent se disputer avec des rats.
Les TIC sont partout. Le smartphone remplace désormais la lettre manuscrite rédigée entre les salves d’artillerie pour maintenir un semblant de lien avec les familles. Mais ce lien peut aussi se transformer en piège et permettre à l’ennemi de découvrir et de bombarder la position du soldat retranché. Les drones remplacent certes les jumelles et permettent, sans devoir risquer sa vie en patrouilles de reconnaissance, d’aller voir derrière les obstacles, de franchir les champs de mines ou d’explorer des bâtiments. Mais comme le faucon fondant sur le lapin imprudemment sorti de son terrier, un autre drone – une munition rôdeuse – peut à tout instant apporter silencieusement la mort depuis le ciel.
Les TIC sont partout. Les images en provenance d’Ukraine ont souvent montré d’ingénieux bricolages, mais de plus en plus il s’agit de systèmes sophistiqués dotés par leurs concepteurs de la plus grande efficacité et/ou létalité possible. Quoi de plus légitime quand il s’agit de gagner face à un ennemi qui ne fera pas de quartier? Depuis février 2022, l’innovation fait donc rage à tous les niveaux, comme lors de chaque conflit et de nombreux États sont passés en mode économie de guerre ou sont sur ce chemin. Dans une récente allocution, la Secrétaire adjointe à la Défense US, Kathleen Hicks, a en plus affirmé que le Pentagone avait mis en place les bases nécessaires pour «une armée basée sur les données et dotée de l’intelligence artificielle». Une accélération est ainsi en marche et tout le monde y contribue. Car au combat cela peut être vital.
Avec le projet Manhattan qui a conduit à la destruction d’Hiroshima et de Nagasaki, l’humanité a inventé le moyen de destruction ultime. Même si la bombe est omniprésente depuis lors, l’humanité a eu la sagesse d’éviter sa prolifération généralisée et son usage. Et heureusement, fabriquer une arme nucléaire n’est pas à la portée du premier venu.
Mais qu’en est-il de l’IA? Son prix d’entrée est infiniment plus faible, au point qu’une simple équipe peut développer des algorithmes dotés de puissantes cybercapacités destructrices ou de contourner les mesures de protection des LLM, avant de les intégrer dans une robotique en rapide essor. Quid alors d’États et/ou de grandes organisations disposant de moyens conséquents et bien décidés à gagner leurs guerres? Hésiteront-ils à développer et à utiliser des systèmes capables de décider eux-mêmes des cibles à détruire et de le faire en pleine autonomie? Hésiteront-ils à laisser l’IA lancer des missiles, même nucléaires comme le craint le Secrétaire général de l’ONU? À la guerre, le gagnant est souvent celui qui est le plus malin, le plus rapide et le plus précis. Et aussi celui qui raconte le mieux les histoires.
L’IA offre ces quatre qualités. Quels attaquants ou défenseurs renonceraient à disposer de la meilleure arme? Il est donc douteux que des signatures soient respectées par tous: États, individus, criminels, ou des entreprises mettant le profit au-dessus de tout, comme le montrent trop souvent les géants de la tech eux-mêmes. Il est également douteux que des principes comme ceux d’Asimov, très contestés et inapplicables, conduisent à des règles universellement et durablement respectées. L’IA a le potentiel, et elle le fait déjà, pour faire le bien, mais l’humanité saura-t-elle sauver le soldat rAIan?
BOOKS & REPORTS
Voici la liste des livres et publications d’intérêt découverts lors de nos recherches durant les deux dernières semaines. Et sur dVPedia, la rubrique dVLibrary avec son tout nouveau look and feel comprend déjà une centaine de titres avec leurs références et un résumé.
News significatives de la quinzaine
► Géopolitique – Pendant qu’en Europe, notre attention se focalise sur l’Ukraine et le Moyen-Orient, la situation en Asie échappe généralement à notre vigilance. Pourtant la situation ne cesse de se dégrader entre les deux Corées, du côté de Taiwan et en mer de Chine méridionale. Un potentiel de conflit croissant dans une région qui est ni plus ni moins l’atelier mondial du numérique. Nombreux sont toutefois encore les commentateurs qui qualifient ce risque, que nous rappelons régulièrement, d’improbable. Pour s’assurer que l’enjeu est identifié par tout le monde, nous vous invitons, chers Lectrices et Lecteurs à montrer largement autour de vous la figure ci-dessous. On y voit que l’impact d’une crise augmente en raison de la dépendance croissante de l’Occident par rapport à l’Asie en produits de l’écosystème numérique. Certes d’importantes décisions ont été prises pour relocaliser les productions de biens essentiels aux USA (l’Europe restant ainsi dépendante), mais leur construction ralentit. En effet, les pénuries de la période COVID se sont entre-temps résorbées et leur force d’incitation avec elles. On lit également dans cette figure – en raison des tensions dans la région – l’effet de la probabilité croissante de l’explosion de conflits ouverts. Ainsi, en termes de risque, on passe du point orange au point rouge. Quelles seraient les conséquences d’une interruption de la chaîne d’approvisionnement des produits du numérique? Comment le reste du monde pourrait-il y répondre? Existe-t-il des réponses satisfaisantes?
► L’intelligence artificielle générale (IAG) arrive – Que cela plaise ou non, rien ne pourra l’empêcher. Pour le pire ou pour le meilleur? La responsabilité que la seconde option s’impose incombe à l’humanité. La question qui occupe tous les esprits est «que restera-t-il à l’être humain quand l’IAG sera arrivée?». Nombreux sont celles et ceux qui estiment que tout ce qui est lié à la création et aux émotions restera l’apanage des seuls êtres humains. Vraiment? Les progrès observés depuis novembre 2022 et l’arrivée en trombe de ChatGPT devraient au contraire nous rendre humbles, tellement de choses qualifiées il y a peu encore d’impossibles le sont devenues dans l’intervalle. De tels énoncés, tout comme leur contraire ne sont donc que des hypothèses infondées, du wishful thinking comme disent les Anglo-saxons. Et avec les moyens de locomotion et de préhension adéquats, qu’est-ce qui empêchera un être synthétique dopé à l’IAG de faire tout ce que les humains font? En mieux!
► Mon auto et ma grue m’espionnent – Le 6 septembre 2023, la fondation Mozilla révélait l’ampleur de la captation de données par les voitures. L’information n’a déclenché pour ainsi dire aucune réaction dans les chancelleries, mais le sujet revient sur le devant de la scène avec des inquiétudes non seulement sur les voitures produites en Chine, mais également sur les grues portuaires. Le Président Biden vient d’ordonner à ce que les données des citoyens américains ne soient plus vendues aux entreprises russes et chinoises. À la lumière des tensions croissantes entre ces nations, on s’étonnera toujours du nombre de situations où malgré tous les embargos et les mises en garde, les entreprises et même les fonds de pension américains continuent à commercer étroitement avec elles. Paranoïa ou réalité? La question se pose aussi avec la Tesla utilisée par les Conseillères fédérales Leuthard et Sommaruga. La réponse d’armasuisse que le « mode gardien » de la voiture empêchait que tout soit enregistré dans et hors du véhicule et pour le moins courageuse.
► Suite de l’affaire Xplain – L’OFCS / NCSC a publié un rapport sur l’analyse des données divulguées par les attaquants. Parmi la masse de documents exposés sur le darknet l’analyse a fait apparaître environ 5’200 documents de l’administration fédérale avec des contenus sensibles (données personnelles, informations techniques, informations classifiées, mots de passe). Pourquoi des documents comprenant des informations sensibles n’étaient-ils pas chiffrés lorsqu’ils sont statiques? Toutes les informations sensibles étaient-elles correctement classifiées? Le résultat de l’enquête de la task force mise en place pour comprendre ce qui s’est passé et quelles sont les responsabilités est attendu pour fin mars. Peut-être y verra-t-on plus clair. Car il est important que les fautes commises dans cette affaire permettent à d’autres de s’améliorer. En parallèle, près de 7’000 contrats de fournisseurs informatiques de la Confédération ont été étudiés et 600 devront encore être examinés de plus près. Espérons que les enseignements permettront de faire progresser les pratiques et qu’ainsi la supply chain de la Confédération sera renforcée. La dernière phrase du rapport laisse toutefois craindre que nous en soyons éloignés, alors qu’un rapport de la révision interne du DDPS pointe des lacunes dans la cybersécurité de ce département. L’administration fédérale parviendra-t-elle un jour à devenir exemplaire? La redistribution récente des responsabilités au détriment de l’OFCS était-elle adéquate?
C’est tout pour cette édition. Nous espérons qu’elle vous a plu. Nous vous souhaitons également une enrichissante découverte des articles et liens sélectionnés et vous retrouverons dans 15 jours.
Merci de souscrire à dVPedia et ainsi de soutenir son développement au profit de tous.
Merci également de soutenir par vos DONS notre travail au profit de la sécurité, de la résilience et de la souveraineté de la Suisse.
Nous vous souhaitons une enrichissante découverte des articles et liens sélectionnés et vous retrouverons dans 15 jours.
