Liebe Leserinnen und Leser
Hier sind die dV-News 06-2024 und eine Auswahl an Artikeln und Links. Ein ungewöhnlicher Titel, inspiriert von einem Artikel von PublicCitizen, der selber eine Anspielung auf die G.I. Joe-Serie ist – eine internationale militärische Gruppe, die sich für den Frieden einsetzt und über mächtige Technologien verfügt – und einem weiteren Titel eines Kultfilms, von dem wir den Namen der Hauptfigur abgewandelt haben. All dies dient der Einführung eines ernsten Themas: dem Einsatz von KI im Krieg
Die digitale Mutation der Armeen vollzog sich nicht über Nacht. Seit Beginn des Konflikts in der Ukraine war jedoch die Präsenz und der Einfluss der Informations- und Kommunikationstechnologie (IKT) noch nie so prägnant. Aber es ist auch ein Krieg voller Paradoxien, mit viel very high Tech auf der einen Seite und Bildern auf der anderen Seite, von denen man dachte, dass sie für immer der Vergangenheit angehören würden: schlammige Schützengräben, in denen sich die Soldaten mit Ratten herumschlagen müssen.
IKT ist überall zu finden. Das Smartphone ersetzt nun den handgeschriebenen Brief, der zwischen den Artilleriesalven verfasst wurde, um eine vermeintliche Verbindung mit den Familien aufrechtzuerhalten. Aber diese Verbindung kann auch zur Falle werden und es dem Feind ermöglichen, die Position des verschanzten Soldaten zu orten und zu bombardieren. Drohnen ersetzen das Fernglas und ermöglichen es, hinter Hindernisse zu schauen, Minenfelder zu überqueren oder Gebäude zu erkunden, ohne das Leben von Aufklärungspatrouillen riskieren zu müssen. Aber wie der Falke, der sich auf das Kaninchen stürzt, das unvorsichtigerweise seinen Bau verlassen hat, kann eine andere Drohne – mit Streumunition – jederzeit still und leise den Tod aus der Luft bringen.
IKT ist überall zu finden. Die Bilder aus der Ukraine zeigten oft geniale Basteleien, aber immer häufiger handelt es sich um ausgeklügelte Systeme, die von ihren Entwicklern mit der grösstmöglichen Effizienz und/oder todbringender Wirkung ausgestattet wurden. Was könnte legitimer sein, wenn es um den Schutz vor einem Feind geht, der keine Gnade kennt? Seit Februar 2022 tobt die Innovation auf allen Ebenen, wie bei jedem Konflikt. Viele Staaten haben in den Kriegswirtschaftsmodus geschaltet oder sind auf dem Weg dazu. In einer kürzlichen Ansprache sagte zudem die stellvertretende US-Verteidigungsministerin Kathleen Hicks, dass das Pentagon die Grundlagen für eine «datengestützte Armee mit künstlicher Intelligenz» geschaffen habe. Es findet also eine Beschleunigung statt und alle tragen dazu bei. Denn dies kann im Kampf lebenswichtig sein.
Mit dem Manhattan-Projekt, das zur Zerstörung von Hiroshima und Nagasaki führte, hat die Menschheit das ultimative Zerstörungsmittel erfunden. Obwohl die Bombe seither allgegenwärtig ist, war die Menschheit klug genug, bisher ihre generelle Verbreitung und ihren Einsatz zu verhindern. Und glücklicherweise ist die Herstellung einer nuklearen Waffe ist nicht für jeden erschwinglich.
Wie sieht es mit der KI aus? Der Einstiegspreis ist ungleich niedriger, so dass ein einfaches Team Algorithmen mit mächtigen zerstörerischen Cyberfähigkeiten entwickeln, oder die Schutzmassnahmen der bestehenden LLMs umgehen kann, bevor diese in die sich rasch entwickelnde Robotik integriert werden. Was also ist mit Staaten und/oder grossen Organisationen, die über erhebliche Mittel verfügen und entschlossen sind, ihre Kriege zu gewinnen? Werden sie zögern, Systeme zu entwickeln und einzusetzen, die autonom entscheiden, welche Ziele sie zerstören? Werden sie zögern, die KI Raketen abfeuern zu lassen, sogar Atomraketen, wie der UN-Generalsekretär befürchtet? Im Krieg ist der Sieger oft derjenige, der am klügsten, schnellsten und genauesten ist. Und es ist auch derjenige, der die Geschichten am besten erzählt.
Die KI bietet alle vier Eigenschaften. Welcher Angreifer oder Verteidiger würde auf die beste Waffe verzichten? Es ist daher fraglich, ob sich alle an ihre vermeintlichen Erklärungen halten werden: Staaten, Einzelpersonen, Kriminelle oder Unternehmen, die den Profit über alles stellen, wie es die Tech-Giganten selbst allzu tun. Es ist auch fraglich, ob Prinzipien wie die von Asimov, die sehr umstritten und nicht durchsetzbar sind, zu Regeln führen, die einheitlich und dauerhaft eingehalten werden. Die KI hat das Potenzial, und tut es bereits, Gutes zu tun, aber wird die Menschheit den Soldaten rAIan retten können?
BOOKS & REPORTS
Hier die Liste der Bücher und Publikationen von Interesse, auf die wir anlässlich unserer Recherchen der letzten zwei Wochen gestossen sind. Und auf dVPedia bietet die Rubrik dVLibrary mit ihrem neuen Look and Feel bereits 100 Titel mit Referenzen und einer Zusammenfassung an.
Signifikante Nachrichten der letzten Wochen
► Geopolitik – Während sich unsere Aufmerksamkeit in Europa auf die Ukraine und den Nahen Osten konzentriert, wird die Beobachtung der Situation in Asien weitgehend vernachlässigt. Dort verschlechtert sich aber die Lage zwischen den beiden Koreas, in Taiwan und im Südchinesischen Meer laufend. Ein zunehmendes Konfliktpotential in einer Region, die nicht weniger als das globale digitale Entwicklungs-Atelier ist. Viele Kommentatoren bezeichnen jedoch noch dieses Risiko, auf das wir regelmässig hinweisen, als unwahrscheinlich. Um sicher zu gehen, dass die Gemengenlage von allen erkannt wird, laden wir Sie, liebe Leserinnen und Leser ein, ihrem breiteren Umfeld die folgende Abbildung zu zeigen. Damit wird deutlich, dass aufgrund der zunehmenden Abhängigkeit des Westens Produkten des digitalen Ökosystems aus Asien, die Auswirkungen einer Krise zunehmen. Zwar wurden wichtige Entscheidungen getroffen, um die Produktion von Kerngütern in die USA zu verlagern (somit bleibt Europa weiterhin abhängig), aber der Prozess verlangsamt sich. In der Tat sind die Engpässe aus der COVID-Periode mittlerweile überwunden und damit auch ihre Anreizwirkung.
In dieser Abbildung ist auch – aufgrund der Spannungen in der Region – der Effekt der steigenden Wahrscheinlichkeit des Ausbruchs von offenen Konflikten zu erkennen. In Bezug auf das Risiko bewegen wir uns also von einem orangefarbenen zu einem roten Punkt. Was wären die Folgen einer Unterbrechung der Lieferkette für digitale Produkte? Wie könnte der Rest der Welt darauf reagieren? Gibt es zufriedenstellende Antworten?
► Die allgemeine künstliche Intelligenz (AKI) kommt – Ob es uns gefällt oder nicht, nichts wird sie aufhalten können. Zum Schlechteren oder zum Besseren? Die Verantwortung für die zweite Option liegt bei der Menschheit. Die Frage, die alle beschäftigt, lautet: «Was bleibt dem Menschen, wenn die AKI kommt?» Viele sind der Meinung, dass alles, was mit Kreativität und Emotionen zu tun hat, einzig den Menschen vorbehalten bleibt. Ist das wirklich so? Die Fortschritte, die seit November 2022 und der stürmischen Ankunft von ChatGPT zu verzeichnen sind, sollten uns stattdessen demütig machen, sollten uns demütig stimmen, denn so vieles, was vor kurzem noch als unmöglich galt ist inzwischen möglich geworden. Solche Aussagen, wie auch ihr Gegenteil, stellen nichts weiter als nicht fundierte Hypothesen dar, wishful thinking, wie die Angelsachsen sagen. Und was hindert ein mit AKI gedoptes synthetisches Wesen daran, all das zu tun, was Menschen tun, wenn es die richtigen Mittel zur Fortbewegung und zum Greifen hat? Nur besser!
► Mein Auto und mein Kran spionieren mich aus – Am 6. September 2023 enthüllte die Mozilla Foundation das Ausmass des Datenabgriffs durch Autos. Die Information löste kaum eine Reaktion in den Staatskanzleien aus, aber das Thema ist wieder in den Vordergrund gerückt, da nicht nur in China produzierte Autos, sondern auch Hafenkräne Anlass zur Sorge geben. Präsident Biden ordnete an, dass die Daten von US-Bürgern nicht mehr an russische und chinesische Unternehmen verkauft werden dürfen. Angesichts der wachsenden Spannungen zwischen diesen Nationen ist es immer wieder erstaunlich, wie viele Situationen es gibt, in denen trotz aller Embargos und Warnungen US-amerikanische Unternehmen und sogar Pensionsfonds weiterhin enge Geschäfte mit diesen Ländern abschliessen. Angstmacherei oder Realität? Die Frage stellt sich auch beim Tesla, den die Bundesrätinnen Leuthard und Sommaruga benutzten. Die Antwort von armasuisse, dass der «Wächtermodus» des Fahrzeugs verhindere, dass alles in und aus dem Fahrzeug aufgezeichnet werde, war zumindest mutig.
► Fortsetzung der Xplain-Affäre – Das BACS veröffentlichte einen Bericht zur Analyse der Daten, die von den Angreifern offengelegt wurden. Sie ergab, dass unter der im Darknet veröffentlichten Masse an Dokumenten etwa 5’200 der Bundesverwaltung mit sensiblen Inhalten (persönliche Daten, technische Informationen, klassifizierte Informationen, Passwörter) gefunden wurden. Warum wurden Dokumente mit sensiblen Informationen nicht verschlüsselt, wenn sie statisch sind? Wurden alle sensiblen Informationen korrekt klassifiziert? Das Ergebnis der Untersuchung der Task Force, die eingerichtet wurde, um zu verstehen, was passiert ist und wer dafür verantwortlich ist, wird auf Ende März erwartet. Vielleicht werden wir dann Klarheit haben. Denn es ist wichtig, dass die Fehler, die in diesem Fall gemacht wurden, anderen helfen, sich zu verbessern. Parallel dazu wurden fast 7’000 Verträge von IT-Anbietern des Bundes untersucht, von denen 600 noch genauer geprüft werden müssen. Es bleibt zu hoffen, dass die Erkenntnisse zu einer Verbesserung der Praktiken führen und die Supply Chain des Bundes gestärkt wird. Der letzte Satz des Berichts lässt jedoch befürchten, dass wir davon noch weit entfernt sind, während ein Bericht der internen Revision des VBS Lücken in der Cybersicherheit des Departements aufzeigt. Wird es der Bundesverwaltung jemals gelingen, ein Vorbild zu sein? War die kürzliche Neuverteilung der Verantwortlichkeiten zu Lasten des BACS angemessen?
Das war’s für diese Ausgabe. Wir hoffen, dass sie Ihnen gefallen hat. Wir wünschen Ihnen zudem viele lehrreiche Erkenntnisse mit den ausgewählten Artikeln und Links und sehen uns in zwei Wochen wieder.
Bitte registrieren Sie sich für dVPedia und unterstützen Sie damit seine Entwicklung zum Nutzen aller.
Bitte unterstützen Sie auch unsere Arbeit für die Sicherheit, Widerstandsfähigkeit und Souveränität der Schweiz mit Ihrer SPENDE.
Wir wünschen Ihnen viele lehrreiche Erkenntnisse mit den ausgewählten Artikeln und Links und sehen uns in zwei Wochen wieder.
