Dies sind die dV-News 09-2023 und eine Auswahl an Artikel und Links mit einer neuen Reflexion über Vertrauen, inspiriert vom Hype, der ChatGPT ausgelöst hat, aber ohne dessen Nutzung.
Eine Pandorabüchse wurde geöffnet
Einige Wissenschaftler und Beobachter waren mit den Entwicklungen im KI-Bereich vertraut, aber für die breite Öffentlichkeit und fast alle Entscheidungsträger bricht eine neue Welt vor ihren Augen auf, die sehr unterschiedliche Gefühle hervorruft, von Faszination bis hin zu tiefer Besorgnis.
Über diese Entwicklungen zu sprechen und zu fordern, dass ihre Folgen antizipiert werden, hat bisher oft nur Gleichgültigkeit, Verleugnung und Widerstand hervorgerufen, bis auf höchster staatlicher Ebene. Die Gründer von digiVolution haben dies im Bereich der Souveränität, der Quanteninformatik oder auch des ganzheitlichen und systemischen Ansatzes im Zusammenhang mit der Cyberdefense oft erlebt, und in unseren Newsletter haben wir auch auf das fast völlige Fehlen von Prospektivforschung hingewiesen. In der Schweiz bleibt Antizipation immer noch ein Salongespräch. Die von den verschiedenen Institutionen erstellten Informationen – die verfügbar und oft auf sehr hohem Niveau sind – zirkulieren nicht und wird nicht genutzt.
KI ist ein gesellschaftlicher Umbruch, der zwingend observiert werden muss. Es handelt sich nicht um einen vorübergehenden «Hype», sondern um eine tektonische Bewegung. Und seit ChatGPT zum Thema geworden ist, wurde eine Lawine von weiteren Initiativen bekannt (1, 2, 3, 4). Als ob man eine Büchse der Pandora geöffnet hätten…! Und das ist erst der Anfang.
Bedarf an einer AOC für Information?
Es gab die Matrix-Filmreihe und das berühmte «Matrix Reloaded». Wird es wegen der KI auch ein «Trust Reloaded» geben müssen? Scheint zwingend zu sein, denn wie können wir wem vertrauen, auf der Grundlage welcher messbaren und überprüfbaren Kriterien, wenn jede Information in Form von Text, Ton oder Bild ohne jeglichen Bezug zur Realität erstellt und manipuliert werden kann und ohne Möglichkeit, den Ursprung oder den Autor festzustellen?
In der Einleitung dieses Newsletters behaupten wir, dass er nicht von ChatGPT verfasst wurde. Können wir das beweisen? Nein! Müssen wir das? Gibt es Fälle, in denen dieser Beweis notwendig sein könnte? Wenn ja, in welchen? Wäre es falsch, sich helfen zu lassen? Nein, unter Voraussetzung, dass die Informationen von guter Qualität sind.
Es scheint daher, dass wir angemessene Richtlinien brauchen, um zu zeigen, woher die Informationen stammen und wie sie erstellt wurden. Brauchen wir nach der AOC (kontrollierte Ursprungsbezeichnung) für Landwirtschaftsprodukte und Weine sowie dem Schutz des geistigen Eigentums (wie wird das von der KI respektiert?) eine AOC für Informationen?
Der Einsatz von KI explodiert geradezu, und die Wahrscheinlichkeit, dass die jüngsten Moratoriumsversuche – Kommunikation ohne Wirkung – die derzeitige Flucht nach vorn beeinflussen können, ist bestenfalls eine Illusion, sicher aber eine Verzögerungstaktik. Und in jedem Fall ist es zu spät, Reue zu empfinden und es ist fraglich, ob die Asilomar-Prinzipien der guten Regierungsführung eingehalten werden. Die nationalen Interessen und geopolitische Spannungen haben einen Punkt erreicht, an dem es kein Zurück mehr gibt, und es ist keine Zeit mehr fürs Zögern, sondern für Vorbereitung und Schutz. Es gibt bereits genügend KI-Risikoanalysen und leicht umsetzbare Massnahmen.
Wir wiederholen unseren Appell an die Politik: Es besteht dringenderHandlungsbedarf angesichts der Herausforderungen (Risiken und Chancen) der KI, wenn wir nicht wollen, dass die Schweiz ins Hintertreffen gerät und einen weiteren Verlust an Souveränität hinnehmen muss.
Cyberaktualität
Die Schüsselthemen, die uns in den vergangenen zwei Wochen beschäftigten.
- Medien unter Beschuss – Die Angriffe auf die NZZ und CH Media nehmen eine unangenehme Wendung, da die Erpresser zur Veröffentlichung der gestohlenen Daten übergegangen sind. Welche Folgen hat dies für die Schweizer Medienlandschaft? Eine grosse Schwächung, von der langfristig vor allem die digitalen Giganten profitieren werden. Neben dem finanziellen Schaden ist dies auch eine Niederlage für unsere politische und kulturelle Vielfalt und damit für die Demokratie.
- Für eine «Lex Huawei»? – Ja, zweifellos, wenn es um das nationale Interesse und die Sicherheit des Landes geht. Aber pass auf, dass wir nicht in die Falle eines primitiven Anti-Liberalismus tappen und dieses Gesetz nur für chinesische Produkte gilt, auch wenn es unumgänglich ist, einen wichtigen Schritt zur Verringerung unserer systemischen Abhängigkeiten von diesem Staat zu machen, dessen Politik uns zutiefst beunruhigen muss. Die Schweizerische Akademie der Technischen Wissenschaften SATW ist in dieser Hinsicht eindeutig. Dies setzt jedoch eine ernsthafte Risikoanalyse und eine klare Definition der für die Bevölkerung und die Wirtschaft lebenswichtigen Infrastrukturen (oder besser gesagt Dienstleistungen) voraus.
BOOKS & REPORTS
In Kürze
Die Hersteller von Spionageprogrammen machen keine Pause; die Empörung über die NSO-Group ist schon lange vorbei. Im Bereich der Quantencomputer scheint man endlich die Konsequenzen für die Sicherheit zu verstehen, denn der entscheidende Moment ist nicht der, in dem diese Maschinen alle aktuellen kryptographischen Algorithmen knacken; der Schlüsselmoment ist jetzt, wo Daten gestohlen werden, um sie später nach dem bekannten Prinzip Harvest Now, Decrypt Later (HNDL) zu verwerten.
Und ein Augenzwinkern zu unserem schönen Planeten, den manche Leute immer noch für flach halten … und die ihre Dummheit über soziale Netzwerke verbreiten! Bei digiVolution sprechen wir auch regelmässig über die Gefahr, die von Sonnenstürmen für die Elektronik und die elektrische Infrastruktur ausgeht. Laut NASA und NOAA wird der Juli 2025 der Höhepunkt des aktuellen Zyklus sein, dessen Anfänge vor kurzem die USA erreicht haben.
Wir wünschen Ihnen viel Spass beim Entdecken der ausgewählten Artikel und Links und freuen uns darauf, Sie bald wiederzusehen.
