Persistant AI

Dies sind die dV-News 11-2023 und eine Auswahl an Artikel und Links. Bevor wir uns dem Thema der letzten zwei Wochen zuwenden, gratuliert das digiVolution-Team Florian Schützzur bundesrätlichen Wahl als erster Direktor des künftigen Bundesamtes für Cybersicherheit ab dem 1. Januar 2024. Wir wünschen ihm alles Gute und werden alles tun, um ihn bei seiner Mission zu unterstützen. Eine erfreuliche Entscheidung, denn wie wir auf LinkedIn schrieben, ist der Mann kompetent, bescheiden und engagiert und es wäre verheerend gewesen, den Chauffeur mitten in der Fahrt zu wechseln!

«Gekommen um zu bleiben»

Eine Feststellung dominiert die Diskussionen seit Beginn des Jahres: die technologische Entwicklung und ihre Konsequenzen. Wie Prof. Diego Kuonen treffend schreibt, sind die KI und ihre zahlreichen Ableger «gekommen, um zu bleiben». Es geht also darum, (rasch) zu lernen, wie wir sie intelligent, sicher und bewusst in unser Leben integrieren können. Wie wir seit Anfang des Jahres deutlich machen, fasziniert die KI, aber sie macht auch Angst. Es gibt immer mehr Erklärungen, mit denen sich Wissenschaftler und Politikern Gehör schaffen wollen. Die jüngste und sinnbildlichste ist jene des Center for AI Safety, die sich in einem einzigen Satz zusammenfassen lässt (siehe unten). Eine starke Botschaft, die auch von Präsident Biden aufgegriffen wurde und davor warnte, dass die KI «das menschliche Denken überholen» könnte. Die westliche Weltmacht spricht hier also von allgemeiner künstlicher Intelligenz und gibt damit all jenen Recht, die befürchten, dass die technologische Singularität viel näher ist als das, was man gerne als «Science-Fiction-die-nicht-so-bald-kommt» abtut.

Die Wissenschaft hat sich oft sprunghaft entwickelt. Manchmal sogar durch Zufall (man spricht dann von Serendipität oder Einfallsreichtum). In gewisser Weise war dies auch bei ChatGPTder Fall, dessen Schöpfer anscheinend von einem unerwarteten Erfolg überrollt wurden. Im Gegensatz zu vielen anderen Entdeckungen ist der Fortschritt in dieser Disziplin der Haupttreibstoff, der ihre kontinuierliche Entwicklung antreibt, und alles deutet darauf hin, dass sie sich beschleunigt, nicht nur in grossen Unternehmen, von denen einige ChatGPT bereits für veraltet halten. Konkurrierende Lösungen wie Bard (Sie benötigen ein VPN, um die Sperren umzugehen, da Bard in der EU und der Schweiz aufgrund der DSGVO noch nicht verfügbar ist), Koala oder sogar Open Assistant erscheinen fast jede Woche auf der Bildfläche. Diese Plattformen generieren immer noch eine Menge Unsinn, aber wir stellen fest, dass rasend schnell Fortschritte erzielt werden und es fatal wäre, sie mit Selbstgefälligkeit zu betrachten.

Wir haben auch bereits festgehalten, dass es naiv wäre, die Bedenken einiger Entwickler und deren ethische Motivation für bare Münze zu nehmen und ihnen zu glauben, dass sie nur Systeme produzieren werden, die die Nutzer und die Welt respektieren. Der Fortschritt ist rasant und wir werden ihn nicht aufhalten, auch die wirtschaftlichen und machtpolitischen Herausforderungen zu verlockend sind.

Jeder verantwortungsbewusste Geist sollte verstehen, dass die potenziellen Risiken und Vorteile so gross sind, dass ihre Ignorierung wesentliche Gefahren für die Gesellschaft, eine potentielle wissenschaftliche und industrielle Herabstufung und die Sicherheit mit sich bringt. Ist diese Frage also gleicher Bedeutung wie die Risiken von Pandemien, Nuklearwaffen oder der Klimawandel? JA!

Wie die jüngsten Cyberangriffe auf die Schweiz, darunter der Angriff auf Xplain, der indirekt fedpol, den Zoll und Grenzsicherheit und die Armee betrifft (das echte Ausmass wird man später ermessen), wieder gezeigt haben, wird die Diskrepanz zwischen den Herausforderungen und unseren Investitionen in die Cybersicherheit die Situation immer unerträglicher machen. Sind sich unsere Entscheidungsträger aller Ebenen dessen bewusst? Und wenn die IBM Roadmap uns sagt, dass Quantencomputer im Jahr 2025 (also morgen) eine Kapazität von 4000 Qubits erreichen werden, verstehen sie dann, was gerade passiert und dass, wenn sie nicht handeln, ganze Bereiche unserer Interessen bedroht sind?

Cyberaktualität

Die Schüsselthemen, die uns in den vergangenen zwei Wochen beschäftigten.

• Nationale Nachrichtenagentur? – Aufgrund der besorgniserregenden Entwicklungen der SDA reichte Nationalrat Jon Pult ein Postulat ein. In seiner Antwort schlägt der Bundesrat drei Szenarien vor, darunter die Finanzierung einer föderalen Nachrichtenagentur. Bisher haben die Medien die SDA selber finanziert, aber da die Werbung nun weitgehend von anderen (socialmedia) Akteuren abgegrast wird, können sie dies bald nicht mehr materiell tun. Die Information ist zu einem Schlachtfeld mit Fakenews geworden und wir sind der Ansicht, dass der Kampf gegen Desinformation nunmehr eine soweit wie möglich neutrale regierungsamtliche Aufgabe ist. Die Medien und die Öffentlichkeit müssen über geprüfte Informationen verfügen.
• Meldepflicht für kritische Infrastrukturen bei Cyberangriffen – In der laufenden Session hat der Ständerat das Thema behandelt und den Vorschlag des Bundesrates für eine Meldefrist von 24 Stunden nach Entdeckung eines Angriffs an das NCSC unterstützt. Im Gegenzug lehnten zu Recht die kleine Kammer eine Meldepflicht für Schwachstellen ab; die Komplexität dieser Aufgabe wäre zu gross und würde auch die Schweiz zu einem Sonderfall machen.
• e-Learning für Kantone und Gemeinden – Die Konferenz der Kantonalen Justiz- und Polizeidirektoren KKJPD kündigte die bevorstehende Inbetriebnahme ihrer neuen Plattform zur Sensibilisierung für Cyberrisiken an. 14 Module werden in Kürze für die etwa 400.000 betroffenen Personen in den Verwaltungen zugänglich sein. Dies ist ein grosser Fortschritt, der auf das Engagement einiger Enthusiasten für das öffentliche Wohl zurückzuführen ist. Wir bei digiVolution konnten bereits damit «spielen» und haben nur einen Kommentar: Hut ab!
• Europa in Kürze – Welche Fliege hat die spanische Regierung gestochen? Der Schutz von Kindern vor Sexualverbrechern ist unbestritten, aber sind sich die Spanier und die Mitgliedstaaten, die diesen Vorschlag unterstützen, darüber im Klaren, was es bedeuten würde, wenn die Verschlüsselung in der EU verboten würde, um private Nachrichten nach illegalem Inhalt zu durchsuchen? Das vorgeschlagene Gesetz würde Technologieunternehmen dazu verpflichten, alle Nachrichten von Nutzern auf illegales Material zu untersuchen. Eine grosszügige Idee, aber technisch undurchführbar und unverhältnismässig, da weit mehr Interessen gefährdet würden als jene, die geschützt werden sollen. Die Illusion der Sicherheit um jeden Preis? Grosse Geldbusse von 1,3 Mrd. EUR für Meta. Das Unternehmen wird sicherlich Rechtsmittel einlegen, aber es ist zu hoffen, dass diese Ohrfeige die Tech-Giganten endlich aus ihren Praktiken aufrüttelt. In der Schweiz würde der Höchstbetrag der Geldbusse 250.000 CHF betragen. Wie abschreckend ist das? Meta müsste das Verfahren nur fünf Jahre lang verschleppen, um es zu neutralisieren. Unser Dispositiv? Einfach lachhaft.

BOOKS & REPORTS

Hier sind die Bücher und Publikation von Interesse, die wir bei unseren Recherchen in den letzten zwei Wochen gefunden haben.

In Kürze

Wie Hyperscaler ihre Milliarden verdienen💰 in einer Grafik. Anapaya, Erfinder der SCION-Lösung, zeigt uns, dass DDoS… noch nicht vorbei sind. Letzte Woche forderten wir, dass jeder ein wenig mehr Experte in Sachen KI werden sollte, bevor er darüber spricht. Swisscom gibt uns das Instrument in die Hand, um unsere Fähigkeiten zu verbessern.

Wir wünschen Ihnen viele lehrreiche Entdeckungen in den ausgewählten Artikeln und Linksund freuen uns darauf, Sie bald wiederzusehen.