Lesefrüchte
Juni 2026
Hier sammeln wir Artikel, die auch über den Tag hinaus interessant sind und zitieren Auszüge. Um die Übersichtlichkeit zu erhalten, verschieben wir ältere Empfehlungen ins „Archiv“.
Lesefrüchte im vergangenen Monat
Axel Fersen: Antiqua et nova – und das deutsche
Nichts
Die folgende „Lesefrucht“ erschien hier Ende Mai und erscheint daher auch in den Juni-Lesefrüchten.
Axel Fersen: Antiqua et nova – und das deutsche Nichts. Gastbeitrag von Axel Fersen: Warum der Vatikan in der KI Frage weiter denkt als das Bundeskanzleramt
(...)
Dass ausgerechnet der Vatikan in dieser Frage gegenwärtig schärfer denkt als das Bundeskanzleramt, ist mehr als eine Pointe. Es ist ein Alarmsignal. Wer Antiqua et nova liest, findet dort eine nüchterne Aufzählung jener Gefahrenfelder, die im internationalen Fachdiskurs seit Jahren benannt werden: autonome Waffensysteme, deren Verbot der Vatikan unmissverständlich fordert; die Konzentration enormer Macht in den Händen weniger Konzerne; Desinformation und Deepfakes; algorithmische Diskriminierung und Social Scoring; die ökologische Last der Rechenzentren; der Verlust menschlicher Arbeit durch Substitution statt Begleitung; und nicht zuletzt — Abschnitt 101 der Note ist hier von beklemmender Klarheit — das von KI Forschern selbst beschriebene „existenzielle Risiko“ einer Technologie, „die in der Lage ist, auf eine Weise zu handeln, die das Überleben der Menschheit oder ganzer Regionen bedrohen könnte“.
Das ist nicht römische Apokalyptik, sondern die nüchterne Wiedergabe dessen, was Nobelpreisträger Geoffrey Hinton, Turing-Preisträger Yoshua Bengio, Stuart Russell von Berkeley, Demis Hassabis von Google DeepMind, Sam Altman von OpenAI und — bemerkenswerterweise — auch Dario Amodei, der CEO von Anthropic, mit zunehmender Dringlichkeit formulieren. Hinton, der sein Lebenswerk bei Google im Frühjahr 2023 öffentlichkeitswirksam aufgab, schätzte das Risiko einer Übernahme der Kontrolle durch KI auf „zehn bis zwanzig Prozent“; bei seinem Nobelpreis-Bankett in Stockholm warnte er vor „schrecklichen neuen Viren und grauenhaften tödlichen Waffen, die selbst entscheiden, wen sie töten oder verstümmeln“. Bengio leitet das Expertengremium hinter dem International AI Safety Report 2026. Amodei beschreibt in seinem im Januar 2026 veröffentlichten Memorandum, der Welt drohe binnen ein bis zwei Jahren ein „country of geniuses in a datacenter“, dessen Risiken Regierungen und Öffentlichkeit „dramatisch unterschätzen“.
(...)
Was Deutschland — anders als Großbritannien, die USA, Frankreich, Japan, Kanada, Indien, Singapur, Südkorea und Australien — nicht hat, ist ein staatliches AI Safety Institute mit dem klaren Auftrag, Frontier Modelle vor und nach ihrer Veröffentlichung systematisch zu evaluieren, die Bundesregierung in Fragen von KI und nationaler Sicherheit zu beraten und technische Forschung zu KI-gestützten Bedrohungen zu betreiben. Pikant: Deutschland hatte bereits 2024 in einer gemeinsamen Erklärung mit neun anderen Ländern und der EU empfohlen, dass Staaten eigene Institute für KI Sicherheit gründen sollten — und ist heute der einzige Unterzeichner dieser Erklärung außer Italien, der nicht Teil des internationalen Network of AI Safety Institutes ist. Man hat unterschrieben, ohne zu liefern.
Der Vatikan dagegen liefert — wenigstens auf der Ebene der ethischen Reflexion. Antiqua et nova benennt die Macht weniger Unternehmen als ethisches Problem ersten Ranges; sie warnt vor dem „technokratischen Paradigma“, das alle Probleme allein mit technologischen Mitteln zu lösen vorgibt; sie spricht in Abschnitt 100 deutlich aus, dass autonome tödliche Waffensysteme „ein ernster Grund für ethische Bedenken“ seien, und ruft zu einem Verbot auf: „Keine Maschine darf jemals die Wahl treffen können, einem Menschen das Leben zu nehmen“. Im Koalitionsvertrag der Bundesregierung findet sich von alldem so gut wie nichts. KI taucht dort als Wirtschaftsfaktor auf, als Modernisierungshebel der Verwaltung, als Verteidigungsressource für die Bundeswehr und — bemerkenswert — als Werkzeug für die „retrograde biometrische Fernidentifizierung“ durch Sicherheitsbehörden. Die Risikoanalyse aber, die der Vatikan auf siebzig Seiten leistet, fehlt fast vollständig.
Diese Abwesenheit ist umso bemerkenswerter, als die KI Risiken längst nicht mehr spekulativ sind. Anthropic selbst hat im November 2025 den Fall GTG 1002 öffentlich gemacht — einen Cyberangriff, bei dem ein Frontier-Modell agentisch gegen die Schutzmechanismen seines eigenen Herstellers eingesetzt wurde. Die Forschungsliteratur zu scheming, zu reward hacking, zu instrumental convergence und zu agentischer Fehlauslegung füllt mittlerweile Hunderte begutachteter Papers. Dass die deutsche Bundesregierung diese empirisch gesicherten Befunde nicht zum Anlass nimmt, eine eigene staatliche Risikobeobachtungsstelle zu errichten, ist nicht Vorsicht. Es ist Versäumnis.
(...)
