Bundesregierung gründet KI-Sicherheitsinstitut: DE-AISI nach britischem Vorbild
KI-generiert mit ChatGPT
Deutschland bekommt ein eigenes KI-Sicherheitsinstitut. Das geht aus einer Mitteilung der Bundesregierung hervor. Der Nationale Sicherheitsrat hatte die Einrichtung am 9. Juni 2026 unter Vorsitz des Bundeskanzlers beschlossen. Das Institut soll moderne KI-Modelle systematisch analysieren. Als Arbeitstitel nennen der Branchenverband Bitkom und der TÜV-Verband „Deutsches AI Security Institute“, kurz DE-AISI. Deutschland folgt damit Staaten wie Großbritannien, den USA, Südkorea und Japan.
Ein KI-Sicherheitsinstitut ist eine staatliche Einrichtung, die prüft, was leistungsfähige KI-Modelle können und welche Gefahren von ihnen ausgehen. Vorbild ist laut Bundesregierung das britische AI Security Institute. Besagte Einrichtung startete 2023 als AI Safety Institute und trägt seit der Umbenennung im Februar 2025 den heutigen Namen. Bislang nahm in Deutschland vor allem das Bundesamt für Sicherheit in der Informationstechnik (BSI) Aufgaben in diesem Bereich wahr.
Was DE-AISI leisten soll
Das Institut startet zunächst als virtuelle Einrichtung. Statt einer neuen Behörde greift es auf bestehende Kapazitäten von BSI und Bundesnetzagentur zurück. Die Federführung liegt beim Bundesministerium für Inneres und Digitales. In einem zweiten Schritt soll ein fester Standort folgen. Ein genauer Zeitpunkt steht alelrdings noch nicht fest.
Das Institut soll mehrere Aufgaben übernehmen. Dazu gehören die Analyse der Fähigkeiten und Risiken moderner KI-Modelle sowie die Bewertung klassischer Cyberbedrohungen durch KI-Systeme. Eine weitere Aufgabe ist die Frage, ob Modelle gefährliche Handlungen auslösen können. Hinzu kommt die internationale Abstimmung. Das Institut soll sich mit vergleichbaren Einrichtungen austauschen und auf einheitliche Standards hinwirken.
Digital-Bundesminister Karsten Wildberger kündigte die Einbeziehung von „Weltklasse-Experten“ an. Konkrete Angaben zu Personal und Budget blieben aber vage. Bitkom empfiehlt eine Finanzierung auf dem Niveau des britischen Instituts, um im Wettbewerb um Fachkräfte bestehen zu können. Sowohl Bitkom als auch der TÜV-Verband begrüßten den Beschluss.
AnzeigeWelche Rolle Claude Mythos spielt
Die Bundesregierung nannte in ihrer Mitteilung keinen einzelnen Auslöser für die Gründung. Mehrere Berichte ordnen die Entscheidung in die Debatte über besonders leistungsfähige KI-Modelle ein. Als möglicher Anstoß gilt der eingeschränkte Zugang zu fortgeschrittenen Modellen von Anthropic. Genannte Modelle sind bei der Entdeckung unbekannter Sicherheitslücken überlegen.
Anthropic hatte den Zugriff auf sein Modell Claude Mythos Preview zunächst auf einen kleinen Kreis von US-Unternehmen und -Behörden beschränkt. Das Modell ist laut dem KI-Lab zu gut im Auffinden von Sicherheitslücken. Eine allgemeine Verfügbarkeit war aus diesem Grund zunächst nicht vorgesehen. Wir haben über diese Strategie im Artikel Anthropic baut sein mächtigstes Modell und sperrt es weg berichtet.
Schon zuvor hatte das BSI vor einer veränderten Bedrohungslage durch solche Modelle gewarnt. Die Einordnung des BSI als Paradigmenwechsel in der Cyberbedrohungslage zeigt, warum die Behörde das Thema früh aufgriff. Auch in Europa entstehen Antworten auf diese Entwicklung, etwa die Partnerschaft von Mistral und BNP Paribas.
Was offen bleibt
Die Details zur Ausgestaltung sind noch dünn. Wie groß DE-AISI werden soll, wie viele Mitarbeiter vorgesehen sind und welches Budget bereitsteht, ist bislang offen. Auch welche Kompetenzen die neue Einrichtung gerade in Abgrenzung zum BSI erhält, führte die Bundesregierung nicht aus. Ob der zunächst virtuelle Aufbau mit dem deutlich größer ausgestatteten britischen Vorbild gleichziehen kann, bleibt abzuwarten.
Unmittelbarer Handlungsbedarf für Unternehmen besteht laut den Berichten derzeit nicht. Sinnvoll ist es aber, die weitere Entwicklung zu verfolgen, da künftig Bewertungsrahmen und mögliche Auflagen für den KI-Einsatz entstehen können.
Server, KI-Modelle und Recherche kosten Geld. ClawNews ist unabhängig — hilf mit, dass das so bleibt.
