Der Nationale Sicherheitsrat beschließt das DE-AISI. Experten warnen vor starren Behördenstrukturen im globalen Wettlauf um die besten Frontier-Modelle.
Die Fortschritte bei der Entwicklung Künstlicher Intelligenz haben die Bundesregierung zu einem strategischen Kurswechsel bewogen. Nun trat sogar der Nationale Sicherheitsrat unter dem Vorsitz des Bundeskanzlers zusammen, um die Folgen fortgeschrittener KI-Modelle für die Cybersicherheit in Deutschland zu bewerten. Dabei beschloss er zugleich die Gründung eines KI-Sicherheitsinstituts. Das Deutsche AI Security Institute (DE-AISI) soll als zentrale Anlaufstelle fungieren, um Kapazitäten zur Analyse moderner KI-Modelle samt ihrer Risiken zu bündeln, den Informationsaustausch mit ausländischen Partnern zu intensivieren und auf einheitliche internationale Standards hinzuwirken.
Die Notwendigkeit einer solchen Institution zeichnete sich seit Monaten ab. Anfang Mai forderte das Bundesamt für Sicherheit in der Informationstechnik (BSI) Sofortmaßnahmen, um die digitale Souveränität Deutschlands zu gewährleisten und kritische Abhängigkeiten zu verhindern. Dass das BSI eine Instanz zur Bewertung von Frontier-KI-Modellen verlangt, liegt auch an der Dynamik des Marktes. Ein Beispiel ist das neue Modell Mythos von Anthropic, das auf das Finden von Programmierfehlern spezialisiert ist. Was Entwicklern hilft, kann von Angreifern missbraucht werden, um Schwachstellen auszunutzen. BSI-Chefin Claudia Plattner spricht bereits von einem Paradigmenwechsel bei den Cyberbedrohungen.
Aus der Wirtschaft kommt Rückhalt für den Regierungsbeschluss. Susanne Dehmel vom Bitkom-Vorstand betont, dass Deutschland so endlich mit Staaten wie Großbritannien, den USA oder Frankreich gleichziehe. Neue KI-Systeme eröffneten Chancen, brächten aber auch systemische Risiken für Deutschlands Sicherheit und Souveränität mit sich. Das DE-AISI sollte laut Bitkom ein klar abgegrenztes Forschungsmandat erhalten und ein Lagebild zu Frontier-Modellen erstellen. Fragen des Arbeits-, Verbraucher- und Datenschutzes oder der KI-Ethik seien an anderer Stelle bereits kompetent abgedeckt. Das Institut werde aber nur erfolgreich sein, wenn internationale Spitzenkräfte gewonnen werden, wofür eine Finanzierung auf britischem Niveau nötig sei.
Genau hier sehen Experten erhebliche Hürden. Während Verhandlungen zwischen Kanzleramt, Digital- und Innenministerium sowie BSI und Bundesnetzagentur laufen, zeichnet sich eine Ansiedlung beim BSI mit kleiner Personalausstattung im unteren zweistelligen Bereich ab. Vor diesem Szenario warnt Felix Sieker, KI-Experte der Bertelsmann Stiftung. Das britische Vorbild arbeite mit über einhundert Stellen weitgehend autonom. Es funktioniere durch politisches Commitment, Top-Recruiting und ein agiles Umfeld. Dem britischen AISI sei es so gelungen, Spitzenkräfte von OpenAI und anderen Marktführern zu gewinnen. Deshalb erhielt das Institut auch frühzeitig exklusiven Vorab-Zugang zu neuen Modellen wie Mythos.
Ein Knackpunkt im Kampf um Talente ist die deutsche Behördenkultur. Spitzenforscher sind oft bereit, für gesellschaftlich relevante Arbeit auf die hohen Gehälter der Tech-Konzerne zu verzichten – allerdings nicht in starren Amtsstrukturen. Experten plädieren deshalb für eine eigenständige Behörde nach dem Vorbild der Innovationsagentur Sprind. Dies würde es erlauben, Fachkräften echten Gestaltungsspielraum zu bieten und die starre Tarifbindung des öffentlichen Dienstes zu umgehen. Ohne diese Flexibilität drohe das neue deutsche Sicherheitsinstitut im internationalen Netzwerk, dem mittlerweile zahlreiche globale Partner angehören, vom Fleck weg den Anschluss zu verlieren.
Stefan Krempl
Keine Kommentare:
Kommentar veröffentlichen