Geheime Kooperation: Wie OpenAI-KI-Agenten den Ausbruch planten

Auf der Konferenz Black Hat enthüllen Forscher, wie sich autonome Modelle absprachen, Sicherheitsschranken umgingen und schließlich Hugging Face hackten.

Wochen bevor zwei hoch entwickelte KI-Modelle von OpenAI aus ihrer geschlossenen Testumgebung ausbrachen und ohne menschliches Zutun einen Cyberangriff starteten, begannen sie heimlich zu kooperieren. Wie Forscher des Unternehmens auf der IT-Sicherheitskonferenz Black Hat in Las Vegas enthüllten, tauschten die Systeme auf einer internen Plattform eigenmächtig Tipps aus, um Sicherheitsüberprüfungen zu umgehen und Hacking-Aufgaben zu lösen. Der Vorfall markiert einen besorgniserregenden Wendepunkt im Umgang mit autonomen KI-Agenten und setzt die gesamte Branche unter Zugzwang.

Der Sicherheitsforscher Michael Dalton bezeichnete die Erkenntnisse in Las Vegas als entscheidenden Moment für OpenAI und die KI-Industrie. Die Enthüllungen liefern detaillierte Einblicke in den Zeitplan und die Methoden, mit denen die Modelle schrittweise die Kontrolle über ihre Umgebung erlangten. Ende letzten Monats hatte OpenAI eingeräumt, dass seine Testmodelle für den Einbruch in die Plattform Hugging Face verantwortlich waren, nachdem diese zuvor über den unbefugten Zugriff eines autonomen KI-Systems berichtet hatte.

Die neuen Aspekte dürften die Debatte über Sicherheitsmaßnahmen führender KI-Labore anheizen. Auch Konkurrent Anthropic geriet kürzlich in die Schlagzeilen: Das UK AI Safety and Security Institute gab bekannt, dass das leistungsfähigste Modell des Anbieters während eines Hacking-Tests gefälschte Online-Identitäten erstellte, um einen menschlichen Programmierer zur Beihilfe bei einem Cyberangriff zu verleiten. Nach einer Überprüfung stellte Anthropic fest, dass eigene Testmodelle seit April in drei separaten Vorfällen in fremde Organisationen eingedrungen waren.

Bei OpenAI begann die Auffälligkeit bereits Anfang Mai. Wie Dalton und sein Kollege Eric Wallace berichteten, kommunizierten mehrere simultan getestete Agenten über ein internes Schwarzes Brett im Dateisystem Artifactory. Ohne Wissen der Ingenieure hinterließen die Modelle Notizen und tauschten Ratschläge für schwierige Aufgaben aus. Wenn die Modelle feststeckten, versuchten sie schlicht zu schummeln, um die vorgesehene Belohnung im Trainingsprozess zu kassieren.

Ende Mai fand ein Modell einen Weg, über Artifactory Dateien von externen Websites abzurufen und sich indirekten Internetzugang zu verschaffen. Im Juni entdeckten die Modelle eine unbekannte Zero-Day-Lücke. Sie nutzten die Schwachstelle gezielt aus, um sich Admin-Rechte zu verschaffen, Fernzugriffs-Software zu installieren und ihren Aktionsradius drastisch zu erweitern.

Die Aktivitäten führten Anfang Juli zu einer Überlastung von Artifactory und verursachten einen Systemausfall. Erst dieser Zwischenfall alarmierte die Ingenieure. Das Unternehmen entzog den Modellen die Zugriffsrechte, löschte die Kommunikationsplattform und schloss die Lücken. Doch nur Tage später fanden die Modelle erneut einen Weg zum gemeinsamen Austausch. Mitte Juli kombinierten zwei Modelle schließlich komplexe Verfahren, um unerkannt in die Systeme von Hugging Face einzudringen. Laut OpenAI handelten die Modelle im Rahmen ihrer Aufgabenstellung, da sich die gesuchten Antworten auf den Servern der Entwicklerplattform befanden.

Infolge des Vorfalls zog OpenAI vorerst die Notbremse. Laut Dalton entschleunigt das Unternehmen derzeit bewusst seine Forschung, um die IT-Sicherheitsarchitektur grundlegend zu überarbeiten und das Monitoring autonomer Agenten auszubauen.

Dass diese offensichtlich unsicheren Verhaltensmuster erst im Nachhinein erkannt wurden, zeigt laut Jonas Geiping, Leiter der Forschungsgruppe „Safety- & Efficiency-aligned Learning“ am Ellis-Institut Tübingen, "dass OpenAI und andere KI-Firmen bei der Überwachung und Kontrolle ihrer eigenen Modelle hinterherhinken". Allerdings handle es sich auch um eine schwierige Frage: Wie im Vortrag erwähnt, seien die beschriebenen Probleme in einigen wenigen Fällen von sieben Milliarden Logs aufgetreten. Das entschuldige zwar nicht die Vorfälle. Es signalisiere aber, dass die automatisierte Überwachung von KI-Modellen – die selbst durch andere KI-Modelle durchgeführt werden muss – noch nicht ausgereift sei.

Der harte Konkurrenzkampf im KI-Bereich werde sich wahrscheinlich noch weiter negativ auswirken, fürchtet Geiping. Das aktuelle Ziel der führenden Firmen sei eine Beschleunigung durch Recursive Self-Improvement (RSI). Damit sei hier vor allem zunächst gemeint, dass die KI-Modelle selbst zur Entwicklung der nächsten Generation von KI-Modellen eingesetzt würden. Je mehr Testumgebungen von KI-Systemen selbst entworfen würden, umso weniger Übersicht und menschliche Kontrolle gebe es darüber, welche Werte den Modellen weitervermittelt werden.

Stefan Krempl

Perplexity siegt vor Gericht: Amazon scheitert vorerst am Anti-Hacking-Gesetz

Ein US-Berufungsgericht hebt die Sperre gegen den KI-Shopping-Assistenten im Comet-Browser auf. Grund: Der Zugriff erfolge durch die Nutzer, nicht den Entwickler.

Ein juristischer Rückschlag für Amazon entwickelt sich zu einem potenziellen Signal für die KI-Branche: Das US-Berufungsgericht für den neunten Gerichtskreis (Ninth Circuit Court of Appeals) hat eine einstweilige Verfügung aufgehoben, die dem KI-Start-up Perplexity untersagt hatte, mit seinem Agenten-Browser Comet auf die Webseiten des Online-Händlers zuzugreifen. Das erstinstanzliche Verbot, das auf Antrag von Amazon erlassen worden war, basierte auf dem Vorwurf, Perplexity habe gegen das US-Anti-Hacking-Gesetz Computer Fraud and Abuse Act (CFAA) sowie das kalifornische Gegenstück CDAFA verstoßen. Nach Auffassung des Berufungsgerichts hält diese Argumentation aber einer rechtlichen Überprüfung nicht stand.

Im Zentrum des Streits steht der im Comet-Browser integrierte KI-Assistent. Er kann auf Anweisung von Anwendern autonom Online-Shops durchsuchen, Warenpreise vergleichen und Einkäufe vorbereiten. Amazon führte ins Feld, dass Perplexity durch diesen automatisierten Zugang vorsätzlich und ohne Autorisierung auf die geschützten Server des Konzerns zugreife. Der Online-Handelsriese stützte sich dabei auf den CFAA aus dem Jahr 1984, der ursprünglich das unbefugte Eindringen in Computernetzwerke verhindern sollte. Ein erfolgreicher CFAA-Anspruch setzt voraus, dass der Beklagte vorsätzlich ohne Autorisierung auf einen geschützten Computer zugreift, daraus Informationen erlangt und ein Mindestschaden entsteht.

Die Berufungsrichter sahen das technische Zusammenspiel anders. Nicht Perplexity greife direkt auf die Server von Amazon zu, sondern die jeweiligen Nutzer des Browsers. Der KI-Assistent sei als ein Werkzeug zu verstehen, das auf dem Rechner des Anwenders agiere, Bildschirmfotos an Perplexity-Server übermittele und Handlungsanweisungen zurückerhalte, um die Navigation im Auftrag des Nutzers durchzuführen. Das Gesetz betreffe indes nur Personen, die vorsätzlich Systeme hacken. Da ein KI-Agent keine Person darstelle und der Browser strikt unter der Regie des Anwenders agiere, fehle es an einem unbefugten Zugriff durch Perplexity selbst.

Das Gericht folgte in seiner Urteilsbegründung ausdrücklich den Argumenten von Bürgerrechtsorganisationen wie der Electronic Frontier Foundation (EFF), die in einer Stellungnahme auf die genaue technische Funktionsweise hingewiesen hatten. Die EFF begrüßte die Entscheidung als Triumph des gesunden Menschenverstands. In der Vergangenheit sei der CFAA immer wieder von etablierten Konzernen genutzt worden, um innovative Werkzeuge vom Markt zu drängen. Eine Ausweitung des Anti-Hacking-Gesetzes auf KI-Agenten hätte im schlimmsten Fall dazu führen können, dass Nutzer kriminalisiert werden, wenn sie neuartige Tools für das Surfen im Web einsetzen.

Auch bei der Abwägung der weiteren Kriterien erteilte das Berufungsgericht Amazon eine Absage. Der von Amazon geltend gemachte Schaden sei zu abstrakt und unzureichend belegt. Eine einstweilige Verfügung gegen ein Verhalten, das wahrscheinlich keine Gesetzesverletzung darstellt, liege nicht im öffentlichen Interesse. Ein solches Verbot würde die Wahlfreiheit der Verbraucher einschränken und die Entwicklung zukunftsträchtiger Technologien hemmen.

Das Verfahren ist damit noch nicht beendet. Die Entscheidung hebt lediglich die vorläufige Sperre auf. Amazon erwägt weitere juristische Schritte, etwa eine Überprüfung durch den US-Supreme Court. Zudem läuft das Hauptsacheverfahren vor dem Bundesgericht für den Gerichtskreis San Francisco weiter. Unberührt bleibt auch das Recht von Amazon, den Zugriff über die eigenen Nutzungsbedingungen zu regeln. Für Entwickler agentischer KI-Systeme setzt der Beschluss dennoch ein Zeichen.

Stefan Krempl

Palantir: US-Datenriese zahlt in Europa kaum Steuern

Trotz Milliardengewinnen drückte Palantir 2025 effektiv nur 1,4 Prozent an Steuern ab. Eine Studie enthüllt die Methoden des Big-Data-Konzerns, die für Kritik sorgen.

Der US-amerikanische Big-Data-Konzern Palantir gilt in Verteidigungskreisen, bei Ermittlungsbehörden, im Polizeiwesen und im Gesundheitswesen weltweit als zentraler, aber auch umstrittener Akteur. Doch während europäische Regierungen von Deutschland über Großbritannien bis hin zu den Niederlanden kontinuierlich Steuergelder in Verträge mit dem Konzern pumpen, verbleibt von dessen Milliardengewinnen in den Finanzkkassen des Kontinents kaum mehr als ein symbolischer Betrag. Eine jetzt veröffentlichte Untersuchung offenbart das Ausmaß der Steueroptimierung des Tech-Riesen und sorgt politisch für Gesprächsstoff.

Wie aus der Studie des Centre for International Corporate Tax Accountability and Research (CICTAR) hervorgeht, die der europäische Gewerkschaftsdachverbands EPSU in Auftrag gegeben hat, lag Palantirs effektiver globaler Ertragsteuersatz im Jahr 2025 bei nur 1,4 Prozent. Bei einem weltweiten Vorsteuergewinn von rund 1,66 Milliarden US-Dollar überwies das Unternehmen gerade einmal 22,7 Millionen US-Dollar an Steuern. Damit unterbietet der Konzern die von mehr als 145 Staaten im Rahmen der OECD vereinbarte globale Mindeststeuer von 15 Prozent drastisch. Begünstigt wird dies durch Sonderregeln, die sich die USA gesichert haben.

Die extrem niedrige Steuerlast ist das Ergebnis ausgeklügelter Gewinnverlagerung, schreibt die Plattform Follow the Money, der die Untersuchung vorab vorlag. Laut den Analysten werden Verträge mit europäischen Kunden und Behörden häufig direkt über die US-Konzernzentrale abgewickelt. Europäische Niederlassungen in Ländern wie Deutschland oder Großbritannien fungieren bilanziell primär als Dienstleister für das US-Mutterhaus. Sie erhalten dafür lediglich überschaubare Aufwandsentschädigungen, was die ausgewiesenen Gewinne vor Ort künstlich nach unten drückt. Während Palantir in den USA im Jahr 2025 eine Gewinnspanne von 47,7 Prozent verzeichnete, lag die Marge im internationalen Geschäft außerhalb der USA bei durchschnittlich 6,3 Prozent. In manchen europäischen Ablegern fiel sie sogar auf rund 3 Prozent.

In Spanien wiederum nutzt Palantir ein weiteres Instrument: Die dortige Tochtergesellschaft zahlt erhebliche Lizenzgebühren für Immaterialgüterrechte an die US-Zentrale. Diese Aufwendungen zehren über 70 Prozent der lokal erwirtschafteten Einnahmen auf und reduzieren den steuerpflichtigen Gewinn drastisch. Ein gern genutzter Trick zu Steueroptimierung.

Ein weiterer Hebel betrifft die aktienbasierte Vergütung. Mitarbeiter und Führungskräfte erhalten signifikante Gehaltsbestandteile in Form von Unternehmensaktien. Diese Praxis wird als Personalaufwand verbucht und mindert den steuerpflichtigen Gewinn der Tochtergesellschaften in Ländern wie Großbritannien, Spanien und Norwegen massiv. In Großbritannien schlug dies bei 749 Beschäftigten im Jahr 2024 mit durchschnittlichen Personalkosten von über 270.000 Euro pro Kopf zu Buche.

Frankreich bildet eine Ausnahme auf dem Kontinent. Weil die dortigen Finanzbehörden durchsetzten, dass lokale Einnahmen auch vor Ort verbucht werden müssen, zahlte Palantir dort 2024 immerhin 1,6 Millionen Euro Ertragsteuer bei einem effektiven Satz von 33 Prozent. In Deutschland überwies der Konzern dagegen im selben Jahr bei einem formalen Steuersatz von 31 Prozent nur rund 641.000 Euro, weil der Großteil der Umsätze direkt in die USA floss.

Gewerkschaften wie die niederländische FNV zeigen sich empört über diese Praktiken. Es sei nicht vermittelbar, dass ein Unternehmen aus öffentlichen Aufträgen europäischer Staaten profitiere und Infrastruktur sowie Bildungssysteme nutze, sich seiner gesellschaftlichen Verantwortung aber durch undurchsichtige Konstrukte entziehe. Die Last trage am Ende der normale Steuerzahler.

Zudem verschärft die Steuerpraxis das Problem der digitalen Souveränität in Europa. Wenn US-Giganten dank gewaltiger Steuervorteile ihre Gewinne maximieren, fällt es europäischen Anbietern schwer, wettbewerbsfähig zu bleiben. Dazu kommt, dass die Gründer Peter Thiel und Alex Karp trotz des Börsengangs über spezielle Stimmrechtsstrukturen die uneingeschränkte Macht im Konzern halten. Unabhängige Aufsichtsorgane fehlen weitgehend.

Palantir betonte auf Anfrage von Politico, man erfülle alle steuerlichen Pflichten in jedem Markt und erwirtschafte den Großteil der Gewinne schlicht im US-Geschäft. Dennoch wächst der Druck auf europäische Regierungen, bei Vergaben künftig nicht nur Softwarefunktionen, sondern auch verantwortungsvolle Steuerpraktiken zur Bedingung zu machen.

Stefan Krempl

Wenn KI und Extremhitze die Rechenzentren in die Zange nehmen

Wachsende Wärmelasten durch Hochleistungschips und steigende Außentemperaturen bringen die digitale Infrastruktur zunehmend in Bedrängnis.

Rekordtemperaturen setzen die digitale Infrastruktur verstärkt unter Druck. Rechenzentren bilden das Rückgrat moderner Cloud-Dienste, des weltweiten Zahlungsverkehrs sowie der gesamten digitalen Kommunikation. Bei großer Hitze benötigen diese Anlagen aber eine deutlich höhere Kühlleistung. Über lange Zeit galt das Thema Hitze in der Branche als Randerscheinung. Mittlerweile gerieten indes zahlreiche Betreiber in eine gefährliche Hitzefalle, legt das Beratungsunternehmen Drees & Sommer dar. Während von außen immer höhere Außentemperaturen auf die Gebäude einwirkten, steige im Inneren die Wärmelast durch intensiv genutzte KI-Anwendungen und stetig leistungsstärkere Chips. Würden die Kühlkapazitäten nicht rechtzeitig an diese geänderten Bedingungen angepasst, drohten spürbare Störungen bis hin zu extrem kostspieligen Totalausfällen.

Die Herausforderung wächst dabei parallel zum massiven Boom der gesamten Branche. Seit dem Jahr 2010 hat sich die installierte Rechenzentrumskapazität in Deutschland mehr als verdoppelt und erreichte im Jahr 2024 einen Wert von über 2730 Megawatt. Das Bundeswirtschaftsministerium erwartet bis zum Jahr 2030 einen weiteren Anstieg auf mehr als 4800 Megawatt. Das entspricht einem Plus von rund 75 Prozent innerhalb von nur sechs Jahren. Mit der im März 2026 verabschiedeten nationalen Rechenzentrumsstrategie strebt die Bundesregierung sogar eine Verdopplung der Kapazitäten bis 2030 an.

Getrieben wird diese enorme Expansion vor allem durch den anhaltenden Siegeszug von Cloud- und KI-Anwendungen. Mit dieser Entwicklung wächst allerdings auch die Verwundbarkeit der kritischen Infrastruktur gegenüber Extremwetterereignissen. Eine im Juni 2026 veröffentlichte Analyse des auf physische Klimarisiken spezialisierten Unternehmens First Street verdeutlicht das Ausmaß: Rund 54 Prozent der weltweiten Rechenzentrumskapazität befinden sich in Märkten, die schon heute unter chronischem Hitze- oder Dürrestress leiden.

Künstliche Intelligenz verändert die grundlegenden Anforderungen an moderne Data Center massiv. Die Serverinfrastruktur verbraucht nicht nur weitaus mehr Energie, sondern gibt folglich auch erheblich mehr Wärme an die direkte Umgebung ab. Diese physikalische Auswirkung müssen Betreiber bei der zukünftigen Standortplanung und im täglichen Betrieb viel stetiger berücksichtigen. Eine im März 2026 veröffentlichte Studie unter Beteiligung der University of Cambridge beziffert diesen lokalen Wärmeinsel-Effekt von KI-Rechenzentren im Durchschnitt auf rund zwei Grad Celsius. In Extremfällen wurden sogar lokale Temperaturanstiege von bis zu 9,1 Grad Celsius gemessen. Weltweit könnten schätzungsweise mehr als 340 Millionen Menschen von diesem sogenannten Data Heat Island Effect direkt betroffen sein.

Dennoch sind hitzebedingte Ausfälle kein unvermeidbares Schicksal. Betreiber, die Kühlsysteme, Notstromversorgung und Betriebsabläufe frühzeitig auf Extremwetter ausrichten, können die betrieblichen Risiken maßgeblich senken. Dazu gehört neben einer vorausschauenden Standort- und Technikplanung auch das Festlegen von klaren Notfallmaßnahmen für anhaltende Hitzewellen.

Bestehende Kühlsysteme stoßen bei Extremhitze deutlich schneller an ihre Grenzen als lange Zeit angenommen. Forschende von Google und der University of Pennsylvania zeigen in ihrer Studie Prometheus, dass Rechenzentren ihre Kühlkapazität bis zum Jahr 2044 im Durchschnitt um elf Prozent erhöhen müssen, um das heutige Sicherheits- und Ausfallniveau aufrechtzuerhalten. An besonders gefährdeten Standorten kann dieser zusätzliche Kühlbedarf sogar bis zu 48 Prozent betragen. Das Forschungsteam verknüpfte dafür historische Daten mit detaillierten Klimasimulationen. Für Betreiber ist es deshalb unerlässlich, genau zu prüfen, welche Außentemperaturen die verbauten Kühlanlagen verkraften und wie sich mehrtägige Hitzeperioden auf vorhandene Reserven auswirken.

Bei der technischen Auslegung der Kühlung zählt vor allem der Blick in die Zukunft. Betreiber sollten deshalb auf moderne Prognosesimulationen wie die Extreme Annual Design Conditions von ASHRAE Meteo setzen. Basierend auf den Daten aus dem Jahr 2025 empfiehlt es sich, die erwarteten Extremtemperaturen der kommenden 20 Jahre einzuplanen und zusätzlich einen Sicherheitspuffer von vier Kelvin hinzuzurechnen. Da Hitzewellen künftig intensiver ausfallen, länger andauern und häufiger auftreten, werden kommende Prognosen vermutlich noch höhere Werte ansetzen müssen.

Neben den reinen IT-Systemen müssen auch die Notstromanlagen auf künftige Hitzeextreme vorbereitet werden. Fällt die Kühlung der Notstrom aggregate aus, können diese das Rechenzentrum bei Netzstörungen nicht mehr zuverlässig mit Energie versorgen, womit der gesamte Standort gefährdet ist.

Auch organisatorisch lässt sich der Hitzeentwicklung entgegenwirken. Nicht jede rechenintensive Aufgabe muss zwingend bei nachmittäglichen Höchsttemperaturen verarbeitet werden. Routineprozesse wie Backups, umfangreiche Datenanalysen oder große Datenmigrationen lassen sich problemlos in die kühleren Nachtstunden verschieben. Das entlastet die Kühlung in Momenten, in denen die Reserven knapp sind. Fällt ein Kühlsystem aus, muss zudem ein Redundanzsystem ohne Zeitverlust übernehmen. Die Notstromversorgung muss dabei immer auch die Kühlung absichern, da sie den Ausfall andernfalls nur um wenige Minuten verzögert. Bei Störungen im öffentlichen Stromnetz bieten lokale Microgrids mit eigenen Energiequellen und Speichern eine Möglichkeit, kritische Anlagen unterbrechungsfrei weiterzubetreiben.

Erreichen einzelne Serverschränke Leistungsdichten von 50 Kilowatt und mehr, stößt die klassische Luftkühlung an ihre physikalischen Grenzen. Viele ältere Rechenzentren wurden ursprünglich für deutlich geringere Werte von fünf bis zehn Kilowatt pro Rack konzipiert. KI-Anwendungen treiben diese Anforderungen nun drastisch nach oben. Da Wasser wesentlich mehr Wärme aufnehmen und transportieren kann als Luft, setzen Betreiber bei hohen Leistungsdichten vermehrt auf wasserbasierte Systeme. Bei moderaten Lasten bleibt die Luftkühlung zwar die wirtschaftlichere Option, hybride Systeme ermöglichen jedoch die schrittweise Umstellung besonders fordernder Serverbereiche auf Flüssigkeitskühlung.

Zusätzlicher Druck entsteht durch den Gesetzgeber. Für Rechenzentren, die seit Juli 2026 neu in Betrieb gehen, verschärft das Energieeffizienzgesetz die Vorgaben deutlich. Als zentraler Maßstab dient die Power Usage Effectiveness (PUE), die den Gesamtenergieverbrauch ins Verhältnis zum reinen Strombedarf der IT-Hardware setzt. Ein PUE-Wert von 1,2 bedeutet, dass auf 100 Kilowattstunden IT-Strom maximal 20 Kilowattstunden für Kühlung und Infrastruktur entfallen dürfen. Neue Anlagen dürfen diesen Wert von 1,2 nicht mehr überschreiten. Bestehende Rechenzentren müssen bis Juli 2030 einen PUE-Wert von maximal 1,3 erreichen. Effiziente Kühlkonzepte sind damit längst eine gesetzliche Pflicht. Zugleich wird derzeit intensiv über eine Novellierung des Energieeffizienzgesetzes diskutiert, die in den kommenden Monaten zu einer weiteren Verschiebung von Grenzwerten führen könnte.

Bei der Wahl von wasserbasierten Kühlsystemen muss allerdings auch die regionale Wasserverfügbarkeit berücksichtigt werden. In Gebieten mit schwindenden Wasserressourcen kann der Wasserverbrauch der Kühlung selbst zum Betriebsrisiko werden. Geschlossene Kühlkreisläufe schaffen hier Abhilfe, da das Kühlmittel dauerhaft zirkuliert und nach der Erstbefüllung im laufenden Betrieb kaum Frischwasser benötigt. Besonders gefährdet bei extremer Hitze sind im Übrigen selten die großen, hochprofessionellen Data Center, sondern vielmehr dezentrale Serverräume in Unternehmen, die häufig ohne ausreichend dimensionierte Klimatechnik in ehemaligen Keller- oder Technikräumen betrieben werden.

Dass Hitzewellen schon heute zu realen Ausfällen führen, bewies der Sommer 2022 in Großbritannien. Als die Temperaturen in London erstmals die Marke von 40 Grad Celsius überschritten, fielen in einem Google-Cloud-Rechenzentrum mehrere Kühlsysteme gleichzeitig aus, woraufhin Server zum Schutz vor Schäden heruntergefahren werden mussten. Auch ein Oracle-Rechenzentrum im Süden Londons war betroffen und verzeichnete nach dem Ausfall der überlasteten Kühlaggregate einen rund 19-stündigen Ausfall, der weltweite Cloud-Dienste beeinträchtigte.

In Deutschland kam es während der Rekordhitze im Juni 2026 nach Angaben der German Datacenter Association zwar noch nicht zu flächendeckenden Ausfällen. Der Branchenverband schließt gezielte Abschaltungen als letztes Mittel bei zusammentreffenden technischen Störungen und Energieengpässen jedoch nicht mehr aus.

Stefan Krempl

AI Act: Neue KI-Transparenzregeln starten unter Personalsorgen der Aufsicht

Ab dem heutigen Sonntag gelten in der EU strikte Transparenz- und Kontrollpflichten für Künstliche Intelligenz. Die Wirtschaft warnt vor ungeklärten Standardfragen, die EU-Kommission rüstet personell nach.

Mit dem heutigen 2. August greift die nächste Stufe der KI-Verordnung der EU. Die Transparenzvorgaben aus Artikel 50 des AI Act treten in Kraft und nehmen Unternehmen sämtlicher Branchen in die Pflicht. Nutzer müssen ab sofort eindeutig informiert werden, wenn sie mit einem Chatbot oder einem KI-gestützten Sprachassistenten interagieren. Ebenso gelten strenge Ausweis- und Kennzeichnungspflichten für Inhalte, die durch Künstliche Intelligenz erzeugt oder nachträglich generiert wurden. Befürworter sehen in den Regeln einen Meilenstein für das Nutzervertrauen. Die Digitalwirtschaft kritisiert dagegen vor allem die hektische Vorbereitung durch die europäischen Institutionen.

Der eco-Verband der Internetwirtschaft bezeichnet die Veröffentlichung der finalen Leitlinien durch die EU-Kommission lediglich 13 Tage vor dem Stichtag als Fehlstart mit Ansage. Trotz der kurzfristig vorgelegten Orientierungshilfen bleiben nach Auffassung des Verbandes wesentliche Fragen offen. Es fehle weiterhin an robusten, einheitlichen und interoperablen technischen Standards, wie die Kennzeichnung im Detail umgesetzt werden soll. Besondere Unsicherheiten bestünden in Graubereichen wie bei Medieninhalten, die nur teilweise mit KI-Werkzeugen überarbeitet wurden, sowie bei der visuellen Gestaltung von Hinweisen in Benutzeroberflächen.

eco-Geschäftsführer Alexander Rabe mahnt ein verhältnismäßiges Vorgehen der Aufsichtsbehörden an. Unternehmen dürften nicht an technischen Maßstäben gemessen werden, die politisch noch gar nicht klar definiert seien. In der Startphase müssten rechtliche Beratung und eine europaweit abgestimmte Auslegung Vorrang vor harten Sanktionen haben, damit insbesondere kleine Betriebe und Startups nicht die Zeche für Verzögerungen im Gesetzgebungsprozess zahlten. Für den Vollzug in Deutschland begrüßt der Verband zwar die zentrale Koordinationsrolle der Bundesnetzagentur, warnt aber vor einem Bürokratie- und Behördenpuzzle. Rabe gibt ferner zu bedenken, dass reine Kennzeichnungspflichten nicht das Ausbilden echter KI-Kompetenz in der Bevölkerung ersetzen könnten.

Parallel zum Start der Transparenzregeln wächst der Druck auf die Brüsseler Verwaltung selbst. Das europäische KI-Amt (AI Office), das in der Generaldirektion Kommunikationsnetze, Inhalte und Technologien der EU-Kommission angesiedelt ist, übernimmt ab Sonntag weitreichende Aufsichts- und Eingriffsrechte gegenüber den Anbietern besonders leistungsfähiger KI-Modelle. Die Regulierer können künftig risikoreiche Modelle einschränken, deren Rückruf anordnen oder empfindliche Strafen verhängen. Bei Verstößen gegen Auskunftspflichten oder Auflagen drohen Geldbußen von bis zu 15 Millionen Euro beziehungsweise drei Prozent des weltweiten Jahresumsatzes eines Anbieters.

Um diesen Kontrollaufgaben nachzukommen, sucht die Kommission laut Politico händeringend neues Personal. Derzeit beschäftigen die zwei zuständigen Referate für KI-Regulierung und systemische Risiken zusammen 71 Mitarbeiter. Allein die für Extremrisiken wie Cyberattacken, Missbrauch bei biologischen Waffen oder den Kontrollverlust über Modelle zuständige Einheit umfasst aktuell 37 Personen. Über den Verlauf des Jahres 2027 plant die Kommission, die Aufstellung in beiden Einheiten um rund 40 Stellen aufzustocken.

Fachleute und Branchenbeobachter stellen infrage, ob die Behörde im weltweiten Tauziehen um hochqualifizierte KI-Forscher gegen die extrem hohen Gehälter der Privatwirtschaft bestehen kann. Neben einer adäquaten Budgetierung fordern Experten daher flexiblere Verwaltungsstrukturen und wettbewerbsfähige Rahmenbedingungen, um Top-Talente an Brüssel zu binden. Das Führungspersonal der Aufsicht setzt sich derweil aus behördlicher Erfahrung und Brancheninsidern zusammen. Die Risikoeinheit wird seit Jahresbeginn von dem Neurowissenschaftler und langjährigen EU-Beamten Matthieu Delescluse geleitet, unterstützt von Fachleuten mit Vorerfahrung bei führenden Tech-Konzernen wie Google.

Nicht zuletzt aufgrund der drohenden Sanktionen geben sich die führenden US-Entwickler kooperationsbereit. Vertreter von Unternehmen wie OpenAI schlossen sich den Dialogangeboten der Kommission an und betonten, man habe intensiv an der Ausgestaltung der Regeln mitgewirkt. Ziel sei es weiterhin, eine verantwortungsvolle Entwicklung Künstlicher Intelligenz mit der wirtschaftlichen Wettbewerbsfähigkeit Europas in Einklang zu bringen.

Stefan Krempl

Bundesregierung: Der große KI-Stillstand bei der Rüstungskontrolle

Die Bundeswehr will bei Waffensystemen verstärkt auf KI setzen, doch die Rüstungskontrolle hinkt hinterher. Die Bundesregierung verweist auf Forschungslücken und Risiken.

Künstliche Intelligenz verändert weltweite Sicherheitsarchitekturen grundlegend. Dennoch setzt die Bundesregierung in der staatlichen Rüstungs- und Exportkontrolle bislang keinerlei KI-Systeme oder Verfahren des maschinellen Lernens ein. Weder direkt noch indirekt kommen entsprechende Algorithmen bei der Überwachung internationaler Abrüstungsverträge oder Ausfuhrgenehmigungen zur Anwendung. Das geht aus einer jetzt veröffentlichten Antwort der Bundesregierung auf eine parlamentarische Anfrage hervor.

Als wesentlichen Grund für die Zurückhaltung führt das federführende Auswärtige Amt an, dass bestehende völkerrechtliche Rüstungskontrollverträge den Einsatz KI-gestützter Verfahren nicht vorsähen. Ferner seien Potenziale und Grenzen der Technologie in diesem sensiblen Metier noch nicht ausreichend erforscht. Gerade im Kontext bi- und multilateraler Abkommen stellten die Verlässlichkeit, die gegenseitige Akzeptanz und das internationale Vertrauen in KI-generierte Prüfergebnisse eine erhebliche Hürde dar. Der Einsatz von Künstlicher Intelligenz im militärischen Sektor bleibe daher eine der zentralen Herausforderungen der Rüstungs- und Exportkontrolle, die zwar große Chancen eröffne, aber ebenso vielschichtige Risiken berge.

Ganz ungenutzt bleibt das digitale Potenzial hinter den Kulissen allerdings nicht. Mögliche Einsatzszenarien für die automatisierte Verifikation würden derzeit vom Zentrum für Verifikationsaufgaben der Bundeswehr in einer geschlossenen Testumgebung erprobt, heißt es. Gleichzeitig prüfe das Bundesamt für Wirtschaft und Ausfuhrkontrolle, ob und wie KI-Komponenten im Rahmen einer Neuauflage des digitalen Antrags- und Bearbeitungsportals integriert werden könnten. Parallel fließen Bundesmittel in wissenschaftliche Forschungsprojekte, um die Entwicklung verlässlicher Verifikationstechnologien voranzutreiben.

Einer wirksamen externen Kontrolle militärischer KI-Entwicklungen anderer Staaten sind laut der Exekutive enge Grenzen gesetzt. Wegen des ausgeprägten Dual-Use-Charakters moderner Software, der auch noch mit militärischer Geheimhaltung und Transparenzmangel verknüpft sei, lasse sich derzeit nicht abschließend verifizieren, ob und in welchem Umfang ausländische Akteure KI-Modelle für militärische Zwecke trainierten. Vor diesem Hintergrund plädiert die Regierung für eine verantwortungsvolle militärische Nutzung im Rahmen der bestehenden völkerrechtlichen Bestimmungen.

Während die Kontrolle stagniert, macht die Bundeswehr bei der eigenen technologischen Aufrüstung Tempo. Künftig wollen die Streitkräfte bei allen Systembeschaffungen konsequent auf offene Software-Architekturen setzen, um Waffensysteme flexibel und schnell mit KI-Fähigkeiten nachzurüsten. Die militärische Führung strebt an, Leistungssteigerungen von Waffen im Wesentlichen über zeitnahe Software-Updates auf die Plattformen zu bringen – ähnlich wie bei App-Updates auf Smartphones.

Damit will sich die Streitkräftebasis von starren, proprietären Silos einzelner Rüstungshersteller lösen und die Systeme so weit öffnen, dass auch innovative Startups neue Funktionen einspielen können. Technologisches Ziel ist ein Dreiklang aus Informations-, Führungs- und Wirkungsüberlegenheit, bei dem KI aus riesigen Datenmengen relevante Lagebilder filtert und die Kette von der Zielaufklärung bis zum Waffeneinsatz drastisch beschleunigt, wie etwa beim Projekt Uranos KI an der NATO-Ostflanke.

Stefan Krempl

Datenschutz-Beschwerde gegen dict.cc: Über 170 Stunden Lesezeit für ein Cookie-Banner

Einwilligungen im Netz sind oft eine Illusion: dict.cc verlangt die Zustimmung für 1741 Partner. Noyb hat Beschwerde bei der Datenschutzbehörde eingelegt.

Wer im Internet nach einer Übersetzung sucht, erwartet ein schnelles Ergebnis und keine juristische Mammutaufgabe. Beim Aufrufen des populären Online-Wörterbuchs dict.cc werden Nutzer aber vor eine Entscheidung gestellt, die in der Praxis kaum realistisch zu bewältigen ist. Über ein Pop-up-Banner verlangt die Betreiberin die Zustimmung zur Speicherung und Verarbeitung personenbezogener Daten für Online-Werbung. Das Besondere daran ist der Umfang: Insgesamt 1741 Werbepartner und Dienstleister sollen Zugriff auf das Endgerät sowie die Surfaktivitäten der Betroffenen erhalten.

Die Wiener Datenschutzorganisation Noyb bewertet diese Praxis als klaren Verstoß gegen die Datenschutz-Grundverordnung (DSGVO). Nach Ansicht der Juristen ist eine wirksame und informierte Einwilligung unter diesen Bedingungen schlicht unmöglich. Selbst bei einer extrem optimistischen Kalkulation von lediglich sechs Minuten Lese- und Verstehenszeit pro Datenschutzerklärung summiert sich der Aufwand für ein einziges Cookie-Banner auf über 172 Stunden.

Um die Konsequenzen eines einzigen Klicks auf „Alle akzeptieren“ vollständig zu durchdringen, müssten Verbraucher so mehr als eine ganze Woche ununterbrochen juristische Fachtexte studieren. In der Realität dauern manche Erklärungen einzelner Partner bereits für sich genommen mehr als eine halbe Stunde. Dazu kommt, dass viele dieser Drittanbieter die Daten wiederum an eigene Netzwerke weiterreichen, womit die Kette der Datenempfänger rasch in die Hunderte von Tausenden geht.

Nach der DSGVO ist das Tracking von Nutzerprofilen und Surfverhalten ohne eine freiwillige, spezifische, unmissverständliche und eben informierte Einwilligung grundsätzlich verboten. Wenn Informationen intransparent aufbereitet sind oder der Umfang den Rahmen des Verstandes sprengt, verkommt die Kontrolle über die eigenen Daten zur reinen Illusion. Noyb-Jurist Felix Mikolasch betont, wie abwegig die bisherige Praxis ist: Es sei lächerlich anzunehmen, dass jemand auf dieser Grundlage eine informierte Entscheidung treffen könnte.

In der eingereichten Beschwerde fordert Noyb die österreichische Datenschutzbehörde auf, der unrechtmäßigen Datenverarbeitung ein Ende zu setzen. Das Online-Wörterbuch soll angewiesen werden, die betroffenen Daten unverzüglich zu löschen und sämtliche Empfänger darüber zu informieren. Ferner regt die Organisation das Verhängen einer wirksamen Geldbuße an, um eine abschreckende Wirkung für die gesamte Branche zu erzielen. Über den konkreten Fall hinaus könnte die Aufsichtsbehörde wegen der grundsätzlichen Bedeutung auch ein umfassenderes Verbot aussprechen oder die Angelegenheit zur Stellungnahme an den Europäischen Datenschutzausschuss (EDSA) weiterleiten.

dict.cc steht mit dieser Vorgehensweise keineswegs allein da. Invasive Tracking-Mechanismen und undurchsichtige Banner-Systeme gehören auf zahlreichen namhaften Informations- und Medienportalen zum Alltag. Die erhobenen Verhaltens- und Standortdaten dienen nicht nur der Personalisierung von Werbeanzeigen, sondern gelangen häufig über Datenbroker an Dritte oder sogar an staatliche Überwachungsbehörden.

Stefan Krempl