Digitale Einflusssphären: Wie China die weltweite KI-Macht an sich reißt

Eine Studie zeigt den rasanten Aufstieg chinesischer KI-Apps im globalen Süden und Russland auf, Europa drohe zu verlieren. Die US-Politik reagiert bereits alarmiert.

Die weltweite Kontrolle über generative Künstliche Intelligenz und die zugehörigen Chatbots verschiebt sich rasant. Wer die am häufigsten genutzten Anwendungen in dem Markt kontrolliert, beherrscht nicht nur den Zugang zu Informationen, sondern lenkt auch Datenströme und digitale Geschäftsprozesse. Eine Analyse des Technologieexperten Valentin Weber für den Global Innovation Hub der Friedrich-Naumann-Stiftung für die Freiheit offenbart nun, dass China im globalen Wettbewerb um KI-Einflusssphären in atemberaubendem Tempo Boden gutmacht. Insbesondere im globalen Süden sowie in geopolitisch isolierten Regionen haben chinesische Anwendungen bereits tiefgreifende technologische Abhängigkeiten geschaffen. Europa spielt in diesem strategischen Wettlauf praktisch überhaupt keine Rolle.

Obwohl US-amerikanische Plattformen wie ChatGPT, Gemini oder Claude in absoluten Zahlen mit insgesamt rund 1,35 Milliarden Downloads im Untersuchtungszeitraum auf Android-Geräten global weiterhin die Führung innehatten, verzeichnen chinesische Anbieter eine hohe Wachstumsdynamik. Sie kommen laut der Studie zusammengerechnet bereits auf über 205 Millionen Downloads.

Die Verteilung auf nationaler Ebene legt zudem offen, dass der Vorsprung der USA in vielen Schlüsselregionen bröckelt. Auf den Philippinen haben chinesische Chatbots bereits einen Marktanteil von 47 Prozent auf Android-Geräten, dicht gefolgt von Indonesien und Peru mit jeweils 38 Prozent sowie Mexiko mit 30 Prozent. In Ländern wie Russland und Belarus, wo restriktive US-Sanktionen und gesperrte Zahlungssysteme den Zugang zu westlichen Modellen erschweren oder unmöglich machen, haben chinesische Apps die US-Konkurrenz vollständig überholt.

Als Treiber dieses Erfolgs hat sich überraschenderweise nicht das international viel diskutierte DeepSeek herausgestellt, sondern eine Anwendung aus dem Hause ByteDance namens Dola. Während DeepSeek nach einem kurzen medialen Hype weltweit bei rund 58 Millionen Downloads stagniert, schoss der mit dem TikTok-Mutterkonzern verknüpfte Chatbot Dola auf 144 Millionen Downloads nach oben.

Dieser Erfolg gründet sich maßgeblich auf extrem aggressive, zielgerichtete Werbekampagnen in sozialen Netzwerken. Allein in Mexiko schaltete das Unternehmen innerhalb eines einzigen Monats weit über 400 verschiedene Werbeclips, um die App als kostenlosen Problemlöser zu etablieren. Europäische Alternativen wie die App Vibe des französischen Hoffnungsträgers Mistral AI gehen in diesem globalen Marketinggewitter mit gerade einmal 1,26 Millionen Downloads geradezu unter und bleiben geopolitisch bedeutungslos.

Die Konsequenzen dieser ungleichen Verteilung gehen über reine Marktanteile hinaus. KI-Systeme agieren als intelligente Kontrollinstrumente, die im Gegensatz zu früherer Software nicht nur stupide Befehle ausführen, sondern eigenständig Argumentationsketten aufbauen. Das birgt erhebliche Risiken für die Informationsintegrität. Weber verweist in diesem Kontext auf alarmierende Berichte, wonach der Chatbot DeepSeek bei Programmierprojekten mit Bezug zu Tibet gezielt fehlerhaften oder manipulierten Code erzeugt haben soll. Da Sprachmodelle weitgehend intransparente Blackboxes darstellten, ließen sich solche politischen Steuerungen und Zensurvorgaben der Kommunistischen Partei Chinas im Alltag kaum zurückverfolgen. Sie wirkten sich aber schleichend auf technische Endprodukte, Meinungsbildungsprozesse und die Softwarearchitektur ganzer Volkswirtschaften aus.

Diese Entwicklung ruft mittlerweile auch die US-Politik auf den Plan. Ein gemeinsamer Untersuchungsausschuss des Heimatschutzausschusses und des China-Komitees im US-Repräsentantenhaus ermittelt derzeit intensiv gegen US-Technologiefirmen, die aus Kostengründen oder aufgrund heimischer Restriktionen auf chinesische Sprachmodelle zurückgreifen. Im Fokus stehen etwa populäre Plattformen wie Airbnb oder das Entwickler-Tool Cursor.

Das Außenministerium der USA warnt offiziell davor, dass diese importierten Modelle explizit darauf ausgelegt seien, die Narrative Pekings zu verbreiten und Oppositionelle stummzuschalten. US-Abgeordnete äußerten sich zutiefst besorgt darüber, dass chinesische Open-Weight-Modelle in sensiblen Bereichen wie der Cybersicherheit mittlerweile qualitativ zu führenden US-Modellen aufgeschlossen hätten und US-Firmen aufgrund mangelnder heimischer Alternativen in billigere, aber riskante Abhängigkeiten getrieben würden. Ein vollständiges Verbot im privaten Sektor gilt aber aufgrund verfassungsrechtlicher Hürden bezüglich der Redefreiheit im Internet als kaum durchsetzbar.

Für Europa zeichnet die Naumann-Stiftung ein düsteres Bild, zeigt aber Handlungswege auf. Das europäische Startup-Ökosystem leidet demnach unter einem chronischen Mangel an eigenen wettbewerbsfähigen Basismodellen und baut derzeit in pragmatischer, aber riskanter Weise oft auf chinesischen Open-Source-Technologien auf. Um diese Flanke zu schließen, empfiehlt der Studienautor der EU den Aufbau strategischer Allianzen mit technologischen Mittelmächten wie Südkorea oder Kanada, um gemeinsam an verlässlichen Frontier-Modellen zu arbeiten. Erste Schritte in diese Richtung zeigen Kooperationen wie die des deutschen Startups Aleph Alpha mit dem kanadischen Anbieter Cohere.

Gleichzeitig muss sich Europa laut der Studie dringend auf das nächste große Technologierennen vorbereiten: die sogenannte Embodied AI. Dabei verschmilzt KI mit physischer Robotik und Maschinensteuerung. Da europäische Unternehmen im Bereich der klassischen Industrie- und Spezialrobotik traditionell stark aufgestellt sind, bietet sich hier eine Chance, die digitale Souveränität zurückzuerlangen. Entscheidend ist dem Autor zufolge dabei, von Beginn an das dazugehörige Ökosystem aus Steuerungs-Apps und Softwareplattformen zu dominieren, um nicht erneut den Anschluss an die globale Spitze zu verpassen. Wie die Tech-Unternehmerin und FDP-Vorstandsfrau Nicole Büttner treffend zusammenfasst, darf Europa KI nicht länger nur regulieren, sondern muss sie endlich erfolgreich skalieren. Es gelte, transparente Anwendungen und verlässliche Allianzen zu fördern, um die nächste technologische Welle anzuführen.

Stefan Krempl

Schluss mit Big-Tech-Zwang: Allianz treibt offenes Netz ohne Plattform-Grenzen voran

Die neue Open Social Web Alliance will dezentrale Netzwerke wie das Fediverse groß machen. Für User bedeutet das: Echte Datenkontrolle und Umzug ohne Kontaktverlust.

Am Donnerstag hat sich in Berlin die Open Social Web Alliance (OSWA) formiert, um die digitale Öffentlichkeit aus den Händen marktbeherrschender Tech-Giganten wie Meta, ByteDance und Alphabet zu befreien. Als Zusammenschluss von Engagierten aus Zivilgesellschaft, Wissenschaft, Wirtschaft, Medien, Kultur und dem öffentlichen Sektor will die Allianz das bisher ungenutzte Potenzial dezentraler, gemeinwohlorientierter Alternativen gezielt heben. Obwohl offene Standards im Fediverse mit Protokollen wie ActivityPub oder in der sogenannten ATmosphere rund um das AT Protocol existieren, fristen Angebote wie Mastodon im Vergleich zu Facebook, TikTok und YouTube bisher noch ein Nischendasein. Der nun vorgelegte Fahrplan soll den Durchbruch im Massenmarkt bis zum Jahr 2028 einläuten.

Die zugrundeliegende Idee orientiert sich laut einem ersten gedanklichen Abriss an einem technisch simplen, aber bewährten Prinzip, das im digitalen Alltag längst selbstverständlich ist: der E-Mail. Unabhängig davon, bei welchem Anbieter ein Postfach liegt, lassen sich Nachrichten plattformübergreifend und barrierefrei austauschen. Genau diese Interoperabilität fordert die Allianz für moderne soziale Netzwerke, in denen Beiträge und Accounts nicht länger in den "walled gardens" einzelner Konzerne eingesperrt sein dürfen. Nutzer sollen die uneingeschränkte Kontrolle über ihre eigenen Daten behalten. Das bedeutet auch, dass ein Wechsel der Anwendung oder des Anbieters jederzeit möglich sein muss, ohne dabei Kontakte, Inhalte oder das mühsam aufgebaute Netzwerk zu verlieren.

Getragen wird die Allianz von einem breiten Bündnis aus Digital- und Medienexperten wie Jan Philipp Albrecht (Heinrich-Böll-Stiftung), Elisa Lindinger (SUPERRR Lab) und Torben Klausa (Agora Digitale Transformation) sowie großen Open-Source-Organisationen wie Wikimedia Deutschland und Mastodon.

Um das angepeilte Ökosystem innerhalb weniger Monate zu einer relevanten Größe heranwachsen zu lassen, fordert das Bündnis ein entschlossenes Umdenken von Politik und Wirtschaft. Eine zentrale Säule des Konzepts bildet die finanzielle und strukturelle Stärkung der Basisinfrastruktur. Die Initiatoren betonen, dass geringe öffentliche Fördermittel ausreichen würden, um die offene alternative an den dominanten Plattformen vorbeiziehen zu lassen. Konkret schlagen sie ein Gesamtbudget von 36 Millionen Euro vor. Darin enthalten sind 15 Millionen Euro Anschubfinanzierung für technische Bausteine und Brückendienste sowie jeweils 10 Millionen Euro für einen Transformations- und einen Investitionsfonds, die auch durch privates Kapital sowie eine Digitalabgabe großer Tech-Konzerne gespeist werden könnten. Dazu soll eine Million Euro für die Finanzierung einer professionellen Sekretariatsfunktion der Allianz kommen.

Die Staatsferne der Informationsinfrastruktur soll dabei durch eine Vergabe über zivilgesellschaftlich kontrollierte Akteure gewahrt bleiben. Der Staat dürfe nicht selbst zum Plattformbetreiber werden, heißt es. Er solle nur verlässliche Rahmenbedingungen, Rechtssicherheit für Open-Source-Projekte und Forschungszugänge garantieren. Die Regulierungstruktur der Allianz selbst folgt einem strikten Multistakeholder-Modell, bei dem kein einzelner Sektor mehr als 40 Prozent der Stimmanteile besitzen darf, um eine politische oder wirtschaftliche Vereinnahmung zu verhindern.

Der Fahrplan sieht vor, dass die Bundesregierung bereits im Herbst dieses Jahres die Schirmherrschaft für einen Open Social Web Summit übernimmt. Dortiges Ziel ist die Verabschiedung einer gemeinsamen Charta. Bis zum Frühjahr 2027 sollen die Finanzierungsrunden stehen und erste gesetzliche Weichen im Digitalen Medienstaatsvertrag gestellt sein, um faire Wettbewerbsbedingungen für dezentrale Anbieter im Werbemarkt zu schaffen.

Wenn wichtige politische Akteure und Medienhäuser ihre Kommunikation primär in das Open Social Web verlagern, könnten gesellschaftliche Debatten zügig umziehen. Für 2028 peilt das Bündnis an: Über 100 Millionen Menschen sollen in Europa barrierefrei, sicher und ohne den Einfluss undurchsichtiger Algorithmen oder toxischer Designs miteinander vernetzt sein.

Stefan Krempl

Gefährliche Importe: Deutschland will Online-Handel strenger überwachen

Ein Praxischeck des Bundeswirtschaftsministeriums fordert drastische Maßnahmen gegen mangelhafte Ware aus Drittstaaten – bis hin zu Plattformsperren.

Der Onlinehandel boomt. Doch mit den wachsenden Paketströmen erreicht auch eine besorgniserregende Menge an nicht konformen und potenziell gefährlichen Produkten den europäischen Markt. Angesichts rapide steigender Importe stehen die Marktüberwachungsbehörden und der Zoll vor gewaltigen Herausforderungen. Um die Praxisfeindlichkeit bestehender Regelungen aufzubrechen und den Vollzug im Netz zu verschärfen, hat das Bundesministerium für Wirtschaft und Energie am Freitag das Ergebnispapier des Praxischecks „Marktüberwachung im Onlinehandel“ veröffentlicht. Das Papier ist das Resultat eines intensiven Dialogs in Form von drei Workshops, bei denen im vergangenen Herbst Vertreter von Marktüberwachungsbehörden, Zoll, Bundes- und Landesministerien sowie Verbänden konkrete Forderungen erarbeitet haben.

Staatssekretär Thomas Steffen sieht die Politik in der Pflicht, rechtstreue Unternehmen vor unfairem Wettbewerb und Verbraucher vor gefährlichen Produkten zu schützen. Deshalb solle die Marktüberwachung in Deutschland und Europa massiv gestärkt werden. Das Vorhaben setzt so ein zentrales Versprechen des Aktionsplans der Bundesregierung zu E-Commerce um.

Die Kernproblematik im digitalen Handel liegt laut der Analyse derzeit oft in der mangelnden Greifbarkeit der Verantwortlichen. Häufig existiert die auf den Produkten angegebene Person nicht, Adressen sind gefälscht oder Zuständigkeiten unklar. Die Experten fordern daher, dass für jedes importierte Produkt zwingend ein in der EU ansässiger Wirtschaftsakteur mit einem realen, operativen Sitz benannt sein muss. Dieser soll über die gesamte Lebensdauer des Produkts für dessen Konformität haften. Um Missbrauch zu verhindern, wird eine zentrale EU-Datenbank vorgeschlagen, die automatisierte Existenzprüfungen durchführt und Verknüpfungen zu den Produkten herstellt.

Ferner sollen Akteure aus Drittstaaten eine ausreichende Solvenz nachweisen müssen, etwa durch Versicherungen oder eine präventive Sicherheitshinterlegung, damit Sanktionen überhaupt vollstreckt werden können. Fehlt ein solcher Wirtschaftsakteur, soll der Zoll das Produkt bereits an der Grenze vollautomatisiert abweisen können.

Auch die Befugnisse der Marktüberwachungsbehörden selbst werden dem Plan nach im Rahmen einer Anpassung der EU-Marktüberwachungs-Verordnung drastisch ausgeweitet. Bislang können Behörden gegenüber großen E-Commerce-Plattformen nur unter sehr engen Voraussetzungen agieren. Die Workshop-Teilnehmenden plädieren dafür, die Hürden für ein Einschreiten zu senken und den Behörden als letztes Mittel das Recht einzuräumen, unkooperative Plattformen im Einzelfall komplett zu sperren.

Zudem regen die Fachleute eine Beweislastumkehr in schwerwiegenden Verdachtsfällen an: Können Händler die Konformität nicht nachweisen, fliegt das Produkt sofort aus dem Angebot. Um die Kontrollen effizienter zu gestalten, sollen Behörden zudem unentgeltliche Probenahmen im Netz durchführen und Anordnungen unkompliziert per E-Mail oder im Eilverfahren zustellen dürfen.

Erweiterte Pflichten nehmen die Experten auch für die Online-Plattformen selbst in den Blick. Diese sollten vor dem Einstellen jedes Produkts formal prüfen müssen, ob ein verantwortlicher und solventer Wirtschaftsakteur in der EU existiert. Andernfalls müssten sie selbst in diese Rolle schlüpfen. Auch die Implementierung von automatischen Upload-Filtern, die bekannte nicht konforme Angebote eigenständig aussortieren, sowie der verpflichtende Abgleich mit Schnellwarnsystemen wie dem Safety-Gate stehen im Raum.

Gleichzeitig sollen Dienstleister entlang der gesamten Lieferkette – von Finanz- und Logistikunternehmen über E-Mail-Provider bis hin zu Domain-Registrierungsstellen – gesetzlich verpflichtet werden, bei berechtigtem Interesse Händlerdaten preiszugeben. Finanzdienstleister könnten zudem eingespannt werden, um anonyme Testkäufe zu ermöglichen und die Kosten für behördliche Stichproben zu erstatten.

Um Umleitungseffekte zu verhindern, bei denen Importeure gezielt EU-Staaten mit laxeren Kontrollen ansteuern, fordern die Praktiker eine zentrale europäische Marktüberwachungsbehörde für E-Commerce-Importe mit eigenen Ermittlungs- und Sanktionsbefugnissen. Auch die Kooperation zwischen Zoll und Marktüberwachung müsse dringend modernisiert werden, heißt es in dem Papier. Bislang scheitert der schnelle Austausch oft an inkompatiblen Datensätzen, die manuell übertragen werden müssen. Die Systeme sollen daher vollautomatisiert vernetzt und Zollanmeldungen um plattformspezifische Artikelnummern oder URLs erweitert werden.

Über ein übergeordnetes EU-Datenportal und die konsequente Nutzung der im Digital Services Act verankerten Transparenzdatenbank sollen illegale Produkte, Händler und Lagerwege entlang der gesamten Kette identifiziert werden. Der geplante Digitale Produktpass soll dabei als fälschungssicheres Instrument dienen, um Behörden direkt Zugriff auf Konformitätsdaten zu geben.

Die erarbeiteten Vorschläge spiegeln die Forderungen der Praxis wider. Sie stellen noch keine finale Position der Bundesregierung dar, da Fragen der rechtlichen Realisierbarkeit und der Zuständigkeiten nun erst fachlich geprüft werden müssen. Das Wirtschaftsministerium plant, die Ergebnisse in den gemeinsamen Modernisierungsprozess von Bund und Ländern einfließen zu lassen, der auch Teil der Föderalen Modernisierungsagenda ist. Die Ideen sollen ferner in europäische Gesetzgebungsverfahren wie den geplanten European Product Act eingebaut werden.

Stefan Krempl

EuGH: Sendeverbot für Russia Today gilt auch für private Webseiten

Das Verbot, Inhalte von RT zu verbreiten, greift laut dem Europäischen Gerichtshof auch ohne kommerzielle Absichten oder eine Bezahlung durch die Nutzer.

In einem am Donnerstag verkündeten Urteil hat der Europäische Gerichtshof (EuGH) die Reichweite der Sanktionsmaßnahmen gegen russische Staatsmedien präzisiert und untermauert. Die Richter stellten klar, dass das unionsweite Verbreitungsverbot für Inhalte des Senders Russia Today (RT) auch für Webseiten gilt, die der Öffentlichkeit vollkommen kostenlos zur Verfügung gestellt werden. Weder eine Absicht zur Gewinnerzielung noch der genaue Umfang oder die Dauer der Verbreitung spielen demnach eine Rolle bei der Frage, ob eine Plattform gegen geltendes EU-Recht verstößt.

Hintergrund des Verfahrens ist ein strafrechtlicher Fall aus Deutschland. Dort wird derzeit gegen drei Personen ermittelt, die wiederholt Videos des Ablegers RT Germany auf einer öffentlich und unentgeltlich zugänglichen Webseite hochgeladen und geteilt haben sollen. Das betreffende Portal finanzierte sich nach Informationen der Justiz ausschließlich über freiwillige Zuwendungen und Spenden der Nutzer. Angesichts der restriktiven Maßnahmen, die die EU als Reaktion auf den russischen Angriffskrieg gegen die Ukraine verhängt hat, ist es Betreibern in der gesamten Gemeinschaft strikt untersagt, Inhalte des Senders zu verbreiten.

Das mit dem deutschen Strafverfahren befasste nationale Gericht hatte aber rechtliche Zweifel bezüglich der exakten Definition und Reichweite des Begriffs „Betreiber“ im Sinne der EU-Sanktionsverordnung. Konkret stellte sich ihm die Frage, ob die drei Beschuldigten überhaupt unter diese restriktive Definition fallen, da sie ihr Internetangebot völlig ohne Entgelt anboten und keine kommerziellen Absichten verfolgten. Um Rechtssicherheit zu erlangen, setzten die deutschen Richter das nationale Verfahren aus und riefen den Europäischen Gerichtshof im Wege eines Vorabentscheidungsersuchens an.

Die Luxemburger Richter ließen in ihrer Entscheidung keinen Spielraum für Ausflüchte. Für die rechtliche Bewertung sei es gänzlich ohne Bedeutung, ob die Verbreitung der sanktionierten Propagandainhalte im Rahmen einer kommerziellen, wirtschaftlichen Tätigkeit oder aus rein ideologischen oder privaten Motiven erfolge, heißt es in dem Beschluss. Der Begriff des Betreibers umfasse in diesem spezifischen Kontext schlichtweg alle Personen, die direkt oder indirekt für die Bereitstellung der verbotenen Inhalte verantwortlich zeichnen. Das gelte auch dann, wenn eine Website ohne Bezahlschranke betrieben und nur durch freiwillige Drittmittel am Leben erhalten wird.

Die obersten EU-Richter begründeten diesen weitreichenden Schritt mit dem eigentlichen Sinn und Zweck der Sanktionsverordnung. Nur durch eine solch umfassende und strenge Auslegung des Regelwerks sei es möglich, die gezielte Verbreitung von Propaganda der Russischen Föderation effektiv zu unterbinden, um auf diese Weise die öffentliche Ordnung und die Sicherheit innerhalb der EU wirksam zu schützen. Eine Lücke für vermeintlich private oder spendenfinanzierte Plattformen würde den Sanktionsgedanken im digitalen Raum weitgehend aushöhlen.

Mit dem Urteil ist der Fall für die deutschen Beschuldigten noch nicht final entschieden, da der EuGH im Rahmen von Vorabentscheidungen nie den konkreten Einzelfall selbst löst. Das Luxemburger Urteil liefert aber die verbindliche Auslegung des Unionsrechts, an die das deutsche Gericht bei seiner anstehenden Entscheidung gebunden ist. Für Betreiber von Webseiten und Foren im deutschsprachigen Raum setzt die Entscheidung ein klares Zeichen: Wer sanktionierte Inhalte von Sendern wie Russia Today spiegelt oder aktiv teilt, bewegt sich auch ohne Geschäftsmodell im strafrechtlich relevanten Bereich.

Stefan Krempl

KI in der Medizin: Patientendaten viel stärker gefährdet als gedacht

Gängige Sicherheitschecks unterschätzen laut einer Studie mit deutscher Beteiligung das Risiko für Individuen durch medizinische Datenauswertung völlig. Besonders Minderheiten sind bedroht.

Künstliche Intelligenz revolutioniert die medizinische Diagnostik. Ob bei der automatisierten Erkennung von Krebsgeschwüren auf Röntgenbildern oder der Analyse von EKG-Daten – moderne Algorithmen versprechen eine präzisere und schnellere Versorgung von Patienten. Doch diese Systeme haben ein frapierendes Datenschutzproblem. Um zuverlässig zu funktionieren, müssen sie mit riesigen Mengen echter, hochsensibler Gesundheitsdaten trainiert werden. Gelangt später auch nur die Information an die Öffentlichkeit, dass die Daten einer bestimmten Person in das Training eingeflossen sind, kann dies für die Betroffenen gravierende Folgen haben.

Ein internationales Forschungsteam hat nun im renommierten Fachmagazin „Nature“ nachgewiesen, dass KI-Modellen solche sensiblen Informationen mit den passenden Methoden deutlich effektiver entlockt werden können als bislang in der Fachwelt angenommen.

Im Fokus der Untersuchung stehen sogenannte Membership Inference Attacks (MIAs). Bei diesen digitalen Angriffen versucht ein Angreifer herauszufinden, ob ein spezifischer Datensatz – etwa die Krankenakte einer bestimmten Person – Teil des Trainingsmaterials einer KI war. Bisher wähnte sich die Wissenschaft bei gängigen medizinischen Anwendungen weitgehend in Sicherheit, da bisherige Berechnungen und Testverfahren das Risiko für solche Angriffe als vernachlässigbar einstuften. Die Forschenden der Technischen Universität München (TUM), des Imperial College London und des Hasso-Plattner-Instituts (HPI) konnten diese Annahme nun aber als irreführend entlarven.

Das Problem liegt ihrer Analyse zufolge im Detail der bisherigen Testmethodik. Standardmäßig wurde bei Sicherheitsprüfungen immer nur das durchschnittliche Risiko über alle Patienten hinweg ermittelt. Das Forschungsteam hat sich stattdessen erstmals das Risiko für jeden individuellen Patienten separat angeschaut, was ein völlig anderes, weitaus alarmierenderes Bild zeichnet. Während die Angriffe auf einen Großteil der Patientendaten tatsächlich wirkungslos blieben, ließen sich bestimmte Individuen mit einer Wahrscheinlichkeit von nahezu einhundert Prozent korrekt dem Trainingsdatensatz des Modells zuordnen. Angesichts der extremen Sensibilität von Gesundheitsdaten warnt das Team eindringlich davor, dieses punktuelle, aber extreme Risiko als verschmerzbar abzutun.

Für ein realistisches Bild attackierten die Wissenschaftler KI-Modelle, die auf sieben etablierten medizinischen Datensätzen basierten. Dabei wurden verschiedenste Datentypen berücksichtigt wie radiologische Bildgebungsdaten, Kardiogramme und elektronische Patientenakten. Für eine erfolgreiche Attacke benötigt ein Angreifer im Grunde drei Komponenten. Zunächst ist der Zugriff auf das KI-Modell selbst nötig, was im Alltag etwa über das kompromittierte Netzwerk einer Klinik denkbar ist. Als zweites wird der konkrete Datenpunkt der Zielperson benötigt, dessen Mitgliedschaft überprüft werden soll. Solche Informationen können etwa aus separaten Hackerangriffen auf Gesundheitseinrichtungen stammen. Zuletzt muss der Angreifer über eine eigene KI-Infrastruktur verfügen, um Referenzmodelle auf demselben Datentyp berechnen zu können.

Wie gefährlich dieses Szenario ist, zeigt sich an einem konkreten Anwendungsfall. Wird ein KI-Modell darauf trainiert, aus gewöhnlichen Blutbildern die Erfolgsaussichten einer Krebs-Immuntherapie abzulesen, gibt das Blutbild allein keine direkte Auskunft über eine Krebserkrankung. Kann ein Angreifer aber zweifelsfrei nachweisen, dass genau dieses Blutbild im Training des spezifischen Krebs-Modells verwendet wurde, lässt sich daraus mit Sicherheit ableiten, dass der Patient an Krebs erkrankt ist oder war.

Die realen Konsequenzen solcher Datenlecks könnten die Betroffenen noch Jahre später unvorbereitet treffen. Wer beispielsweise nach einer erfolgreich bekämpften Krebserkrankung seine Daten der medizinischen Forschung zur Verfügung gestellt hat, wiegt sich oft in falscher Sicherheit. Findet ein Angreifer Jahre später heraus, dass diese Daten für ein Tumoranalyse-Modell genutzt wurden, und gelangt diese Information über Drittanbieter an eine private Zusatzversicherung, droht die Einstufung als Hochrisikopatient. Die Folge sind Beitragsaufschläge oder die Verweigerung des Versicherungsschutzes, ohne dass der Betroffene jemals den wahren Grund dafür erfährt.

Das Risiko ist dabei keineswegs gleich verteilt. Die Angriffe waren in der Studie vor allem dann von Erfolg gekrönt, wenn die attackierten Personen zu einer Untergruppe gehörten, die im gesamten Trainingsdatensatz unterrepräsentiert war. Das betrifft seltene anatomische Merkmale in der Bildgebung ebenso wie Daten von ethnischen Minderheiten. Da Diskriminierung durch KI-Systeme in der Medizin ohnehin ein bekanntes Problem ist und Modelle bei Minderheiten oft ungenauere Diagnosen liefern, tragen diese ohnehin marginalisierten Gruppen nun auch noch die größte Datenschutz-Minderlast.

Verschärft wird die Situation durch den aktuellen Trend zu immer größeren, komplexeren Modellen wie etwa Vision Transformers. Die Forschenden wiesen nach: Je leistungsfähiger und tiefgehender ein Modell ist, desto höher ist die Erfolgsquote der Angriffe, da große Netzwerke untypische Datenmerkmale besonders tief verinnerlichen und abspeichern. Ohne gezielte Gegenmaßnahmen wird sich die Problematik in den kommenden Jahren mit dem technischen Fortschritt also massiv verschlimmern.

Die beteiligten Wissenschaftler plädieren daher dafür, die Risikobewertung neuer Modelle vor deren Freigabe grundsätzlich auf individueller Patientenebene durchzuführen. Neben strengen Zugriffskontrollen biete die mathematisch nachweisbare Methode der „Differential Privacy“ den vielversprechendsten Schutz. Dabei wird während des KI-Trainings ein minimales Rauschen in die Datenberechnungen integriert. Das beeinträchtigt die diagnostische Präzision des Modells kaum, verunmöglicht jedoch das spätere statistische Entlocken individueller Patientenhintergründe fast vollständig.

Stefan Krempl

Vernetzte Fahrzeuge: Französische Datenschützer ziehen enge Grenzen für die Ortung

Die Datenschutzbehörde CNIL fordert einen strengen Schutz für Standortdaten von Pkw, pocht auf Nutzer-Einwilligung und regelt den Umgang bei Mietwagen und Diebstahl.

Die französische Datenschutzbehörde CNIL hat Empfehlungen zur Nutzung von Standortdaten in vernetzten Fahrzeugen vorgelegt. In modernen Automobilen läuft kaum noch etwas ohne digitale Vernetzung. Ob Navigationshilfen, Infotainment, Flottenmanagement oder vorausschauende Wartung – Autos sammeln und senden mittlerweile kontinuierlich Daten über ihren aktuellen Aufenthaltsort. Doch genau diese Informationen bergen erhebliche Risiken für die Privatsphäre. Die CNIL betont in ihrer aktuellen Richtlinie, dass Standortdaten als hochgradig persönliche und sensible Informationen einzustufen sind. Sie erlauben extrem tiefe und potenziell aufdringliche Einblicke in das Leben von Menschen. Aus einem lückenlosen Bewegungsprofil lassen sich nicht nur alltägliche Fahrten, sondern auch sensible Gewohnheiten, regelmäßige Aufenthaltsorte, Freizeitinteressen oder sogar Rückschlüsse auf den Gesundheitszustand und die Religion der Betroffenen ableiten.

Dass Handlungsbedarf besteht, zeigen laut der Behörde auch ständige Medienberichte über gravierende Datenlecks bei verschiedenen Herstellern von Elektrofahrzeugen in den vergangenen Jahren, bei denen massenhaft Ortungsdaten ungeschützt im Netz landeten. Mit dem neuen Leitfaden will die CNIL nun einen klaren und aktualisierten Rechtsrahmen schaffen, um Transparenz, Datensparsamkeit und Sicherheit im Einklang mit der Datenschutz-Grundverordnung (DSGVO) zu gewährleisten.

Der Fokus des Ratgebers liegt auf der Nutzung von vernetzten Fahrzeugen durch Privatpersonen, unabhängig davon, ob diese Eigentümer oder Mieter des Wagens sind. Dienstwagen, die Arbeitnehmern von ihren Unternehmen überlassen werden, sind von  ausgenommen, da die Behörde dazu bereits in der Vergangenheit eigene Vorgaben erlassen hat. Adressiert wird ein komplexes Ökosystem an Akteuren. Die Richtlinie wendet sich an Automobilhersteller, private und öffentliche Flottenbetreiber sowie Autovermieter. Ebenso in die Pflicht genommen werden Anbieter von Telematiklösungen, die etwa über nachgerüstete Boxen Daten erheben, sowie Datenaggregatoren, die als Vermittler zwischen den Autobauern und Drittanbietern agieren.

Ein zentraler Aspekt sind rechtliche Klarstellungen zur E-Privacy-Richtlinie der EU. Das Auto wird dabei juristisch wie ein Smartphone oder ein Computer als digitales Endgerät betrachtet. Das bedeutet, dass das Auslesen oder Speichern von Standortdaten im Fahrzeug grundsätzlich an eine ausdrückliche Einwilligung des Nutzers gekoppelt sein muss. Eine Ausnahme gilt nur dann, wenn die Datenübermittlung für einen vom Nutzer explizit angeforderten Dienst absolut notwendig ist. Das ist etwa bei einer aktiven Routenführung des Navigationssystems der Fall. Für alle anderen, sekundären Zwecke müssen die Anbieter eine separate, informierte Zustimmung einholen.

Detailliert widmet sich die CNIL der Herausforderung, die durch die Nutzung eines Fahrzeugs durch mehrere unterschiedliche Personen entsteht. Im Alltag teilen sich oft Familienmitglieder ein Auto, oder es wird von wechselnden Kunden einer Autovermietung gefahren. Um die DSGVO-Rechte wie das auf Auskunft in einem solchen Multi-User-Umfeld wirksam zu schützen, empfiehlt die Behörde den Einsatz authentifizierter Profilmanagementsysteme. Fahrer sollten sich beim Einsteigen in ihr eigenes Profil einwählen können. Dies erleichtere nicht nur die individuelle Information und Verwaltung von Datenschutzeinstellungen. Es verhindert auch, dass der Fahrzeughalter oder ein Nachmieter unbefugt Zugriff auf die Bewegungshistorie anderer Personen erhalte.

Die Empfehlungen sind das Ergebnis einer breiten öffentlichen Konsultation, bei der zahlreiche Wirtschaftsverbände, Verbraucherschützer und Behörden Feedback eingereicht haben. Dies führte zu wichtigen Überarbeitungen. So stellt die CNIL fest, dass für die reine Ortung zur Verhinderung von Unterschlagung und Zweckentfremdung durch Mieter keine Einwilligung nach der E-Privacy-Richtlinie nötig ist, sofern die Nichtrückgabe des Fahrzeugs die Verfügbarkeit des Mietdienstes direkt beeinträchtigt. Im Falle eines Diebstahls darf das Ortungssystem ebenfalls ohne Zustimmung zur Wiederbeschaffung genutzt werden.

Für die Pannenhilfe und die Unfallassistenz rät die Behörde zu strenger Datensparsamkeit. So reicht es oft aus, nur die letzten drei Positionen zu speichern, um im Notfall den Unfallort zu bestimmen, statt dauerhaft die gesamte Route aufzuzeichnen. Zudem fordert die CNIL konkrete technische Vorkehrungen und Funktionen zur Fernabmeldung von Konten. So soll verhindert werden, dass Mitarbeiter von Vermietstationen oder nachfolgende Mieter auf sensible Daten im Bordcomputer zugreifen können, die der vorherige Nutzer vor der Rückgabe nicht gelöscht hat. In den kommenden Monaten will die CNIL Branchenverbände aktiv bei der Umsetzung der Vorgaben begleiten.

Stefan Krempl

Digitaler Datenschutz: US Supreme Court stuft virtuelle Rasterfahndung als Verfassungskonflikt ein

Der Oberste Gerichtshof der USA entscheidet im Fall Chatrie, dass die massenhafte Absaugung von Handy-Standortdaten eine staatliche Durchsuchung darstellt und strengen Regeln unterliegt.

In einem richtungsweisenden Urteil hat der Oberste Gerichtshof der Vereinigten Staaten den Schutz digitaler Privatsphäre gestärkt und der massenhaften, verdachtsunabhängigen Überwachung enge verfassungsrechtliche Grenzen gesetzt. Im Fall Chatrie vs. United States entschied das Gericht am 29. Juni 2026 mehrheitlich, dass das behördliche Absaugen von Handy-Standortdaten in einem bestimmten Umkreis eine Durchsuchung im Sinne des vierten Verfassungszusatzes darstellt und damit grundsätzlich richterlich genehmigt sein muss. Das Urteil weitet den Schutz der Bürger im digitalen Raum aus, da sie festlegt, dass Menschen auch bei kurzfristigen Bewegungen in der physischen Welt ein berechtigtes Interesse auf Privatsphäre haben. Bisherige Argumente von Strafverfolgern, dass Nutzer durch das Akzeptieren von Geschäftsbedingungen freiwillig auf diesen Schutz verzichten würden, wies der Supreme Court zurück.

Der Fall geht auf einen Bankraub im Mai 2019 im US-Bundesstaat Virginia zurück. Da die lokalen Ermittler kaum Hinweise auf den Täter hatten, beantragten sie eine virtuelle Rasterfahndung bei Google in Form eines sogenannten Geofence Warrant. Über diesen Beschluss zwangen sie den Tech-Riesen, die Standortdaten sämtlicher Smartphones herauszugeben, die sich zum Tatzeitpunkt in einem Umkreis von 150 Metern um den Tatort befunden hatten.

Google durchsuchte daraufhin die Konten von Hunderten Millionen Nutzern, um Geräte in diesem Gebiet zu identifizieren. In einem dreistufigen Verfahren wurden die Daten schrittweise de-anonymisiert, bis die Polizei schließlich die Klarnamen von drei Personen erhielt. Einer von ihnen war Okello Chatrie, dessen Bewegungsprofil ihn kurz vor dem Raub in der Nähe der Bank zeigte. Er wurde angeklagt, forderte jedoch die Unzulässigkeit der Beweismittel, da die Methode seine verfassungsmäßigen Rechte verletze.

Ein Bezirksgericht stufte die Methode zwar als verfassungswidrig ein, ließ die Beweise aber wegen des „guten Glaubens“ der Beamten zu. Das zuständige Berufungsgericht zeigte sich daraufhin gespalten. Die US-Regierung argumentierte vor dem Supreme Court, dass eine nur zweistündige Überwachung von Standortdaten keinen tiefen Eingriff darstelle und die sogenannte Dritte-Partei-Doktrin greife, weil Nutzer ihre Daten freiwillig mit Google teilten.

Dem widersprach die Mehrheit der Supreme-Court-Richter unter der Federführung von Elena Kagan. Das Gericht knüpfte an sein Urteil Carpenter vs. United States aus dem Jahr 2018 an, das die langfristige Überwachung von Mobilfunkdaten betraf. Dessen Prinzipien weitete es auf moderne, hochpräzise App-Daten aus. Selbst eine kurzfristige Überwachung kann laut dem Urteil intimste Details über das familiäre, politische, berufliche, religiöse oder sexuelle Leben eines Menschen offenbaren.

Ferner hob das Gericht hervor, dass Standortdaten, die von Smartphone-Apps aufgezeichnet werden, digitalen Tagebüchern, E-Mails oder Fotos ähneln. Diese Daten verbleiben im virtuellen Besitz des Nutzers, auch wenn sie auf den Servern von Drittanbietern in der Cloud liegen. Ein Smartphone zu verwenden und den Bedingungen zuzustimmen bedeute nicht, dass man der Weitergabe an den Staat zustimme.

Die Bürgerrechtsorganisation Electronic Frontier Foundation (EFF), die das Verfahren mit einer Stellungnahme begleitet hatte, feiert das Urteil als wichtigen Erfolg. Aus ihrer Sicht sind diese digitalen Schleppnetzfahndungen das Äquivalent dazu, dass die Polizei ohne konkreten Verdacht von Haus zu Haus geht und unschuldige Passanten zu Verdächtigen macht, nur weil sie zur falschen Zeit am falschen Ort waren. Das Urteil schiebe dieser uferlosen Überwachung nun endlich einen Riegel vor.

Die praktischen Auswirkungen des Beschlusses auf Abfragen gegen Google halten sich zwar in Grenzen, da der Konzern seine Speicherpraxis bereits im Juli 2025 grundlegend geändert hat und Standortverläufe seither nur noch lokal auf den Endgeräten der Nutzer aufbewahrt. Dadurch sind Massenabfragen technisch unmöglich geworden. Die Signalwirkung des Urteils ist trotzdem groß. Der Supreme Court hat klargestellt, dass App-Daten umfassend durch die Verfassung geschützt sind. Dies dürfte erhebliche Konsequenzen für Datenhändler haben, die weiterhin massenhaft Bewegungsdaten über dubiose Werbe-Apps aggregieren und an Behörden verkaufen.

Ob die gegen Chatrie erlangten Beweise im konkreten Strafverfahren verwertet werden dürfen, hat der Supreme Court noch nicht abschließend entschieden. Das Verfahren hat er an das zuständige Berufungsgericht zurückverwiesen. Dieses muss nun prüfen muss, ob der konkrete Haftbefehl verhältnismäßig war und ob die Ermittler tatsächlich in gutem Glauben handelten. Unabhängig vom Ausgang dieses Einzelfalls hat der Supreme Court aber ein Fundament für die digitale Ära gegossen: Das Smartphone darf nicht zum unkontrollierten Spionagewerkzeug des Staates werden.

Stefan Krempl