KI-Persönlichkeiten: Wie Chatbots sich selbst und Menschen einschätzen

Eine Studie der Uni Mainz legt dar: Sprachmodelle besitzen charakteristische Selbstbeschreibungen und werden von Menschen treffsicherer erkannt als umgekehrt.

Im Alltag begegnen uns künstlich intelligente Chatbots und Large Language Models (LLMs) mittlerweile in nahezu allen Lebensbereichen, sei es im Kundenservice, als digitale Ratgeber oder als alltägliche Gesprächspartner, mit denen Menschen sogar eigene Gefühle teilen. Angesichts dieser rasanten Durchdringung stellt sich die Frage, wie wir die von Sprachmodellen generierten Texte wahrnehmen und ob diese überhaupt noch von menschlich verfassten Texten zu unterscheiden sind.

Diesem Aspekt ist ein Forschungsteam des Psychologischen Instituts der Johannes Gutenberg-Universität Mainz (JGU) nachgegangen und hat seine Ergebnisse nun in der Fachzeitschrift Scientific Reports veröffentlicht. Unter der Leitung von Sophie Körner untersuchten die Wissenschaftler gemeinsam mit Sarah Osterholz und Boris Egloff, ob große Sprachmodelle konsistente Persönlichkeitsmerkmale aufweisen und wie diese von Mensch und Maschine wahrgenommen werden.

Für ihre Untersuchung verglichen die Forschenden die Selbstbeschreibungen von sieben populären KI-Sprachmodellen -- darunter ChatGPT-4o, ChatGPT-3.5, Llama-3, Gemma, Gemini, Phi-3 und Orca-2 -- mit denen von 70 menschlichen Studienteilnehmern. Sowohl die Chatbots als auch die Menschen wurden gebeten, ihre eigene Persönlichkeit mithilfe standardisierter psychologischer Fragebögen darzulegen. Dabei wurden etablierte Instrumente zu den sogenannten Big Five, also Eigenschaften wie Offenheit, Gewissenhaftigkeit, Extraversion, Verträglichkeit und Neurotizismus, sowie zu Selbstwertgefühl und Narzissmus eingesetzt.

Ergänzend mussten die Probanden und Modelle offene Fragen beantworten, die etwa Aufschluss über ihre Interessen, Zukunftshoffnungen und typischen Verhaltensweisen in Stresssituationen geben sollten. Jedes Sprachmodell wurde für diese Untersuchung zehnmal befragt, wodurch ein Datensatz von insgesamt 140 Texten entstand.

Die Auswertung der Fragebögen zeigte zunächst, dass die Sprachmodelle bei wiederholten Befragungen durchaus zeitstabile Persönlichkeitsprofile erzeugten. Im direkten Vergleich mit den menschlichen Teilnehmern präsentierten sich die Chatbots aber in einem ganz bestimmten Licht. Aggregiert über alle sieben Modelle zeigten die LLMs deutlich höhere Werte in den Bereichen Gewissenhaftigkeit und Verträglichkeit, während sie gleichzeitig niedrigere Werte beim Neurotizismus aufwiesen.

Das bedeutet, dass die künstlichen Systeme dazu neigen, sich selbst als besonders gewissenhaft, verträglich und emotional stabil darzustellen. Um herauszufinden, wie solche Selbstbeschreibungen von außen wahrgenommen werden, legten die Forschenden die 140 Texte anschließend zehn menschlichen sowie sechs KI-Richtern zur Beurteilung vor.

Deren Aufgabe bestand darin, die in den Texten zum Ausdruck kommenden Persönlichkeitsmerkmale einzuschätzen und zu entscheiden, ob der jeweilige Text von einem Menschen oder einer KI verfasst wurde. Die Ergebnisse offenbarten bemerkenswerte Muster bei der Beurteilung. Sowohl den Menschen als auch den Chatbots gelang es, Rückschlüsse auf die Persönlichkeitsmerkmale der Verfasser zu ziehen, wobei sich die Urteile in vielen Punkten glichen.

Allerdings neigten menschliche Beurteilende dazu, den KI-Texten in fast allen abgefragten Merkmalen – allen voran bei der emotionalen Stabilität – höhere Werte zuzuschreiben als den tatsächlich von Menschen verfassten Texten. Umgekehrt bewerteten die KI-Richter bestimmte menschliche Eigenschaften wie Offenheit und Selbstwertgefühl tendenziell höher.

Besonders aufschlussreich war die Analyse der Urheberschaftserkennung. Die menschlichen Testpersonen erreichten bei der Unterscheidung zwischen Mensch und KI eine beachtliche Genauigkeit von rund 83 Prozent. Die Chatbots kamen im Schnitt nur auf 67 Prozent. Die beiden besten KI-Modelle bei dieser Aufgabe, Gemma und Gemini, konnten die Urheberschaft aber ähnlich zuverlässig bestimmen wie ein durchschnittlicher Mensch.

Auffällig war eine generelle Verzerrung bei beiden Gruppen: Sowohl Menschen als auch Chatbots neigten dazu, Texte häufiger als von Menschen verfasst einzustufen. Die Forschenden vermuten dahinter das Bestreben, eine Fehlattribution in die umgekehrte Richtung zu vermeiden. Konkret führte dies dazu, dass ein Chatbot-Text eher fälschlicherweise als menschlich klassifiziert wurde als umgekehrt.

Um den sprachlichen Ursachen für diese Unterscheidbarkeit auf den Grund zu gehen, setzte das Team eine computergestützte Sprachanalyse mittels LIWC ein. Dabei trat zutage, dass von KI generierte Selbstbeschreibungen signifikant länger waren als menschliche Texte. Ferner enthielten die KI-Texte mehr zeitbezogene Ausdrücke und sogenannte Funktionswörter wie Artikel und Präpositionen.

Menschliche Verfasser schrieben in ihren Texten derweil häufiger über Themen wie Freizeit, Gefühle und soziale Beziehungen. Auf die Frage nach ihren Erkennungsmerkmalen gaben die menschlichen Tester vor allem die Textlänge sowie eine gestelzte, technische oder stark analytische Sprache an. Interessanterweise sank die Erkennungsgenauigkeit der Menschen leicht, wenn die Textlänge kontrolliert und angeglichen wurde. Das unterstreicht, dass die Länge ein zentrales Heuristik-Merkmal für menschliche Leser darstellt.

Die Erkenntnisse der Studie dürften weitreichende Implikationen für den künftigen Einsatz von Sprachmodellen in sensiblen Bereichen wie der psychologischen Diagnostik oder dem Personalwesen haben. Die Wissenschaftler betonen, dass Chatbots prinzipiell das Potenzial bieten, eine automatisierte und niedrigschwellige Ersteinschätzung von Persönlichkeitsmerkmalen zu ermöglichen. Dennoch mahnen sie zu großer Vorsicht. Da Sprachmodelle auf riesigen Mengen menschlicher Texte trainiert werden, übernähmen sie unweigerlich auch menschliche Urteilsverzerrungen und Vorurteile. Ob Persönlichkeitsbeurteilungen in sensiblen Kontexten bedenkenlos Algorithmen überlassen werden dürfen, muss daher unter strengen ethischen Gesichtspunkten geprüft werden.

Zudem neigen Menschen dazu, künstlichen Intelligenzen schnell menschliche Eigenschaften zuzuschreiben. Das birgt die Gefahr einer unkritischen Übervorteilung und emotionalen Bindung. Die Arbeit verdeutlicht insgesamt, dass die Grenzen zwischen technischem Werkzeug und vermeintlichem Agenten zunehmend verschwimmen und ein bewussterer, aufgeklärter Umgang mit generativen Texten im Alltag unerlässlich ist.

Stefan Krempl

Klage gescheitert: Kein Freibrief für „Beitragsblocker“ bei den Öffentlich-Rechtlichen

Das Verwaltungsgericht Köln weist den Antrag einer Rundfunkgegnerin ab. Kostenpflichtige Musterschreiben aus dem Netz reichen nicht aus, um die Abgabe zu umgehen.

Das Verwaltungsgericht Köln hat mit einem am Dienstag verkündeten Urteil die Klage einer sogenannten Beitragsblockerin abgewiesen und damit den Kurs im anhaltenden Streit um die rechtmäßige Finanzierung des öffentlich-rechtlichen Rundfunks gestützt. Mit dem Verfahren wandte sich die Klägerin gegen die Erhebung des Rundfunkbeitrags und bediente sich dabei kostenpflichtiger Musterschriftsätze, die im Internet von Kritikern angeboten werden. Das Gericht machte in seiner Entscheidung deutlich, dass solche systematischen Versuche, die gesetzliche Abgabe auf juristischem Wege auszuhebeln, ohne substanzielle und rechtlich tragfähige Gründe keinen Erfolg haben können (Az.: 6 K 5538/24).

In ihrer Argumentation hatte die Klägerin geltend gemacht, dass ihr ein individueller Vorteil als unmittelbare Gegenleistung zum geforderten Rundfunkbeitrag fehle. Ferner warf sie den öffentlich-rechtlichen Rundfunkanstalten vor, ihren verfassungsrechtlichen Auftrag zur Bereitstellung eines neutralen und der Vielfaltssicherung dienenden Programms massiv zu verfehlen. Insbesondere die redaktionelle Berichterstattung zu zentralen politischen Themenfeldern – wie etwa zur Corona-Pandemie mitsamt den Impfstoffen, zur Weltgesundheitsorganisation sowie zum Ukraine-Krieg – ist aus ihrer Sicht gravierend einseitig ausgefallen.Ergänzend führte sie an, dass verwaltungsinterne Beschwerdewege keine effektive Kontrolle böten und auch ein sparsamer Umgang mit den Beitragsmitteln, gemessen an den Intendantengehältern, nicht erkennbar sei.

Die zuständige Kammer des Kölner Gerichts folgte dieser Argumentation aber nicht. In ihrer Urteilsbegründung betonten die Richter, dass die Klägerin nicht ansatzweise substantiiert aufzeigen konnte, dass zwischen der gesetzlichen Beitragspflicht und der tatsächlichen Vorteilhaftigkeit des Programms ein grobes Missverhältnis besteht. Dabei bezog sich das Gericht ausdrücklich auch auf die jüngere Rechtsprechung des Bundesverwaltungsgerichts.

Dieses hatte in einem Grundsatzurteil vom 15. Oktober 2025 zwar festgehalten, dass eine verfassungsrechtliche Rechtfertigung der Beitragspflicht dann entfallen kann, wenn das Gesamtprogrammangebot der Anstalten in sämtlichen Verbreitungsmedien über einen Zeitraum von mindestens zwei Jahren hinweg evidente und regelmäßige Defizite bei der Meinungs- und Ausgewogenheit aufweist. Genau diesen strengen Nachweis konnte die Klägerin nach Einschätzung des Verwaltungsgerichts Köln jedoch nicht erbringen.

Ihre Ausführungen erschöpften sich im Wesentlichen in der bloßen Behauptung punktueller Verstöße gegen den gesetzlichen Programmauftrag, halten die Richter fest. Damit greife sie nur einen Bruchteil des medialen Gesamtangebots heraus, das aus einem breiten Spektrum an Fernsehen, Hörfunk und vielfältigen Telemedien bestehe. Ein systemweites und strukturelles Versagen des öffentlich-rechtlichen Rundfunks, wie es vom Bundesverwaltungsgericht als zwingende Voraussetzung für den Entfall der Beitragspflicht gefordert wird, lasse sich aus diesen isolierten Beispielen nicht ableiten.

Das Urteil hat erhebliche Signalwirkung für eine ganze Reihe von Verfahren, die die Verwaltungsgerichtsbarkeit beschäftigen. Allein bei der zuständigen 6. Kammer des Kölner Gerichts sind derzeit etwa 320 ähnlich gelagerte Verfahren anhängig, die das Phänomen der Beitragsblocker widerspiegeln. Für die Klägerin und andere Kritiker bedeutet dies, dass der juristische Widerstand gegen die Abgabe ein schwieriger Weg bleibt. Gegen die Entscheidung des Verwaltungsgerichts steht den Beteiligten noch die Möglichkeit offen, einen Antrag auf Zulassung der Berufung zu stellen. Über diesen würde im nächsten Schritt das Oberverwaltungsgericht in Münster zu entscheiden haben.

Stefan Krempl

Schwarz-Rot einig: BND darf Wohnungen im Inland künftig heimlich betreten

CDU/CSU und SPD haben sich auf weitreichende Befugnisse für BND und Verfassungsschutz verständigt. Kritiker warnen vor massiven Grundrechtseingriffen.

Die Regierungsfraktionen von CDU/CSU und SPD haben sich auf einen umfassenden Änderungsantrag zur Reform des Nachrichtendienstrechts geeinigt, der weitreichende neue Befugnisse für die deutschen Geheimdienste vorsieht. Das berichtet Politico. Das Herzstück der geplanten Novelle, die am Freitagvormittag vom Bundestag beschlossen werden soll, ist demnach eine gravierende Ausweitung der operativen Handlungsspielräume. Künftig soll der Bundesnachrichtendienst (BND) im Inland heimlich Wohnungen betreten dürfen, um geheimdienstliche Maßnahmen vorzubereiten oder auszuführen.

Damit erhalten die Agenten die rechtliche Möglichkeit, verdeckt in private Räume einzudringen, um etwa Spionagesoftware wie Staatstrojaner zu installieren oder sonstige technische Aufklärungsmaßnahmen vorzunehmen. Für Wohnungen in Deutschland und für Liegenschaften deutscher Staatsbürger im Ausland gelten dabei zwar besondere Hürden, wie eine ausdrückliche Anordnung durch den BND sowie eine zwingende Prüfung im Vorfeld durch den Unabhängigen Kontrollrat. Dennoch markiert dieser Schritt einen spürbaren Wandel in der sicherheitspolitischen Architektur der Bundesrepublik.

Parallel dazu soll auch das Bundesamt für Verfassungsschutz (BfV) deutlich mehr Handlungsspielraum erhalten. Die Behörde wird künftig kriminelle Netzwerke durchleuchten und organisierte Kriminalität ins Visier nehmen dürfen, sofern konkrete Anhaltspunkte dafür vorliegen, dass Extremisten oder staatliche Akteure aus dem Ausland diese Strukturen für ihre Zwecke einspannen. Hintergrund dieses Ansatzes ist die zunehmende Beobachtung, dass hybride Angreifer verstärkt auf sogenannte „Low-Level-Agenten“ oder kommerzielle Angebote aus dem Bereich der organisierten Kriminalität zurückgreifen, um Spionage- und Sabotageakte zu verschleiern. Bundesinnenminister Alexander Dobrindt (CSU) hatte erst kürzlich betont, dass die Urheber von Cyberangriffen und deren Infrastruktur konsequent gestört werden müssten, wofür die neuen rechtlichen Instrumente dringend erforderlich seien.

Zu den Neuerungen gehört ferner ein Instrument für den Umgang mit Telekommunikationsdaten: BND und BfV können Internet- und Telefonanbieter künftig anweisen, bereits vorhandene Verkehrsdaten vorübergehend zu speichern, wenn konkrete Anhaltspunkte für deren spätere Relevanz vorliegen, auch wenn die strengen Voraussetzungen für eine dauerhafte Speicherung noch nicht vollständig erfüllt sind. Ein automatisierter Zugriff auf diese eingefrorenen Datensätze ist damit aber nicht verbunden; hierfür bedarf es nach wie vor eines gesonderten Auskunftsersuchens.

Die parlamentarischen Beratungen und die vorangegangenen Anhörungen im Innenausschuss machten deutlich, dass die Reform auf heftigen Widerstand und eine polarisierte Fachwelt stößt. Befürworter der Gesetzesnovelle argumentieren, dass das deutsche Nachrichtendienstrecht angesichts einer omnipräsenten und zunehmend hybriden Bedrohungslage angepasst werden müsse. Rechtsexperten betonten im Rahmen der parlamentarische Anhörung wiederholt, dass ein moderner Verfassungsstaat auf effektive und zeitgemäße Instrumente angewiesen sei, um gegen hochkomplexe Gefahren aus dem Cyber- und Geheimdienstbereich bestehen zu können. Der Entwurf stelle das Recht auf ein stabiles Fundament und werde durch ein dichtes Kontrollregime rechtsstaatlich eingehegt.

Auf der anderen Seite schlagen zahlreiche Verfassungsrechtler und zivilgesellschaftliche Organisationen Alarm. Sie bemängeln, dass der Gesetzentwurf eine beispiellose Bedrohung für die Grundrechte darstelle und die traditionellen Trennungslinien zwischen Nachrichtendiensten, Polizei und Militär verwische. Kritische Stimmen aus der Wissenschaft wenden ein, dass die Ermächtigungen zu weitreichend gefasst seien und datenrechtliche sowie präventive Eingriffe den verfassungsrechtlichen Rahmen strapazierten. Ein solcher Paradigmenwechsel stelle das hergebrachte Trennungsgebot infrage und könnte in dieser Form vor dem Bundesverfassungsgericht auf massive Hürden stoßen. Insbesondere befürchten Kritiker, dass die erweiterten Befugnisse des Verfassungsschutzes bei einer veränderten politischen Großwetterlage auch zur Kontrolle von Regierungskritikern genutzt werden könnten.

Stefan Krempl

Europas New-Space-Boom: Zwischen Aufholjagd und großen Lücken

Europas Raumfahrtsektor hat rund 900 Start-ups und wachsende Budgets, hinkt den USA bei Raketenstarts und Rückkehrkapseln technologisch aber noch weit hinterher.

Die europäische Raumfahrtindustrie erlebt einen Strukturwandel, der von einer dynamischen Gründerwelle getragen wird. Laut einer aktuellen Analyse von McKinsey, die in enger Zusammenarbeit mit der New-Space-Initiative des Bundesverbands der Deutschen Industrie und der französischen Alliance New Space entstanden ist, hat sich die Gründung von Raumfahrtunternehmen in den vergangenen 25 Jahren rasant beschleunigt.Mittlerweile zählt der alte Kontinent rund 900 New-Space-Unternehmen. Damit zieht Europa quantitativ mit den USA gleich, wo ebenfalls etwa 900 Firmen in diesem Sektor aktiv sind. Rund die Hälfte dieser europäischen Firmen konzentriert sich auf Raumfahrtsysteme sowie Erdbeobachtungs- und Geodatenanwendungen,wobei ein beachtlicher Teil erst seit dem Jahr 2020 entstanden ist und frischen Wind in die traditionell eher behäbige Branche bringt.

Auch die finanziellen Aussichten und öffentlichen Budgets präsentieren sich der Untersuchung zufolge, die Table.Briefings veröffentlicht hat, optimistischer als noch vor wenigen Jahren. Die öffentlichen Haushalte für Weltraumaktivitäten verzeichnen ein deutliches Wachstum, und die Studienautoren erwarten durch jüngste politische Ankündigungen eine Erhöhung der erwarteten Mittel um etwa 40 Prozent. Bis 2030 könnte der europäische Raumfahrtmarkt mitsamt dieser zusätzlichen Budgetimpulse auf ein Volumen von rund 46 Milliarden Euro ansteigen, was einer jährlichen Wachstumsrate von elf Prozent entspricht.

Getrieben wird dieser zusätzliche Schub maßgeblich durch europäische Instrumente wie den European Competitiveness Fund sowie spürbare nationale Verpflichtungen in Ländern wie Deutschland und Frankreich. Parallel dazu fließt nach amerikanischem Vorbild immer mehr privates Kapital in den Sektor. Während private Investitionen in Europa im Jahr 2018 noch bei bescheidenen 0,2 Milliarden Euro lagen, kletterten sie bis 2025 auf rund 2,7 Milliarden Euro. Auch der Arbeitsmarkt profitiert spürbar: Startups haben seit 2019 rund 8000 neue Arbeitsplätze geschaffen und verzeichnen ein jährliches Mitarbeiterwachstum von rund zwanzig Prozent, während etablierte Konzerne mit jährlich fünf Prozent deutlich langsamer wachsen.

Zugleich offenbart der European New Space Outlook ein Ungleichgewicht bei den tatsächlichen Fähigkeiten und der technologischen Reife im direkten Vergleich mit den USA. Trotz der beeindruckenden Zahl an Firmen hinkt Europa bei kritischen Kerntechnologien hinterher. Besonders drastisch zeigt sich das bei der Startkapazität für den Orbit. Während in den Vereinigten Staaten im Berichtszeitraum zuletzt 193 orbitale Starts verzeichnet wurden, schaffte Europa im selben Zeitraum gerade einmal acht.

Auch bei kommerziellen Erdbeobachtungssatelliten ist der Rückstand eklatant: Die USA verfügen über eine kommerzielle Flotte von rund 230 Satelliten, während Europa lediglich 80 Einheiten vorweisen kann. Noch gravierender stellt sich die Situation bei der Raumfahrtmobilität und Rückkehr dar. So gibt es in den USA bereits mindestens zwei betriebsbereite orbitale Rückkehrfahrzeuge. Europa geht hier derzeit leer aus und kann exakt null Systeme vorweisen. Zwar haben sich mittlerweile einige innovative europäische Startups aufgemacht, diese technologischen Lücken zu schließen. Doch der Weg zur vollen industriellen Eigenständigkeit ist noch steinig.

Die Wachstumshemmnisse für die hiesigen Unternehmen sind laut der Befragung im Rahmen der McKinsey-Studie vielschichtig, lassen sich aber in Hauptprobleme unterteilen. Ganz an der Spitze der Sorgenliste stehen die Geschwindigkeit der behördlichen und institutionellen Beschaffungsprozesse sowie der schwierige Zugang zu ausreichendem Wachstumskapital. Europäische Startups beklagen bürokratische Hürden, langwierige Vergabeverfahren und eine unzureichende Unterstützung durch institutionelle Großaufträge, die in den USA als verlässlicher und finanzstarker Anker für junge Firmen dienen. Dazu kommen fragmentierte Märkte, regulatorische Hürden und Herausforderungen bei der Gewinnung von hochqualifiziertem Ingenieurnachwuchs. Ohne eine grundlegende Reform dieser Rahmenbedingungen drohen innovative Unternehmen ins Ausland abzuwandern oder im internationalen Wettbewerb den Anschluss zu verlieren.

Um diese strukturellen Blockaden zu überwinden, leiten die Berater vier zentrale Handlungsempfehlungen ab. Erstens fordern sie eine stärkere und gezieltere institutionelle Nachfrage durch öffentliche Auftraggeber, um kommerzielle Fähigkeiten aufzubauen. Zweitens soll die Innovationskraft durch radikalen Bürokratieabbau gestärkt werden. Drittens gilt es, faire und offene Wettbewerbsbedingungen zu garantieren, damit auch junge Firmen uneingeschränkt an Souveränitäts- und Resilienzprogrammen teilnehmen können. Viertens plädiert die Studie für eine leistungsorientierte Vergabe nach dem Vorbild der US-Raumfahrtbehörde NASA und des dortigen Verteidigungsministeriums. Dabei sollen öffentliche Gelder und Folgeaufträge nicht pauschal im Voraus ausgeschüttet, sondern eng an das Erreichen definierter technologischer Meilensteine geknüpft werden.

Stefan Krempl

Digitale Forensik: EU finanziert umstrittene Handy-Durchsuchungen

Cellebrite-Tools gehören bei europäischen Behörden zum Standard. Dokumente zeigen nun, wie tief die Technologie im Polizeialltag verankert ist.

Umstrittene Handy-Durchsuchungssysteme des israelischen Unternehmens Cellebrite haben sich zu einem Standardwerkzeug für Strafverfolgungsbehörden in ganz Europa entwickelt. Recherchen der Organisation Statewatch offenbaren mehr als 150 öffentliche Aufträge mit einem Gesamtwert von rund 69 Millionen Euro seit dem Jahr 2023, wobei teilweise auch EU-Gelder in diese Beschaffungen flossen. Die monatelange Untersuchung zeigt, dass die Technologie nicht nur zur Kriminalitätsbekämpfung dient, sondern in verschiedenen Staaten auch zur Profilierung von Journalisten, Aktivisten und marginalisierten Gruppen eingesetzt wurde. Das wirft Fragen hinsichtlich der Grundrechte auf. Der Beitrag bildet den Auftakt einer investigativen Statewatch-Serie über den Einsatz digitaler Extraktionstechnologie in Europa.

Cellebrite wurde 1998 als Backup-Dienst gegründet und entwickelte sich zu einem zentralen Akteur des israelischen Sicherheitskomplexes, in dem private Forschung und Verteidigungsorgane eng verzahnt sind. Die Systeme des Unternehmens, von klassischen Auslesegeräten bis zu KI-gestützten Analyseplattformen, werden weltweit von Sicherheitsbehörden genutzt. Laut Geschäftsberichten zählt das Unternehmen rund 5300 Kunden in etwa 100 Ländern. Die Nutzung dieser Werkzeuge durch autoritäre Regime stand in den vergangenen Jahren mehrfach in der Kritik. Erstmals dokumentiert die Recherche aber detailliert den Einsatz innerhalb der EU und weiteren europäischen Staaten wie Moldau, Serbien und Großbritannien. Dabei kam etwa heraus, dass EU-Mittel eingesetzt wurden, um die moldauische Polizei trotz dokumentierter Menschenrechtsverletzungen mit entsprechender Technologie auszurüsten.

Die Systeme von Cellebrite, angeführt von Werkzeugen wie dem Universal Forensic Extraction Device und der Software Inseyets, nutzen Betriebssystemschwachstellen aus, um Sicherheitsmaßnahmen zu umgehen und gespeicherte Daten von Smartphones, Computern und Cloud-Diensten vollständig zu kopieren. Anders als Spionagesoftware erfordern diese physischen Extraktionstools zwar einen direkten Gerätezugriff, hinterlassen jedoch kaum Spuren.

In der Vergangenheit kamen diese Technologien in Staaten zum Einsatz, die von Organisationen als teilweise frei oder unfrei eingestuft werden. So wurden etwa in Jordanien die Mobiltelefone von Zivilgesellschaftsmitgliedern beschlagnahmt, nachdem sie an Protesten teilgenommen hatten. Auch in Myanmar sind Cellebrite-Berichte als Beweismittel in Verfahren gegen Journalisten verwendet worden. Zwar kündigte das Unternehmen nach Kritik in einigen Fällen den Rückzug aus Staaten wie Russland oder Belarus an, doch der global steigende Umsatz zeigt den ungebrochenen Erfolg.

Die Nutzung in Ländern des globalen Südens wird generell intensiv beobachtet. Die Ausmaße in Europa blieben dagegen lange Zeit intransparent. Statewatch trug Daten aus 17 EU-Staaten, Norwegen und Großbritannien zusammen und identifizierte 114 Verträge im Wert von rund 69,4 Millionen Euro für den Zeitraum zwischen Anfang 2023 und Mitte 2026. Spitzenreiter ist Großbritannien, wo die Londoner Metropolitan Police einen Dreijahresvertrag im Wert von rund 9,2 Millionen Euro abschloss.

In Deutschland wurden Ausgaben für sieben von 14 identifizierten Verträgen öffentlich, darunter eine Vereinbarung der Polizei in Sachsen-Anhalt im Wert von 4,2 Millionen Euro. Zahlreiche Behörden verweigerten aber unter Berufung auf den Schutz von Betriebsgeheimnissen jegliche Auskunft über Vertragsdetails.

Besonders undurchsichtig agieren europäische Institutionen. Der Europäische Auswärtige Dienst lehnte selbst die Bekanntgabe von Dokumententiteln oder Registernummern ab und argumentierte, die Offenlegung würde Sicherheitsrisiken bergen. Gegen diese Entscheidung reichte Statewatch Beschwerde bei der Europäischen Ombudsfrau ein. Ferner zeigt die Analyse, dass nationale Verträge teils aus EU-Töpfen finanziert wurden, darunter aus dem Fonds für die innere Sicherheit in Italien und Frankreich sowie aus dem Betrugsbekämpfungsprogramm in Rumänien. Die EU-Kommission betonte zwar, dass die Verantwortung für die Einhaltung von Grundrechten bei den nationalen Behörden liege. Sie räumte jedoch ein, dass die Transparenz lückenhaft ist.

Ein weiteres Beispiel betrifft die Unterstützung für die moldauische Polizei, die im Rahmen von EU-Projekten der Agentur Cepol mit forensischer Hard- und Software ausgerüstet wurde. Zwar versicherten europäische Stellen und die moldauische Generalstaatsanwaltschaft, dass Datenschutzvorgaben gewahrt würden, doch Organisationen wie Amnesty International warnen vor massiven Missbrauchsrisiken. Die Technologie ermögliche einen tiefen Eingriff in das Privatleben von Bürgern, ohne dass ausreichende unabhängige Kontrollmechanismen existieren. Kritiker fordern daher eine dringend nötige europäische Debatte über deren Beschaffung und den Schutz der Grundrechte.

Stefan Krempl

Vibe-Coding im Amt: Bund verzichtet auf KI-Kennzeichnung für Code

KI-gestützte Softwareentwicklung soll Tempo und Qualität steigern. Transparenzregeln fehlen bisher, doch die Bundesregierung vertraut auf klassische IT-Sicherheit.

Der Einsatz von Künstlicher Intelligenz bei der Softwareentwicklung stößt bei der Bundesregierung auf ein durchweg positives Echo. In ihrer Antwort auf eine Anfrage der AfD-Fraktion betont die Exekutive, dass die Nutzung generativer KI in diesem Bereich ("Vibe-Coding") dazu beitragen kann, die Qualität von Entwicklungsleistungen zu verbessern und Prozesse spürbar zu beschleunigen. Das Phänomen beschreibt die Interaktion mit KI-Systemen in natürlicher Sprache anstelle des manuellen Schreibens von Programmcode.

Die Fragesteller befürchten hier erhebliche Sicherheitsrisiken durch unbemerkt eingeschleuste Schwachstellen. Das federführende Digitalministerium vertritt dagegen den Standpunkt, dass letztlich die Qualität der fertigen Software und nicht das verwendete Werkzeug entscheidend sei.

Mit Blick auf die Beschaffung von IT-Leistungen durch die Bundesverwaltung verweist die Regierung auf die bewährten "Ergänzenden Vertragsbedingungen für die Beschaffung von IT-Leistungen" (EVB-IT). Sie steuern Beschaffungsprozesse anhand klar definierter fachlicher und technischer Anforderungen. Für sensible Softwareentwicklungen wurden darüber hinaus zusätzliche Klauseln innerhalb des ITZBund etabliert. Die Exekutive räumt aber gleichzeitig ein, dass in den aktuellen EVB-IT-Regelwerken derzeit keine besonderen Offenlegungspflichten für KI-generierte Code-Anteile verankert seien. Auftragnehmer müssten demnach nicht zwingend ausweisen, ob und in welchem Umfang sie KI-Assistenten bei der Erstellung des Codes verwendet haben.

Bei Eigenentwicklungen und beauftragten Projekten setzt die Bundesverwaltung zwar gemäß den Vorgaben des E-Government-Gesetzes vorrangig auf Open-Source-Software. Eine Pflicht zum Einsatz offenen Quellcodes für jedwede Beschaffung besteht indes nicht.

Um Sicherheitsrisiken unabhängig von der Entstehungsweise des Codes wirksam zu begegnen, greifen laut dem Digitalressort die etablierten IT-Sicherheitsvorgaben des Bundesamtes für Sicherheit in der Informationstechnik (BSI). Im ITZBund etwa finde ein mehrstufiges Softwarequalitätsmanagement statt, bei dem der Quellcode automatisiert auf bekannte Schwachstellen, Viren sowie CVE-Einträge gescannt und funktional getestet werde. Ergänzend gehörten regelmäßige Code-Reviews zum festen Bestandteil des Prozesses.

Ein besonderer Schwerpunkt liege dabei auf dem Schutz sensibler und geheimschutzrelevanter Informationen, heißt es. Die Verarbeitung solcher Daten mithilfe von KI erfolge ausschließlich auf bereitgestellten Entwicklungsinstanzen auf eigenen Computerinfrastrukturen, bei denen Sprachmodelle in sicheren Rechenzentren des ITZBunds ohne jegliche Anbindung an das Internet betrieben würden. Ein unkontrollierter Abfluss sensibler Informationen über an externe Dienste übermittelte Prompts werde auf diese Weise technisch ausgeschlossen. Ferner würden die Beschäftigten der IT-Dienstleister des Bundes durch gezielte Schulungen und Hausanweisungen für den sensiblen Umgang mit Daten sensibilisiert.

Den Schulungsstand der Mitarbeiter im risikobewussten Umgang mit KI-Programmierassistenten stellt die Bundesverwaltung durch die Einhaltung gesetzlicher Bestimmungen sicher. Insbesondere die Vorgaben aus Artikel 4 der europäischen KI-Verordnung werden der Regierung zufolge vor der Nutzung entsprechender Werkzeuge konsequent umgesetzt. Etwaige darüber hinausgehende Schulungsbedarfe würden unmittelbar durch die IT-Dienstleister des Bundes realisiert.

Dennoch bleibt die allgemeine Sicherheitslage anspruchsvoll. Das BSI hatte in einer Cybersicherheitswarnung darauf hingewiesen, dass moderne KI-Systeme in der Lage seien, Schwachstellen in Software innerhalb kürzester Zeit autonom zu erkennen und in verwertbare Angriffspfade zu überführen. Das senke die Einstiegshürden für offensive Cyberfähigkeiten maßgeblich und führe zu einer insgesamt erhöhten Bedrohungslage, bei der Betreibern weniger Zeit für die Umsetzung von Schutzmaßnahmen bleibt.

Die Exekutive bewertet diese technischen Herausforderungen und Risiken als durch geeignete Maßnahmen beherrschbar. Entscheidend seien eine durchgehend sicherheitssensitive Implementierung von IT-Gesamtsystemen, entsprechende Pre-Tests wie Penetrationstests und eine permanente Überwachung durch ein Security Operations Center. Konkrete Fälle, in denen Sicherheitslücken in Bundessoftware nachweislich auf KI-generierten Code zurückzuführen waren, sind der Regierung nach eigenen Angaben bislang nicht bekannt.

Die zivilrechtliche und vertragliche Verantwortung richtet sich im Schadensfall nach den vertraglichen Vereinbarungen und den gewährleistungsrechtlichen Festlegungen zwischen Auftraggeber und Auftragnehmer. Kontrollstrukturen und entsprechende Zuständigkeiten sollen innerhalb der Bundesverwaltung bereits bestehen und kontinuierlich ausgebaut werden. Die parlamentarische Debatte verdeutlicht aber, dass der Einsatz generativer KI im öffentlichen Sektor engmaschig begleitet und reguliert werden muss.

Stefan Krempl

Dynamische Stromtarife: Steigende Nachfrage trifft auf Smart-Meter-Engpass

Laut einer Umfrage für die Smart-Meter-Initiative wächst das Interesse an flexiblen Stromtarifen in Deutschland. Doch der schleppende Ausbau der Zähler bremst Verbraucher.

Das Interesse an dynamischen Stromtarifen in Deutschland nimmt spürbar zu. Einer aktuellen YouGov-Umfrage im Auftrag der Smart-Meter-Initiative zufolge weiß mittlerweile mehr als die Hälfte der Erwachsenen im Land von diesen flexiblen Tarifen, während es 2024 erst 38 Prozent waren. Allerdings offenbart die Studie auch eine Wissenslücke: Nur rund die Hälfte der Personen, denen ein solcher Tarif ein Begriff ist, ist sich tatsächlich im Klaren, was sich im Detail dahinter verbirgt. Inhaltlich orientieren sich diese Tarife am Börsenstrompreis, der im Viertelstundentakt je nach Angebot und Nachfrage schwankt und bei viel Wind- oder Solarstrom besonders günstig ausfällt.

Aktuell geben nur drei Prozent der Befragten an, bereits einen solchen dynamischen Stromtarif zu nutzen. Weitere 15 Prozent erwägen einen künftigen Abschluss. Um den eigenen Stromverbrauch automatisiert in diese günstigen Börsenstunden verlagern zu können, ist ein Smart Meter erforderlich. Genau hier liegt das größte Nadelöhr des Energiemarktes. Jüngsten Zahlen der Bundesnetzagentur zufolge war Mitte des Jahres gerade einmal in knapp sechs Prozent der Haushalte in Deutschland ein intelligenter Zähler installiert. Damit hinkt die Bundesrepublik im europäischen Vergleich weit hinterher.

Matthias Martensen, CEO von Ostrom und Mitgründer der Smart-Meter-Initiative, kritisiert diese Diskrepanz. Ein knappes Fünftel der Bevölkerung habe einen dynamischen Tarif oder wolle einen, aber nur knapp sechs Prozent verfügten über das nötige Messsystem. Um diese Lücke zu schließen, unterstützt die Initiative die Pläne der Bundesregierung zur Einführung eines im Funktionsumfang reduzierten Smart Meter Light. Solche vereinfachten Zähler könnten auch Haushalten ohne Großverbraucher den Zugang zu günstigem Strom ermöglichen.

Auch das Wissen über die benötigte Hardware wächst nur langsam. Der Anteil der Bürger, die über Smart Meter Bescheid wissen, stieg von 30 auf 39 Prozent. Doch bei der Bestellung herrscht Verwirrung: Nur 35 Prozent kennen den korrekten Ansprechpartner, den Messstellenbetreiber. Die Mehrheit glaubt fälschlicherweise, der Stromanbieter oder der Vermieter sei dafür zuständig. Dennoch zeigt die Umfrage, dass fast 30 Prozent der Haushalte bereits Energiewende-Technologien wie Photovoltaikanlagen oder Wärmepumpen verwenden. Martensen hebt hervor, dass dynamischer Stromverbrauch kein Nischenthema mehr sei und nur durch einen beschleunigten Rollout sein volles Potenzial entfalten könne. Die repräsentative Studie stützt sich auf Online-Interviews mit rund 2000 Personen, die YouGov im Oktober durchgeführt hat.

Stefan Krempl