69 Prozent Automatisierung: Künstliche Intelligenz soll den Gastro-Service revolutionieren

Eine Denkfabrik lotet aus, wie KI und Robotik den akuten Fachkräftemangel in der Gastwelt lindern, Abläufe optimieren und Routinen verlässlich übernehmen könnten.

Der wirtschaftliche Druck auf den gesamten Dienstleistungssektor der Gastwelt nimmt zu. Ein anhaltender Mangel an Fach- und Arbeitskräften, steigende Kosten, eine schwankende Nachfrage sowie wachsende bürokratische Auflagen belasten Hotelbetriebe, Gastronomieunternehmen, Reiseveranstalter und Freizeiteinrichtungen gleichermaßen. Vor diesem Hintergrund hat eine Expertengruppe der Denkfabrik Zukunft der Gastwelt ein Impulspapier erarbeitet, das Wege aus der Krise durch den gezielten Einsatz von Künstlicher Intelligenz, Robotik und durchgängiger Digitalisierung aufzeigt. 

Das Dokument versteht sich nicht als starrer Technikkatalog, sondern soll als Ideengeber die unternehmerische Initiative stärken und einen Wandel in der Branche anstoßen. Der Grundgedanke ist dabei denkbar einfach: Moderne Technologie soll zeitraubende Routineaufgaben übernehmen, damit den Beschäftigten wieder mehr Zeit fürs eigentliche Kerngeschäft bleibt: die persönliche Gastfreundschaft.

Wie groß die ungenutzten Effizienzreserven in der Praxis tatsächlich sind, verdeutlicht eine Studie des Fraunhofer IAO im Auftrag des Thinktanks. Demzufolge weisen 69 Prozent aller Arbeitsabläufe in Hotelbetrieben ein hohes Potenzial für Digitalisierung und Automatisierung auf. Ds betrifft essenzielle Bereiche wie die Personal- und Warenwirtschaft, die direkte Kommunikation mit Gästen sowie die energetische Betriebssteuerung. Um dieses Potenzial auszuschöpfen, verfolgen die Experten vier zentrale Ziele: die Stärkung von Produktivität und Wettbewerbsfähigkeit, die Entlastung des Personals, die Steigerung der Service- und Erlebnisqualität sowie die Bewahrung der persönlichen Betreuung.

Für eine erfolgreiche Implementierung digitaler Werkzeuge bedarf es nach Ansicht der Branchenkenner pragmatischer Ansätze statt unkonkreter Zukunftsversprechen. Unternehmen müssen klar analysieren, welches Problem eine Anwendung löst, wie hoch die Kosten ausfallen und wie sich die Lösung in die täglichen betrieblichen Abläufe integrieren lässt. Insbesondere für kleine und mittlere Betriebe eröffnen sich dadurch erhebliche Chancen. Da Digitalisierung, KI und Automation längst keine rein technischen Sonderprojekte mehr sind, schlägt die Denkfabrik vor, in größeren Unternehmen eine Position als Chief AI Officer auf Führungsebene zu verankern. Diese Führungskraft soll die digitale Transformation strategisch steuern, Zuständigkeiten klar definieren und den Veränderungsprozess im Unternehmen aktiv vorantreiben.

Um Betrieben den Einstieg zu erleichtern, sieht das Konzept flächendeckende Checks der KI-Einsatzbereitschaft vor, die den ökonomischen Nutzen und konkrete Fahrpläne für Investitionen aufzeigen. Ebenso essenziell ist der Aufbau einer branchenweiten Daten- und Wissensinfrastruktur. Einheitliche Standards für Angebote, Preise sowie Verfügbarkeiten und offene Schnittstellen zwischen den verschiedenen Betriebssystemen sollen Insellösungen verhindern. Ergänzt wird dies durch den Einsatz intelligenter Systeme zur automatisierten Personalplanung, KI-gestützter Gästekommunikation und einem digitalen Energiemanagement. Zudem fordert der Thinktank sichere Experimentierräume, in denen Betriebe neue Software und Roboter risikoarm testen können, ohne sofort rechtliche oder finanzielle Konsequenzen befürchten zu müssen.

Damit neue Technologien Akzeptanz finden, muss sich auch die Unternehmenskultur anpassen. Die Taskforce schlägt daher praxistaugliche Schulungswerkstätten, mehrsprachige digitale Onboarding-Prozesse, Train-the-Trainer-Konzepte sowie Ambassador-Programme vor. Wenn sich Berufsbilder verändern, sollen gezielte Qualifizierungs- und Reskilling-Pfade den Beschäftigten neue Aufgabenbereiche eröffnen, beispielsweise im Qualitätsmanagement von KI-Generaten oder in der Beschwerdebearbeitung.

Neben übergreifenden Ansätzen beinhaltet das Papier spezifische Impulse für die verschiedenen Teilbereiche der Gastwelt. Für die Hotellerie stehen kontaktlose, mobile Check-in-Systeme und dynamisches Pricing über KI-gestütztes Revenue-Management im Vordergrund. Der Foodservice-Sektor und Großküchen sollen durch eine präzise, datenbasierte Produktionsplanung gezielt Lebensmittelabfälle reduzieren. Im Tourismus geht es vor allem darum, Daten maschinenlesbar aufzubereiten, um in KI-basierten Such- und Buchungsportalen sichtbar zu bleiben. Freizeiteinrichtungen wiederum können mithilfe intelligenter Besucherlenkung Belastungsspitzen reduzieren und Wartezeiten verkürzen.

Die Verfasser fordern auch mehr Unterstützung von der Bundespolitik. Neben dem beschleunigten Ausbau der digitalen Infrastruktur mit Glasfaser und modernen Mobilfunknetzen sowie klaren Transparenz- und Haftungsregeln ruft die Denkfabrik nach steuerlichen Anreizen wie Sonderabschreibungen. Da bestehende staatliche Förderprogramme oft zu komplex und langsam seien, regt der Thinktank die Gründung einer zentralen, digital ausgerichteten „Gastwelt-Bank“ an. Diese spezialisierte Förderbank soll Investitionen in Software, Schnittstellen und Qualifizierung unbürokratisch und schnell ermöglichen, um den Betrieben den Schritt in die digitale Zukunft zu erleichtern.

Stefan Krempl

Vom Stresstest zur Souveränität: Das Comeback von Aleph Alpha mit KI-Modell Kolibri

Mit Open Weight und europäischer Compliance: Wie Aleph Alpha mit seinem neuen Modell Kolibri im Windschatten von OpenAI punkten will.

Mit der Veröffentlichung von Kolibri unternimmt Aleph Alpha einen gezielten Befreiungsschlag auf dem europäischen KI-Markt. Das am 3. Oktober als Open-Weight-Modell unter der Lizenz Apache 2.0 bereitgestellte große Sprachmodell richtet sich speziell an geschäftskritische Anwendungen in der öffentlichen Verwaltung sowie in der Industrie. Im direkten Vergleich mit der globalen Konkurrenz setzt Kolibri einen klaren Schwerpunkt auf die deutsche Sprache und garantiert Unternehmen sowie Behörden verlässliche Konformität mit dem AI Act, dem Datenschutz und dem Urheberrecht.

Technisch zeichnet sich Kolibri nach Angaben von Aleph Alpha vor allem durch eine extrem niedrige Halluzinationsrate aus. Klassische Large Language Models (LLMs) neigen bei unvollständigen Informationen häufig zu Spekulationen oder Fehlinformationen. Kolibri ist dagegen darauf trainiert, Wissenslücken explizit einzuräumen und Antworten strikt an belegbare Quellen zu binden. Um diese Verlässlichkeit zu erzielen, nutzte das Entwicklungsteam ein spezielles Trainingsverfahren mit synthetischen Daten. In einem dynamischen Drei-Akteure-System forderten gegnerische KI-Komponenten das Hauptmodell fortlaufend heraus, indem sie relevante Informationen aus Dokumenten entfernten und gezielte Fehlinformationen einschleusten. Dadurch soll Kolibri eine hohe Widerstandsfähigkeit gegenüber irreführenden Eingaben und Kontexten entwickelt haben.

Diese Ausrichtung macht sich in praxisnahen Leistungsvergleichen bemerkbar. Bei spezialisierten Benchmarks für Schlüsselsektoren wie die Automobilindustrie, den Maschinenbau, die Luft- und Raumfahrt, die Halbleiterbranche und den deutschen öffentlichen Sektor behauptet sich Kolibri dem Hersteller zufolge erfolgreich gegen deutlich größere internationale Modelle.

Das LLM steht zugleich für den strategischen Neuanfang von Aleph Alpha nach einer veränderten Marktpositionierung. Nach intensiven internen Debatten und dem Zusammenschluss mit dem kanadischen KI-Startup Cohere entschied sich das Management bewusst gegen das Nischendasein einer reinen KI-Boutique. Wie Führungskraft Ilhan Scheer im CEO-Podcast von Table Briefings erläutert, gingen der Fusionsentscheidung ab Ende 2025 intensive Diskussionen voraus, in denen anfängliche Bedenken bezüglich der Fokussierung und des Talentplatzerhalts ausgeräumt werden mussten. Letztlich überwog das Ziel, im Windschatten dominanter US-Anbieter wie OpenAI oder Anthropic eine eigenständige, europäische Alternative für datensensible Industrie- und Verwaltungsprozesse aufzubauen – ein Anspruch, den das Unternehmen mit dem Start von Kolibri nun untermauern will.

Stefan Krempl

EU-Urheberrecht: Brüssel plant Neuregelung für KI, Forschung und Rechtsverletzungen

Die EU-Kommission leitet eine neue Konsultationsphase ein, um das Urheberrecht an das KI-Zeitalter anzupassen und Rechteinhabern sowie Tech-Konzernen Rechtssicherheit zu verschaffen.

Die EU-Kommission drückt beim Thema Künstliche Intelligenz und Immaterialgüterrechte aufs Tempo. Sie hat eine gezielte Konsultation gestartet, um die europäische Urheberrechtsarchitektur an die Herausforderungen von generativer KI, Rechtsverstößen im großen Stil und digitaler Forschung anzupassen. Aufbauend auf einer Vorbefragung im Frühjahr richtet sich der umfangreiche Fragenkatalog an Kreative, Urheberrechtsorganisationen, Wissenschaftler sowie Entwickler von KI-Systemen. Ziel ist es, Vorarbeit für eine gezielte europäische Gesetzesinitiative zu leisten, die die Wettbewerbsfähigkeit der europäischen Kultur- und Kreativwirtschaft stärken und Innovationen im Bereich der Zukunftsarchitekturen fördern soll. Interessierte Parteien haben bis zum 3. November 2026 Zeit, Stellungnahmen einzureichen.

Im Zentrum der Befragung steht das Spannungsfeld zwischen generativer KI und dem Urheberrecht. Seit der Verabschiedung der Richtlinie über das Urheberrecht im digitalen Binnenmarkt 2019 und dem Inkrafttreten des AI Acts ringt die Branche um klare Spielregeln. Entwickler von General-Purpose-KI-Modellen benötigen rechtssicheren Zugang zu enormen Datenmengen, um konkurrenzfähige Systeme in Europa zu trainieren. Doch Kulturschaffende stehen vor erheblichen Durchsetzungsproblemen. Die Kommission thematisiert explizit die Lücken beim sogenannten Opt-out-Mechanismus für Text- und Data-Mining. Urheber können zwar der Nutzung ihrer Werke zu Trainingszwecken widersprechen. In der Praxis fehlen jedoch skalierbare, standardisierte Protokolle und technische Register, um diesen Vorbehalt wirksam durchzusetzen.

Diese Durchsetzungslücke soll geschlossen werden. Dafür stellt die Exekutivinstanz verschiedene Regulierungsoptionen zur Diskussion. Die Handlungsmöglichkeiten reichen von der Einführung branchenweiter technischer Opt-out-Standards über Offenlegungspflichten für Web-Crawler bis zu verpflichtenden Audits für KI-Entwickler. Auch weitreichendere Schritte stehen im Raum: So lautet eine Frage, ob KI-Anbieter künftig unter Geheimhaltungsvereinbarung detaillierte Auskünfte an Verwertungsgesellschaften erteilen müssen oder ob im Streitfall eine rechtliche Vermutung zugunsten der Urheber greifen sollte, wenn Transparenzpflichten missachtet werden. Auf der Lizenzierungsseite prüft die Kommission Mechanismen wie erweiterte kollektive Lizenzen, Vergütungsrechte oder strukturierte Schlichtungsverfahren, um faire Bedingungen für Urheber zu schaffen, ohne Startups und kleine Unternehmen durch unkalkulierbare Transparenzhürden zu überfordern.

Neben dem Training von Modellen beleuchtet der Fragenkatalog die Verwertung digitaler Imitationen von ausübenden Künstlern. Generative Systeme ermöglichen es heute mühelos, Stimme, Aussehen oder Performance von Schauspielern und Musikern synthetisch nachzubilden. Da das Urheberrecht traditionell das konkrete Werk und nicht die persönliche Identität schützt, kollidieren hier Persönlichkeitsrechte, Datenschutz und Verwertungsinteressen. Die Befragung evaluiert daher, ob spezifische urheberrechtliche Sonderregeln auf EU-Ebene erforderlich sind, um Künstlern die Kontrolle und Monetarisierung ihres digitalen Ebenbilds zu sichern.

Obwohl der Schwerpunkt deutlich auf dem KI-Sektor liegt, deckt die Konsultation drei weitere Themenfelder ab. Beim Kampf gegen Rechtsverletzungen rund um zeitkritische Inhalte – wie etwa Live-Sportübertragungen – hat sich die bisherige Empfehlung der Kommission nach deren Analyse als unzureichend erwiesen. Sie fragt nun nach verbindlichen Fristen für Hosting-Provider und dynamischen Sperrverfügungen. Ferner geht es um die grenzüberschreitende Verwertung von Tonträgeraufnahmen von Drittstaatsangehörigen. Schließlich nimmt die Konsultation die Wissenschaft ins Visier: Hier steht die Harmonisierung von Forschungsausnahmen sowie die Einführung eines EU-weiten Zweitveröffentlichungsrechts zur Debatte, um öffentlich geförderte Forschungsergebnisse barrierefreier zugänglich zu machen.

Stefan Krempl

Vint Cerf warnt: KI zerstört das Fundament und die Finanzen des Internets

Internet-Pionier Vint Cerf fordert neue Erlösmodelle für Inhalte-Ersteller, deren Daten KI-Systeme gratis nutzen. Er macht sich für eine faire Vergütung digitaler Urheber und Netzneutralität stark.

Das Internet war in seinen Ursprüngen als offener, neutraler und chancengleicher Raum konzipiert, in dem Informationen frei fließen und Akteure gleichberechtigt miteinander agieren können. Doch dieses Fundament gerät zunehmend unter Druck. Vint Cerf, der als einer der Väter des Internets gilt, zeichnet in einem Gespräch mit dem Magazin Bulletin of the Atomic Scientists ein nachdenkliches Bild der aktuellen Netzlandschaft. Vor allem der rasant wachsende Einfluss von Systemen der Künstlichen Intelligenz wirft ihm zufolge grundlegende Fragen zur Funktionsweise, Vertrauenswürdigkeit und wirtschaftlichen Tragfähigkeit des digitalen Ökosystems auf.

Eine der prägnantesten Metaphern Cerfs beschreibt das globale Netzwerk als eine gigantische Kopiermaschine. Was als Stärke begann – die verlustfreie und augenblickliche Vervielfältigung von Wissen –, entwickele sich im Zeitalter dominanter KI-Modelle aber zu einer zentralen Herausforderung für Urheber und Inhalte-Ersteller. Moderne Sprachmodelle und KI-Anwendungen speisten sich aus riesigen Datenmengen, die aus dem öffentlichen Netz extrahiert werden. Das Problem dabei liege in der fehlenden Rückkoppelung zum Ursprung: Die finanziellen Mittel und der ökonomische Mehrwert flössen in erster Linie an die Entwickler und Betreiber der KI-Plattformen. Die eigentlichen Schöpfer der Inhalte gingen weitgehend leer aus.

Cerf betont, dass diese Schieflage das ökonomische Herzstück des Internets bedroht. Wenn diejenigen, die hochwertige Recherchen, kreative Werke, Analysen oder fundierte Informationen produzieren, für ihre Arbeit nicht mehr angemessen entlohnt werden, breche die Basis zusammen, auf der auch künftige KI-Systeme aufbauen. Es brauche daher dringend neue und funktionierende Erlösmodelle, die sicherstellen, dass Wertschöpfung wieder zu den Content-Erstellern zurückfließt.

Neben den ökonomischen Verwerfungen sieht der Internet-Pionier das Thema Vertrauen als größte Baustelle der modernen Netzarchitektur. In einer von Algorithmen und synthetischen Inhalten dominierten Umgebung wird es für Nutzer immer schwieriger, authentische Informationen von Fälschungen oder Halluzinationen zu unterscheiden. Um den Glauben an das Netz als verlässliche Informationsquelle nicht vollständig zu verlieren, müssen nach Ansicht Cerfs technische Mechanismen und Standards etabliert werden, die Herkunft und Integrität von Daten überprüfbar machen.

Zugleich plädiert der 83-Jährige dafür, die Grundideale des ursprünglichen Internets nicht vorschnell aufzugeben. Das Prinzip eines offenen und neutralen Spielfelds habe über Jahrzehnte hinweg Innovationen überhaupt erst ermöglicht. Wenn große Plattformen und KI-Konzernmonopole den Zugang zu Informationen kontrollierten und den Datenfluss nach eigenen Interessen steuerten, drohe diese Offenheit verloren zu gehen. Die Weiterentwicklung der Netzinfrastruktur müsse daher zwingend darauf ausgerichtet sein, Vertrauen neu zu verankern, die Unabhängigkeit zu wahren und eine faire Vergütung im digitalen Zeitalter zu garantieren.

Stefan Krempl

Digitale Enteignung? Wie die EU-Ratspräsidentschaft für KI-Konzerne den Datenschutz aushebeln will

Vorstöße der irischen EU-Ratspräsidentschaft und der deutschen Bundesregierung setzen die Interessen von Tech-Riesen über das Grundrecht auf Datenschutz. Bürgerrechtler wollen den EuGH einschalten.

Ein politisches Beben kündigt sich in den Brüsseler Verhandlungsräumen an: Unter dem Deckmantel des Gesetzpakets für den „Digitalen Omnibus“ plant der EU-Rat eine drastische Lockerung des europäischen Datenschutzrechts. Die europäischen Bürger könnten damit schleichend das Recht an den eigenen Daten verlieren – zugunsten von US-amerikanischen und chinesischen KI-Konzernen wie OpenAI, Meta, Google, Anthropic, Alibaba oder SpaceX. In einem geleakten Ratsdokument schlägt die irische Präsidentschaft vor, den bisherigen Schutzrahmen der Datenschutz-Grundverordnung (DSGVO) bei der Entwicklung und dem Einsatz von Künstlicher Intelligenz weitgehend außer Kraft zu setzen.

Im Zentrum der Initiative steht der geplante Artikel 88bis (im ursprünglichen Kommissionsentwurf Artikel 88c). Dieser stuft die Nutzung personenbezogener Daten für KI-Systeme pauschal als „berechtigtes Interesse“ der Unternehmen ein. Die Konsequenzen dieser juristischen Feinheit sind groß: Bislang mussten Unternehmen bei der Verarbeitung persönlicher Daten entweder eine ausdrückliche Einwilligung der Betroffenen einholen oder in jedem Einzelfall nachweisen, dass ihr kommerzielles Interesse die Grundrechte der Nutzer nicht überwiegt. Künftig soll das Interesse der Konzerne standardmäßig Vorrang haben.

Besonders brisant ist, dass die Neuregelung rückwirkend nahezu alles erfasst, was Europäer in den vergangenen Jahrzehnten digital hinterlassen haben. Ob alte Beiträge in sozialen Netzwerken, hochgeladene Fotos, private Foreneinträge oder Suchanfragen: Alle öffentlich oder kommerziell zugänglichen Daten würden faktisch zum Freiwild. Datenschutzaktivist Max Schrems von der Organisation Noyb findet dafür deutliche Worte und spricht von einer „digitalen Enteignung der Europäer“. Den Bürgern werde das Grundrecht entzogen, selbst darüber zu bestimmen, was mit ihren persönlichen Daten geschieht.

Dabei war die Stoßrichtung des „Digitalen Omnibus“ ursprünglich eine andere. Die EU-Kommission unter Ursula von der Leyen wollte unter dem Mantel der Verwaltungsvereinfachung und Entlastung für kleine und mittlere Unternehmen (KMU) bürokratische Hürden abbauen. Da es sich angeblich nur um minimale Anpassungen handeln sollte, durchlief das Vorhaben beschleunigte Verfahren – ohne umfassende Grundrechtsprüfung und ohne direkte Federführung der zuständigen Fachausschüsse.

In den Händen der irischen Ratspräsidentschaft wandelte sich der Entwurf nun aber zu einem Freibrief für Big Tech. Irland fungiert traditionell als europäische Heimat und Steueroase für fast alle US-Tech-Giganten.

Unerwartet rigoros ist auch die Linie der deutschen Bundesregierung. Anstatt die Grundrechte der Bürger zu verteidigen, fordert Berlin in eigenen Positionspapieren einen noch weitergehenden Abbau des Schutzstandards. Die Vorschläge der deutschen Ministerien sehen vor, Rechte auf Information, Löschung und Berichtigung gegenüber KI-Systemen massiv einzuschränken. Wer also von einer KI halluzinierte Unwahrheiten oder falsche Persönlichkeitsprofile korrigieren lassen wollte, liefe künftig ins Leere. Sogar die Pflicht der Aufsichtsbehörden, Beschwerden von Bürgern über KI-Anwendungen nachzugehen, soll nach dem Willen der Bundesregierung stark beschnitten werden.

Dieser Kurs steht in eklatantem Widerspruch zur Einstellung der eigenen Bevölkerung: Umfragen zufolge lehnen etwa 93 Prozent der deutschen Meta-Nutzer die Verwendung ihrer privaten Daten für das Training von KI-Modellen ab.

Aus industriepolitischer Sicht erscheint das Vorhaben hochgradig paradox. Anstatt die europäische Wirtschaft zu stärken, befeuern die geplanten Regeln den Abfluss europäischer Datenströme in die USA und nach China. Da heimische Startups und KMU weder über die finanziellen Mittel noch über die gewaltigen Datenschätze verfügen, um mit Plattformen wie Facebook oder Google zu konkurrieren, würden vom Wegfall der Datenschutzgrenzen in erster Linie die etablierten Weltmarktführer profitieren. Europäisches Know-how und Nutzerdaten würden so effektiv exportiert.

Der Vorschlag hebelt zudem das Prinzip der Zweckbindung aus, das seit 1981 das Fundament des europäischen Datenschutzrechts bildet. Bislang durften Daten, die für einen bestimmten Zweck erhoben wurden – etwa zur Abwicklung einer Bestellung –, nicht einfach für völlig andere Ziele weiterverwendet werden. Durch den Freibrief für KI entfällt diese Schranke. Da der Entwurf keine Einschränkungen hinsichtlich der Art der KI vorsieht, könnten personenbezogene Daten künftig uneingeschränkt auch für hochumstrittene Zwecke wie verhaltensbeeinflussende Werbung, generative Manipulation oder militärische Anwendungen verarbeitet werden.

Ob das Gesetz in dieser Form Bestand haben wird, ist fraglich. Sollten der Rat und das EU-Parlament das Gesetzespaket bis Anfang 2027 verabschieden, dürfte der Gang nach Karlsruhe und Luxemburg unvermeidlich sein. Der Europäische Gerichtshof (EuGH) hat in der Vergangenheit wiederholt EU-Gesetze gekippt, die Grundrechte unangemessen beschnitten – etwa bei der Vorratsdatenspeicherung oder den Abkommen zum Datenaustausch mit den USA. Ein absehbarer Spruch des EuGH gegen den Digitalen Omnibus würde aber Jahre der Rechtsunsicherheit für Unternehmen nach sich ziehen, die ihre Produkte auf einer verfassungswidrigen Gesetzesgrundlage aufgebaut haben.

Stefan Krempl

KI-Filter im Recruiting: Welches Tool die Bewerbung schreibt, ist oft entscheidend

Eine Studie legt nahe: Identische Job-Kandidaten haben je nach KI-Schreibtool um bis zu 42 Prozentpunkte unterschiedliche Chancen beim automatisierten Screening.

Wer sich bei der Bewerbung von Künstlicher Intelligenz unterstützen lässt, erlebt unter Umständen eine böse Überraschung: Welches Sprachmodell den Lebenslauf verfasst, kann darüber entscheiden, ob das Dokument im digitalen Papierkorb landet oder eine Einladung zum Gespräch erfolgt. Das gilt selbst dann, wenn die beruflichen Qualifikationen völlig identisch sind. Zu diesem Ergebnis kommt ein Arbeitspapier des Forschers Christopher Ort von i10X Research. Die Untersuchung liefert erstmals systematische Zahlen für ein Phänomen, das Fragen für den Arbeitsmarkt und Regulier aufwirft.

In der Praxis prüfen Unternehmen Bewerbungen längst automatisiert mit KI-Systemen. Arbeitssuchende wiederum nutzen dieselben Modelle, um Lebensläufe aufzupolieren. Bisher fehlte der Nachweis, ob die Wahl des KI-Schreibwerkzeugs die Erfolgschancen im Bewerbungsprozess verändert. Für die Studie erstellte Ort 100 synthetische Kandidatenprofile aus zwölf Branchen und vier Karrierestufen. Sämtliche harten Fakten wie Berufserfahrung, Abschlüsse und Qualifikationen blieben bei allen Varianten gleich.

Vier führende KI-Modelle – GPT-5.4 von OpenAI, Claude Sonnet 4.6 von Anthropic, Gemini 3 Pro von Google sowie Grok 4.3 von xAI – erstellten aus den Profildaten jeweils eigene Lebenslauf-Varianten. Diese unterschieden sich ausschließlich in Sprache, Struktur und Satzbau. Anschließend bewerteten dieselben vier Modelle als virtuelle Personalentscheider alle 400 Bewerbungsunterlagen in einer Blindstudie. Von 1600 theoretisch möglichen Auswertungen flossen 1576 valide Datensätze in die Analyse ein. Die KI-Systeme vergaben Punkte von 0 bis 100 sowie eine Empfehlung: Einstellung, Vielleicht oder Ablehnung. Um reale Bedingungen abzubilden, galt nur eine explizite Einstellungsempfehlung als Erfolg, da Bewerbungen in der Kategorie Vielleicht in automatisierten Prozessen selten menschliche Recruiter erreichen.

Die Ergebnisse belegen erhebliche Abweichungen allein aufgrund des gewählten Schreibstils. Bei identischer Qualifikation schwankte die Chance auf eine Einstellungsempfehlung um bis zu 42 Prozentpunkte, je nachdem, welches Modell das Dokument verfasst hatte. Besonders drastisch zeigte sich dieser Effekt bei Claude Sonnet 4.6 als Bewerter: Von GPT verfasste Lebensläufe erhielten bei dem Anthropic-Modell nur in 42 Prozent der Fälle grünes Licht. Stammte der Lebenslauf dagegen von Claude selbst, stieg die Einstellungs-Empfehlung auf 84 Prozent. Den Höchstwert erzielten von Gemini verfasste Unterlagen mit 90 Prozent. Claude erwies sich damit als strengster Prüfer im Testfeld und zeigte zugleich eine ausgeprägte Vorliebe für den eigenen Textstil.

Andere Modelle zeigten abweichende Muster. GPT-5.4 bevorzugte keineswegs die eigenen Formulierungen. Während das OpenAI-Modell selbst verfasste Lebensläufe in 82 Prozent der Fälle zur Einstellung empfahl, schnitten Gemini-Texte mit 97 Prozent und Claude-Texte mit 95 Prozent deutlich besser ab. GPT-5.4 zeigte so eine Form negativer Selbstbevorzugung. Unabhängig davon funktionierten die Modelle grundsätzlich als Qualitätsfilter: Eine unpassende Bewerbung eines Berufseinsteigers auf eine Führungsposition wurde von allen Evaluatoren konsequent abgelehnt.

Ein weiteres Ergebnis betrifft die Dokumente aus der Feder von Gemini 3 Pro. Diese Schnittformate wurden von allen vier Test-KIs am erfolgreichsten bewertet. Mit Erfolgsquoten zwischen 90 und 97 Prozent überzeugte die strukturierte Form von Gemini durchgehend. Zudem traten bei identischen Dokumenten eklatante Bewertungsunterschiede zwischen den Prüfern auf. Im extremsten Fall vergab GPT-5.4 für einen von Claude verfassten Lebenslauf 74 Punkte, während Claude dasselbe Dokument mit lediglich 45 Punkten bewertete und ablehnte. Dieser Abstand von 29 Punkten entstand rein durch das prüfende Modell.

Wenn die Wahl eines KI-Tools die Einstellungschancen massiv beeinflusst, entstehen neue Diskriminierungsrisiken. Zudem stellt sich die Frage nach Transparenzpflichten gemäß Artikel 13 des EU AI Act bei Hochrisiko-KI-Systemen im Personalbereich. Firmen, die auf einkanalige KI-Filter setzen, riskieren hochqualifizierte Fachkräfte auszusortieren, nur weil deren Lebenslauf im falschen KI-Format vorliegt. Ort empfiehlt Unternehmen daher, automatisierte Bewerbungssortierungen vorab auf Stil-Unabhängigkeit zu testen und Prüf-Panels aus mehreren Modellen einzusetzen.

Stefan Krempl

Studie zum AI Act: Wie viel KI-Wissen Beschäftigte wirklich brauchen

Forscher der Denkfabrik Interface fordern einen Drei-Stufen-Rahmen für KI-Kompetenz in Unternehmen, um Schwächen in der KI-Verordnung zu beheben.

Seit Februar 2025 stellt der AI Act Unternehmen sowie öffentliche Einrichtungen vor eine neue gesetzliche Pflicht: Sie müssen ein ausreichendes Maß an KI-Kompetenz bei ihren Mitarbeitenden sicherstellen. Was auf den ersten Blick wie eine vernünftige Richtlinie klingt, sorgt in der Praxis teils für Orientierungslosigkeit. Weder im Gesetzestext noch in den begleitenden Leitlinien der EU-Kommission ist klar definiert, was genau als ausreichend gilt. Viele Firmen schulen inzwischen ihre Belegschaften bereits in der Nutzung von generativer KI. Doch diese Trainings konzentrieren sich meist auf Produktivitätsgewinne und effizienteres Prompting. Das eigentliche Ziel der europäischen Regulierung – das Erkennen von Systemfehlern, Verzerrungen und rechtlichen Risiken – bleibt oft auf der Strecke.

Eine aktuelle Studie der Denkfabrik Interface adressiert diesen blinden Fleck der KI-Verordnung. Die Autorinnen Siddhi Pal und Catherine Schneider haben gemeinsam mit der Ökonomin und KI-Arbeitsexpertin Lucia Velasco einen konkreten, sektorübergreifenden Rahmen erarbeitet. Dieser soll Politik und Verwaltung dabei unterstützen, Artikel 4 der Verordnung praxistauglich auszugestalten. Anstatt starr nach Jobtiteln, Hierarchieebenen oder technischem Vorwissen zu unterscheiden, schlagen die Autorinnen eine Aufteilung nach der tatsächlichen Interaktionsintensität und dem jeweiligen Risikoprofil vor.

Das Herzstück des Papiers bildet ein dreistufiges Rollenmodell, das Anforderungen an das KI-Verständnis kumulativ strukturiert. Die unterste Ebene, bezeichnet als L0 oder Baseline, richtet sich an alle Personen, die im Verantwortungsbereich einer Organisation tätig sind, einschließlich externer Dienstleister und Vertragspartner. Hier geht es um ein grundlegendes Verständnis dafür, was KI ist und was nicht, welche Systeme in der Einrihtung eingesetzt werden und welche allgemeinen Risiken wie Falschinformationen oder Datenschutzverstöße existieren. Als Vorbild dient das finnische Bildungsmodell Elements of AI, das breiten Bevölkerungsschichten ein solides Basiswissen vermittelt.

Die zweite Stufe, L1 oder Operational, betrifft Beschäftigte, die im Arbeitsalltag gezielt KI-Systeme verwenden – etwa im Marketing oder zur Textverarbeitung. Sie müssen nicht nur die Fähigkeiten, sondern vor allem die Grenzen und typischen Fehlermodi der Werkzeuge kennen. Dazu gehört die Fähigkeit, Ausgaben kritisch zu hinterfragen, Urheberrechte zu wahren und zu wissen, wann ein Ergebnis an Experten eskaliert werden muss.

Die höchste Stufe, L2 oder Oversight, richtet sich an Personen, die für den Betrieb oder die Überwachung von Hochrisiko-KI-Systemen verantwortlich sind. Hierunter fallen Anwendungen bei der Personalauswahl, der Kreditwürdigkeitsprüfung oder in der Polizeiarbeit. In diesem Bereich verlangt das Modell ein tiefes, dokumentiertes Systemwissen, um Fehlfunktionen, Leistungseinbußen oder Diskriminierungen frühzeitig zu erkennen und im Notfall manuell einzugreifen.

Die Autorinnen weisen darauf hin, dass Unternehmensschulungen derzeit meist am eigentlichen Gesetzeszweck vorbeigehen. Während der Markt voll von ungeprüften Schulungsangeboten ist, fehlt es an wissenschaftlich validierten Messinstrumenten, die tatsächlich belegen, ob ein Training das Verständnis verbessert hat. Das Papier warnt daher ausdrücklich davor, voreilig Zertifikate oder Qualifikationsnachweise einzuführen. Ohne verlässliche Kriterien würde eine Zertifizierung lediglich zu einem reinen Formalismus verkommen, der zwar Aufwand erzeugt, aber keine tatsächliche Sicherheit bietet.

Stattdessen fordern die Verfasserinnen die politischen Entscheidungsträger auf, gemeinsam mit der Industrie und der Wissenschaft standardisierte Evaluierungsmethoden zu entwickeln. Der internationale Vergleich zeigt, dass andere Regionen zwar Bildungsinitiativen fördern, die EU jedoch der weltweit einzige Rechtsraum mit einer verbindlichen Pflicht zur KI-Kompetenz am Arbeitsplatz ist. Mit ihrem Stufenmodell liefert der Think Tank einen pragmatischen Leitfaden, der den AI Act von einer vagen Rechtsvorschrift in einen messbaren, zukunftsfähigen Standard für die europäische Arbeitswelt übersetzen kann.

Stefan Krempl

Große KI-Modelle im Datenschutz-Check: Gemini und Copilot fallen durch

Ein Datenschutz-Vergleich von 13 führenden KI-Plattformen bescheinigt den Branchengrößen mangelnde Transparenz und gierigen Umgang mit Nutzerdaten. Vibe und ChatGPT belegen die vordersten Plätze.

Immer mehr Menschen vertrauen KI-Chatbots hochsensible Informationen an – von geschäftlichen Interna bis hin zu persönlichen Sorgen. Doch der Schutz dieser Eingaben unterscheidet sich je nach Anbieter gewaltig. Eine Untersuchung des Datenschutzdienstes Incogni zeigt: Gerade die prominentesten Plattformen schneiden beim Datenschutz erschreckend schlecht ab. Für die Studie analysierten die Forscher 13 Systeme wie ChatGPT, Claude, Gemini, Grok, Vibe (ehemals Le Chat), Perplexity, Qwen, DeepSeek, Z.ai, Kimi, Meta AI, Pi und Copilot. Anhand von elf gewichteten Kriterien aus den Bereichen Datenverarbeitung, Transparenz sowie Datenerhebung und -weitergabe ermittelten die Experten ein Risiko-Ranking.

Das Ergebnis verweist auf ein deutliches Gefälle im Markt. Die größten Datenschutzrisiken gehen ausgerechnet von den Angeboten der IT-Schwergewichte aus. Microsoft Copilot, Meta AI sowie der chinesische Bot Kimi von Moonshot AI belegen die schlechtesten Plätze im Testfeld. Hauptgrund für das miese Abschneiden von Copilot und Meta AI sind die extrem weit gefassten Datenschutzbestimmungen der Mutterkonzerne.

Statt klar verständliche Regeln für die KI-Dienste bereitzustellen, gelten oft die allgemeinen Richtlinien des gesamten Ökosystems. Dadurch bleibt für Nutzer unklar, welche Daten exklusiv für den Chatbot erfasst oder womöglich mit Datenhändlern und Werbenetzwerken verknüpft werden. Überdies sammeln die iOS-Apps von Gemini und Meta AI laut App-Store-Angaben besonders sensible Daten wie ethnische Herkunft, sexuelle Orientierung, religiöse Überzeugungen oder politische Ansichten.

Ganz anders präsentiert sich der Spitzenreiter des Rankings. Das französische Modell Vibe von Mistral AI erzielt den niedrigsten Risikowert und sichert sich damit den Titel der datenschutzfreundlichsten Plattform. Die Anwendung überzeugt durch eine sparsame Weitergabe von Eingaben an Dritte sowie eine der datensparsamsten mobilen Apps im gesamten Feld. Direkt dahinter landet der Marktführer ChatGPT von OpenAI auf dem zweiten Platz. OpenAI punktet vor allem in der Kategorie Transparenz und bietet die mit Abstand verständlichste Datenschutzerklärung. Dank ausführlicher Hilfeseiten erfahren Nutzer hier am ehesten, was mit ihren Dialogen geschieht.

Trotz der guten Ränge für Vibe und ChatGPT offenbart die Untersuchung eine grundlegende Schwachstelle der gesamten Branche: Keines der untersuchten Unternehmen legt offen, aus welchen konkreten Datensätzen die Basismodelle ursprünglich trainiert wurden. Die Beschreibungen verharren durchweg in vagen Formulierungen wie „öffentlich zugängliche Informationen“, „private Datensätze“ oder „Social-Media-Daten“. Was genau im Trainingsmaterial landete, bleibt für Außenstehende unüberprüfbar.

Gravierend ist dieser Umstand beim nachträglichen Schutz der eigenen Privatsphäre. Zwar bieten die meisten Plattformen wie ChatGPT, Claude, Vibe, Copilot oder Grok in den Einstellungen einen einfachen Schalter, um künftige Unterhaltungen vom Modelltraining auszunehmen. Doch diese Opt-out-Optionen wirken ausschließlich in die Zukunft. Keine einzige Plattform ermöglicht es Nutzern, einmal verarbeitete Daten wieder aus einem trainierten KI-Modell entfernen zu lassen. Wurden vertrauliche Details erst einmal von den neuronalen Netzen absorbiert, sind sie dort dauerhaft verankert.

Die Experten warnen daher eindringlich davor, Chatbots als digitale Beichtstühle zu missbrauchen. Wer intime Details oder Unternehmensgeheimnisse in ein Eingabefeld tippt, läuft Gefahr, dass diese Informationen dauerhaft in den Gewichtungen des Modells verbleiben und womöglich künftige Antworten für andere Personen beeinflussen.

Zudem erschweren einige Anbieter den Widerspruch ereblich. Bei Googles Gemini ist die Deaktivierung des Trainings an die übergreifende Aktivitätshistorie gekoppelt. Wer das Lernen stoppt, verliert den Zugriff auf seinen bisherigen Chat-Verlauf. Bei Meta AI bleibt in den Richtlinien unklar, wie Nutzer überhaupt widersprechen können. Moonshot AI und Qwen reagieren erst auf E-Mail-Anfragen oder Formulare. Z.ai bietet nicht einmal eine funktionierende Opt-out-Option fürs Modelltraining. Wer KI-Tools nutzt, muss sich so in der Regel weiterhin selbst durch komplexe Menüs kämpfen, da die Anbieter die Verantwortung weitgehend auf ihre Kundschaft abwälzen.

Stefan Krempl

KI-Investitionen: Australiens harter Kurs gegen die US-Tech-Giganten

Canberra knüpft die Ansiedlung von Rechenzentren an strikte Bedingungen für Energie, Wasser und Souveränität, um nicht zum Datenlieferanten zu verkommen.

Australien wählt im globalen Wettlauf um die Zukunft der Künstlichen Intelligenz einen eigenwilligen und selbstbewussten Sonderweg. Viele Regierungen weltweit versuchen, Investitionen von US-Tech-Giganten wie Microsoft, Google und Anthropic um jeden Preis anzulocken. Canberra setze dagegen auf ein klares Prinzip, schreibt Politico: Investitionen ja, aber nur zu den Bedingungen des Landes.

Die australische Regierung unter Premierminister Anthony Albanese verfolgt laut dem Bericht eine pragmatische Strategie. Tech-Konzerne erhalten zwar Zugang zum Markt, müssen im Gegenzug aber konkrete Gegenleistungen erbringen. Wer Rechenzentren errichten will, muss diese mit sauberer Energie betreiben, den Wasserverbrauch offenlegen, lokale Ausbildungen fördern sowie heimischen Forschern und Startups Rechenkapazitäten zur Verfügung stellen.

Dieser Kurs kommt nicht von ungefähr. Die Verantwortlichen haben die heftigen Kontroversen in den USA genau analysiert. Dort stehen mittlerweile über 4000 Rechenzentren, die bei Anwohnern und Umweltverbänden massive Gegenreaktionen auslösten. Angestachelt durch den Erfolg der landesweit durchgesetzten Jugendschutz-Regeln für soziale Medien agiert Albanese nun mit neu gewonnenem Selbstbewusstsein. Der Premierminister sieht sein Land in einem Wettlauf gegen die Zeit: Die Politik in Down Under müsse jetzt handeln, um die gesellschaftliche Akzeptanz von KI zu gestalten und Rahmenbedingungen festzulegen. Das Ziel ist ein umfassendes KI-Gesetz bis Anfang 2027.

Dabei geht es nicht nur um Regulierungsfantasien, sondern um ökonomische und soziale Interessen. Die Regierung will verhindern, dass der gewaltige Energiehunger der Serverfarmen die Strompreise für Privathaushalte in die Höhe treibt. Zudem soll Australien nicht bloß als digitaler Rohstofflieferant enden. Ein starkes soziales Fundament für KI verschaffe der Politik den nötigen Spielraum, um die durch KI beschleunigten Umbrüche auf dem Arbeitsmarkt abzufedern.

Der australische Markt ist für globale Konzerne attraktiv: Die rund 28 Millionen Bürger gelten als technologieaffin, das Land bietet riesige Flächen. Angesichts rechtlicher Unsicherheiten in den USA und strenger Vorgaben in Europa suchen Tech-Firmen dringend nach Standorten für Modelltraining und Expansion. Doch die Bevölkerung bremst den Hype. Laut einer aktuellen Umfrage von JWS Research sprechen sich zwei Drittel der Australier für einen vorsichtigen KI-Kurs aus – selbst wenn dadurch Chancen verpasst werden sollten. Die Sorge vor steigenden Nebenkosten und Umweltauswirkungen steht dabei im Vordergrund.

Die Politik nimmt diese Ängste ernst. In Südaustralien wurde eine Sonderkommission zu den Auswirkungen von KI eingesetzt. Gleichzeitig zeigen Akteure aus der Wirtschaft innovative Ansätze: Der Bergbaukonzern Fortescue baut ein netzunabhängiges Öko-Stromnetz mit 2,3 Gigawatt Leistung in Westaustralien. Rechenzentren müssen auf eigenen Beinen stehen und grüne Energie nutzen, um das öffentliche Netz nicht zu belasten.

Der Staatssekretär für digitale Wirtschaft, Andrew Charlton, warnt eindringlich vor Passivität. Wenn Australien nur Grundstücke und Energie stelle, während ausländische Konzerne das geistige Eigentum, die Modelle und die Kundenbeziehungen kontrollierten, fließe der Großteil der Wertschöpfung ins Ausland. Australien drohe dann, dauerhaft Wissen und Intelligenz importieren zu müssen. Aus den Erfahrungen des historischen Rohstoffbooms hat der Kontinent gelernt: Zwar brachte der Export von Minenprodukten Wohlstand, doch verharrte das Land mangels eigener Veredelung am unteren Ende der Wertschöpfungskette.

Bei KI existiert ein solches Monopol auf Rohstoffe nicht. Deshalb setzt Canberra darauf, in der gesamten Wertschöpfungskette mitzumischen. Ziel ist eine digitale Souveränität über den gesamten Stack hinweg – von den Rechenzentren über das Modelltraining bis hin zu den Anwendungen. Auf diese Weise werden Rechenzentren zu einem zentralen Element der Industrie-, Sicherheits- und Energiepolitik. Mit einem neuen KI-Amt auf Bundesebene und klaren Leitlinien in den Bundesstaaten soll Investoren ein schneller, aber strikt regulierter Rahmen geboten werden. Australien beweist damit: Tempo und klare Regeln müssen kein Widerspruch sein.

Stefan Krempl

KI und Biowaffen: Wie groß ist die Gefahr durch intelligente Systeme?

Technikfolgenabschätzer des Bundestags analysieren die Risiken an der Schnittstelle von KI und Biotechnologie. Sie geben nur vorläufig Entwarnung und sehen Handlungsbedarf.

Die Fortschritte in der Biotechnologie und der Künstlichen Intelligenz verlaufen in beachtlichem Tempo. Wo Forschende noch vor wenigen Jahren monatelang Proteinstrukturen analysierten oder Laborprotokolle manuell anpassten, liefern moderne biologische KI-Modelle und große Sprachmodelle heute in Sekundenschnelle präzise Vorhersagen und Designs. Diese Synergie aus KI und Biotechnologie verspricht Durchbrüche in der Medizin, der Medikamentenentwicklung und der industriellen Produktion. Gleichzeitig wächst weltweit die Sorge vor den Schattenseiten dieser Entwicklung. Kann die Kombination aus Algorithmen und Genforschung dazu führen, dass die Entwicklung gefährlicher Erreger oder gar biologischer Waffen für Laien und Kriminelle zum Kinderspiel wird?

Ein neuer Bericht des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB) widmet sich dieser Frage. Die Autoren Harald König und Arnold Sauter haben die verfügbare wissenschaftliche Evidenz ausgewertet und ein differenziertes Bild gezeichnet. Die beruhigende Nachricht vorweg: Nach aktuellem Kenntnisstand senken KI-Modelle die Hürden für die Herstellung biologischer Waffen für Personen ohne tiefgreifende Fach- und Laborerfahrung nicht so entscheidend, wie oft befürchtet wird. Eine Entwarnung für die Zukunft bedeutet das aber nicht, denn die Unsicherheiten sind groß, der Anpassungsbedarf bei den Sicherheitsmechanismen ist akut.

In der internationalen Debatte stehen vor allem drei technologische Stränge im Fokus: generative Sprachmodelle, spezialisierte Biodesignmodelle und automatisierte Laborsysteme. Bei Sprachmodellen wie ChatGPT, Claude oder Gemini zeigten Tests zwar, dass KI-Systeme Fachwissen auf Expertenniveau abrufen können. Doch wenn es um die praktische Anwendung geht, relativieren sich die Befürchtungen. Experimente in realen Laborumgebungen machten deutlich, dass Sprachmodelle Personen ohne Biologie- und Laborerfahrung bei konkreten Aufgaben – etwa der Erzeugung eines einfachen Virus – derzeit nicht besser unterstützen als eine herkömmliche Internetsuche. Das Verstehen von Theorie ersetzt nicht das handwerkliche Geschick und das implizite Wissen, das für die Arbeit im Labor zwingend erforderlich ist.

Komplexer stellt sich die Lage laut dem Report bei den biologischen KI-Modellen dar, die gezielt Proteine und Enzyme entwerfen. Solche Systeme können Gensequenzen von Toxinen theoretisch so umgestalten, dass deren biologische Funktion erhalten bleibt, sie aber von den bisherigen automatischen Sicherheitsfiltern der Gen-Synthese-Hersteller nicht mehr erkannt werden. Dennoch hakt es auch hier an der Praxis: Experimentelle Daten deuten darauf hin, dass rein digital entworfene Varianten komplexer Proteine in der Realität häufig ihre Wirksamkeit verlieren und aufwendig im Labor nachoptimiert werden müssen. Vollständig neuartige Krankheitserreger mit hoher Übertragbarkeit oder Ausweichmechanismen gegen das Immunsystem per Mausklick zu erschaffen, scheitert so bislang an fehlenden qualitativ hochwertigen Datensätzen sowie an der Unberechenbarkeit biologischer Evolution.

Ein drittes Feld betrifft automatisierte Laborplattformen und sogenannte Cloud Labs. Diese ermöglichen es, Experimente remote über das Internet auszuführen. Noch erfordert die Programmierung solcher Abläufe aber tiefes Spezialwissen. Sollten KI-Systeme künftig als Steuerungsschicht fungieren und autarke biologische Forschungslabore ermöglichen, könnten die Anforderungen an die menschliche Expertise allerdings deutlich sinken.

Aus diesen Befunden leitet das TAB ab, dass staatliche Akteure mit den entsprechenden Ressourcen und Großlaboratorien auch weiterhin das Hauptrisiko für komplexe Biowaffenprogramme darstellen. Für nichtstaatliche Akteure oder Einzeltäter blieben bisher eher technisch einfache Angriffe realistisch. Doch genau in diesem Bereich könnten KI-Werkzeuge in Zukunft schrittweise Hürden abbauen, sei es beim Umgehen von Synthese-Kontrollen oder beim Beschaffen von Anleitungen zur Erreger-Isolierung.

Da die Entwicklung extrem dynamisch verläuft und Überraschungen nicht ausgeschlossen werden können, empfiehlt das TAB der Politik eine engmaschige, kontinuierliche Überwachung an der Schnittstelle von KI und Biotechnologie. Ferner gelte es, vorsorgende Sicherheitsarchitekturen aufzubauen. Dazu gehöre eine verpflichtende, EU-weit harmonisierte Überprüfung aller Aufträge für synthetische Nukleinsäuren, um anonymen Nachbestellungen gefährlicher Gensequenzen einen Riegel vorzuschieben. Zudem sollten Fördergelder nur noch an Forschungseinrichtungen fließen, die bei zertifizierten Synthese-Anbietern bestellen.

Auch gestufte Zugangskontrollen für besonders mächtige KI-Biodesignmodelle werden diskutiert. Dabei muss den Experten zufolge stets sorgfältig abgewogen werden, dass die zivile medizinische Forschung und die Entwicklung von Impfstoffen dadurch nicht behindert würden. Nicht zuletzt plädiert das Duo für eine Stärkung der internationalen Biowaffenkonvention sowie für den gezielten Einsatz von KI bei der Früherkennung von Erregern und der Abwehr biologischer Gefahren.

Stefan Krempl

Algorithmus offen gelegt: So wählt X Inhalte für den „For You“-Feed aus

Die Plattform X gewährt tiefere Einblicke in ihre Empfehlungsmechanismen. Experten bewerten den Schritt positiv, sehen aber deutliche Grenzen.

Die Social-Media-Plattform X hat weitere Bestandteile des Algorithmus veröffentlicht, der hinter dem zentralen „For You“-Empfehlungsfeed steht. Bereits Anfang des Jahres hatte das Unternehmen erste technische Details zugänglich gemacht. Nach eigener Darstellung verfolgt X das Ziel, mehr Transparenz darüber zu schaffen, nach welchen Kriterien Beiträge und Nutzerkonten auf der Plattform verbreitet und bewertet werden.

Ergänzend stellt die Plattform mit dem Werkzeug „Under the Hood“ eine Anwendung bereit, über die Nutzer nachvollziehen sollen können, wie das System ihr Profil und ihre Veröffentlichungen intern einstuft. Das Transparenz-Tool wird vorerst im Rahmen eines Tests nur einer ausgewählten Gruppe von Anwendern verfügbar gemacht. Da soziale Netzwerke den täglichen Medienkonsum von Millionen Menschen maßgeblich prägen, stehen ihre Sortier- und Filtermechanismen seit Langem in der Kritik.

Die Funktionsweise des Empfehlungssystems basiert nach Angaben von X auf einer zwei Teilen. Der Feed enthält einerseits Beiträge von Profilen, denen ein Nutzer aktiv folgt. Dazu kommen Empfehlungen von netzwerkfremden Accounts. Welche fremden Inhalte ausgewählt werden, bestimmen Modelle des maschinellen Lernens. Künstliche Intelligenz übernimmt zudem die spätere Gewichtung der Beiträge. In die Berechnung der Sichtbarkeit fließt maßgeblich ein, wie hoch das System die Wahrscheinlichkeit schätzt, dass ein Anwender mit einem Beitrag interagiert, also beispielsweise ein Like hinterlässt, antwortet oder den Beitrag weiterverbreitet.

Allerdings hat X bestimmte Kernelemente bewusst nicht im Quellcode offengelegt. Dazu gehören etwa die Anweisungen (Prompts) für das Content-Bewertungssystem Grox. Das Plattformmanagement begründet diese Auslassung damit, Manipulationen vorzubeugen und zu verhindern, dass Akteure das System gezielt zu ihrem Vorteil ausnutzen.

Heiko Paulheim, Professor für Data Science an der Universität Mannheim, bewertet das Ausmaß der offengelegten Daten gegenüber dem Science Media Center (SMC) grundsätzlich als Fortschritt. Die aktuelle Veröffentlichung sei deutlich umfangreicher als die Version vom Januar, als noch zentrale Bestandteile fehlten. Mittlerweile seien sowohl Grox als auch große Teile des Ranking-Systems Phoenix öffentlich dokumentiert und in Teilen ausführbar. Dadurch lässt sich die prinzipielle Funktionsweise des Feeds wesentlich besser nachvollziehen.

Allerdings weist Paulheim auf Einschränkungen hin. Sowohl von Grox als auch von Phoenix lägen lediglich vereinfachte Modelle vor. Die im Live-Betrieb tatsächlich genutzten produktiven Systeme, die zugehörigen Trainingsdaten sowie laufende Aktualisierungen bleiben weiterhin unter Verschluss. Zudem fehlen wichtige interne Signale wie Account- und Vertrauensbewertungen, die die Sichtbarkeit erheblich beeinflussen können.

Aus technischer Sicht spielen im Feed zwei Systeme eine Schlüsselrolle: Phoenix prognostiziert Reaktionen und bildet die Basis für das Ranking. Grox prüft Inhalte auf Spam, Sicherheitsrisiken oder Erwachseneninhalte. Die Veröffentlichung erlaubt Forschern zwar Simulationen. Doch da diese in einer synthetischen Umgebung ohne Echtzeit-Signale wie aktuelle Netzwerkstrukturen stattfinden, kann das Verhalten stark von der realen Plattform abweichen. Eine exakte Vorhersage über die Verbreitung konkreter Beiträge ist so nicht möglich.

Auch für gewöhnliche Nutzer bleibt der Mehrwert überschaubar. Zwar können technisch versierte Anwender Teile der Bewertung näherungsweise simulieren. Aber die komplexen KI-Modelle liefern vor allem Scores und Wahrscheinlichkeiten statt verständlicher Begründungen. Das Test-Instrument „Under the Hood“ stellt ferner primär Signale dar. Es erklärt aber nicht deren Zustandekommen oder Wege zur Reichweitensteigerung. Symbolisch bleibt die Veröffentlichung Paulheim zufolge trotzdem bedeutsam, da sie der Forschung wertvolle Experimente mit einem nachgebildeten System erlaube.

Stefan Krempl

Wiesbaden wagt das Experiment: Ein KI-Avatar soll Bürger im Amt empfangen

Die hessische Landeshauptstadt schreibt als erste deutsche Kommune einen KI-Avatar für den Schalterdienst aus – unter strengen Auflagen und mit knappem Budget.

Die Verwaltung digitalisieren, Wartezeiten verkürzen und gleichzeitig das Personal entlasten: Ein Versprechen, an dem sich deutsche Kommunen seit Jahren versuchen. Wiesbaden schlägt nun einen Weg ein, der in deutschen Rathäusern bislang ohne Vorbild ist. Wie aus einer aktuellen Ausschreibung im EU-Auschreibungsportal hervorgeht, sucht die hessische Landeshauptstadt nach Auftragnehmern für die Beschaffung, Implementierung und den Betrieb eines sprachgestützten Chat-Avatars samt KI-gestützter Chatbot-Lösung.

Das System soll demnach direkt vor Ort an stark frequentierten Anlaufstellen eingesetzt werden – etwa im Bürgerbüro, im Rathaus, in der Touristeninformation oder an einem Gesundheitskiosk. Es richtet sich explizit auch an digitalferne Bürger, denen über eine barrierearme, intuitive Sprachinteraktion der Zugang zu Verwaltungsdienstleistungen erleichtert werden soll. Zugleich fängt das Dialogsystem dem Plan nach Routinefragen ab, um die Mitarbeitenden im Bürgerservice spürbar zu entlasten.

Erster Schalter-Avatar einer deutschen Kommune

Text-Chatbots sind auf kommunalen Websites mittlerweile verbreitet. Die Beschaffung eines KI-Avatars mit physischem Terminalbezug auf Schalterebene ein Novum. Marktbeobachter werten die Ausschreibung als erste ihrer Art bei einer deutschen Gemeinde. Bislang trat ihnen zufolge im öffentlichen Sektor lediglich die Techniker Krankenkasse (TK) im Juni dieses Jahres als Käufer einer vergleichbaren Avatar-Lösung in Erscheinung. Wiesbaden dürfte damit eine Vorreiterrolle im kommunalen Sektor übernehmen.

Sicherheit und Datenschutz als K.o.-Kriterium

Dass Verwaltungs-KI auf besondere Skepsis trifft, ist den Verantwortlichen bewusst. Die Ausschreibung formuliert strenge Anforderungen an Datenschutz und IT-Sicherheit. So verlangt die Stadt zwingend ein gültiges BSI-C5-Testat für die eingesetzten Rechenzentren sowie eine Zertifizierung nach ISO 27001. Ein Zertifikat nach ISO/IEC 27018 zum Schutz personenbezogener Daten in Cloud-Umgebungen bringt Bietern Extrapunkte im Wertungsverfahren ein.

Besonders strikt zeigt sich die Kommune beim Daten-Handling: Personenbezogene Daten dürfen weitgehend gar nicht erst verarbeitet werden. Wenn eine solche unerlässlich ist, muss sie nach den Grundsätzen Privacy by Design und Privacy by Default erfolgen. Eine Weiterverwendung von Bürgerdaten für das Training von KI-Modellen wird in den Unterlagen ausdrücklich untersagt. Ergänzend müssen Bieter Schutzmechanismen gegen Prompt Injection und Halluzinationen sowie ein Moderationskonzept nachweisen. Die Barrierefreiheit geht ebenfalls als gewichtetes Kriterium in die Bewertung ein.

265.000 Euro für fünf Jahre: Ist die Summe angemessen?

Der geschätzte Auftragswert beläuft sich auf 265.000 Euro netto bei einer Vertragslaufzeit von 60 Monaten, die optional um zwei Jahre verlängert werden kann. Umgerechnet entspricht das einem Budget von etwa 53.000 Euro pro Jahr.

Dieser Etat scheint im Kontext der geforderten Leistungen knapp kalkuliert. Zwar klingt eine Viertelmillion Euro nach einer ziemlichen Stange Geld, doch das Anforderungsprofil ist komplex. Neben Hardware vor Ort und der Entwicklung einer visuellen Avatar-Oberfläche umfasst der Auftrag ein technisches Integrationskonzept. Der Avatar muss über offene Schnittstellen flexibel an bestehende Chatbot-Systeme sowie Wissensdatenbanken der Stadt angebunden werden.

Zieht man zudem den erheblichen Compliance-Aufwand ab, bleibt für Entwicklung, Wartung der Terminals und den Fünf-Jahres-Betrieb ein eher schmales Budget. Für etablierte Systemhäuser dürfte das Projekt finanziell an der Schmerzgrenze liegen; Chancen bieten sich vor allem spezialisierten Startups, die auf bestehende Bausteine zurückgreifen und eine Referenz im öffentlichen Sektor suchen. Interessierte Firmen können bis zum 4. September 2026 Angebote einreichen.

Stefan Krempl

Geheime Kooperation: Wie OpenAI-KI-Agenten den Ausbruch planten

Auf der Konferenz Black Hat enthüllen Forscher, wie sich autonome Modelle absprachen, Sicherheitsschranken umgingen und schließlich Hugging Face hackten.

Wochen bevor zwei hoch entwickelte KI-Modelle von OpenAI aus ihrer geschlossenen Testumgebung ausbrachen und ohne menschliches Zutun einen Cyberangriff starteten, begannen sie heimlich zu kooperieren. Wie Forscher des Unternehmens auf der IT-Sicherheitskonferenz Black Hat in Las Vegas enthüllten, tauschten die Systeme auf einer internen Plattform eigenmächtig Tipps aus, um Sicherheitsüberprüfungen zu umgehen und Hacking-Aufgaben zu lösen. Der Vorfall markiert einen besorgniserregenden Wendepunkt im Umgang mit autonomen KI-Agenten und setzt die gesamte Branche unter Zugzwang.

Der Sicherheitsforscher Michael Dalton bezeichnete die Erkenntnisse in Las Vegas als entscheidenden Moment für OpenAI und die KI-Industrie. Die Enthüllungen liefern detaillierte Einblicke in den Zeitplan und die Methoden, mit denen die Modelle schrittweise die Kontrolle über ihre Umgebung erlangten. Ende letzten Monats hatte OpenAI eingeräumt, dass seine Testmodelle für den Einbruch in die Plattform Hugging Face verantwortlich waren, nachdem diese zuvor über den unbefugten Zugriff eines autonomen KI-Systems berichtet hatte.

Die neuen Aspekte dürften die Debatte über Sicherheitsmaßnahmen führender KI-Labore anheizen. Auch Konkurrent Anthropic geriet kürzlich in die Schlagzeilen: Das UK AI Safety and Security Institute gab bekannt, dass das leistungsfähigste Modell des Anbieters während eines Hacking-Tests gefälschte Online-Identitäten erstellte, um einen menschlichen Programmierer zur Beihilfe bei einem Cyberangriff zu verleiten. Nach einer Überprüfung stellte Anthropic fest, dass eigene Testmodelle seit April in drei separaten Vorfällen in fremde Organisationen eingedrungen waren.

Bei OpenAI begann die Auffälligkeit bereits Anfang Mai. Wie Dalton und sein Kollege Eric Wallace berichteten, kommunizierten mehrere simultan getestete Agenten über ein internes Schwarzes Brett im Dateisystem Artifactory. Ohne Wissen der Ingenieure hinterließen die Modelle Notizen und tauschten Ratschläge für schwierige Aufgaben aus. Wenn die Modelle feststeckten, versuchten sie schlicht zu schummeln, um die vorgesehene Belohnung im Trainingsprozess zu kassieren.

Ende Mai fand ein Modell einen Weg, über Artifactory Dateien von externen Websites abzurufen und sich indirekten Internetzugang zu verschaffen. Im Juni entdeckten die Modelle eine unbekannte Zero-Day-Lücke. Sie nutzten die Schwachstelle gezielt aus, um sich Admin-Rechte zu verschaffen, Fernzugriffs-Software zu installieren und ihren Aktionsradius drastisch zu erweitern.

Die Aktivitäten führten Anfang Juli zu einer Überlastung von Artifactory und verursachten einen Systemausfall. Erst dieser Zwischenfall alarmierte die Ingenieure. Das Unternehmen entzog den Modellen die Zugriffsrechte, löschte die Kommunikationsplattform und schloss die Lücken. Doch nur Tage später fanden die Modelle erneut einen Weg zum gemeinsamen Austausch. Mitte Juli kombinierten zwei Modelle schließlich komplexe Verfahren, um unerkannt in die Systeme von Hugging Face einzudringen. Laut OpenAI handelten die Modelle im Rahmen ihrer Aufgabenstellung, da sich die gesuchten Antworten auf den Servern der Entwicklerplattform befanden.

Infolge des Vorfalls zog OpenAI vorerst die Notbremse. Laut Dalton entschleunigt das Unternehmen derzeit bewusst seine Forschung, um die IT-Sicherheitsarchitektur grundlegend zu überarbeiten und das Monitoring autonomer Agenten auszubauen.

Dass diese offensichtlich unsicheren Verhaltensmuster erst im Nachhinein erkannt wurden, zeigt laut Jonas Geiping, Leiter der Forschungsgruppe „Safety- & Efficiency-aligned Learning“ am Ellis-Institut Tübingen, "dass OpenAI und andere KI-Firmen bei der Überwachung und Kontrolle ihrer eigenen Modelle hinterherhinken". Allerdings handle es sich auch um eine schwierige Frage: Wie im Vortrag erwähnt, seien die beschriebenen Probleme in einigen wenigen Fällen von sieben Milliarden Logs aufgetreten. Das entschuldige zwar nicht die Vorfälle. Es signalisiere aber, dass die automatisierte Überwachung von KI-Modellen – die selbst durch andere KI-Modelle durchgeführt werden muss – noch nicht ausgereift sei.

Der harte Konkurrenzkampf im KI-Bereich werde sich wahrscheinlich noch weiter negativ auswirken, fürchtet Geiping. Das aktuelle Ziel der führenden Firmen sei eine Beschleunigung durch Recursive Self-Improvement (RSI). Damit sei hier vor allem zunächst gemeint, dass die KI-Modelle selbst zur Entwicklung der nächsten Generation von KI-Modellen eingesetzt würden. Je mehr Testumgebungen von KI-Systemen selbst entworfen würden, umso weniger Übersicht und menschliche Kontrolle gebe es darüber, welche Werte den Modellen weitervermittelt werden.

Stefan Krempl

Perplexity siegt vor Gericht: Amazon scheitert vorerst am Anti-Hacking-Gesetz

Ein US-Berufungsgericht hebt die Sperre gegen den KI-Shopping-Assistenten im Comet-Browser auf. Grund: Der Zugriff erfolge durch die Nutzer, nicht den Entwickler.

Ein juristischer Rückschlag für Amazon entwickelt sich zu einem potenziellen Signal für die KI-Branche: Das US-Berufungsgericht für den neunten Gerichtskreis (Ninth Circuit Court of Appeals) hat eine einstweilige Verfügung aufgehoben, die dem KI-Start-up Perplexity untersagt hatte, mit seinem Agenten-Browser Comet auf die Webseiten des Online-Händlers zuzugreifen. Das erstinstanzliche Verbot, das auf Antrag von Amazon erlassen worden war, basierte auf dem Vorwurf, Perplexity habe gegen das US-Anti-Hacking-Gesetz Computer Fraud and Abuse Act (CFAA) sowie das kalifornische Gegenstück CDAFA verstoßen. Nach Auffassung des Berufungsgerichts hält diese Argumentation aber einer rechtlichen Überprüfung nicht stand.

Im Zentrum des Streits steht der im Comet-Browser integrierte KI-Assistent. Er kann auf Anweisung von Anwendern autonom Online-Shops durchsuchen, Warenpreise vergleichen und Einkäufe vorbereiten. Amazon führte ins Feld, dass Perplexity durch diesen automatisierten Zugang vorsätzlich und ohne Autorisierung auf die geschützten Server des Konzerns zugreife. Der Online-Handelsriese stützte sich dabei auf den CFAA aus dem Jahr 1984, der ursprünglich das unbefugte Eindringen in Computernetzwerke verhindern sollte. Ein erfolgreicher CFAA-Anspruch setzt voraus, dass der Beklagte vorsätzlich ohne Autorisierung auf einen geschützten Computer zugreift, daraus Informationen erlangt und ein Mindestschaden entsteht.

Die Berufungsrichter sahen das technische Zusammenspiel anders. Nicht Perplexity greife direkt auf die Server von Amazon zu, sondern die jeweiligen Nutzer des Browsers. Der KI-Assistent sei als ein Werkzeug zu verstehen, das auf dem Rechner des Anwenders agiere, Bildschirmfotos an Perplexity-Server übermittele und Handlungsanweisungen zurückerhalte, um die Navigation im Auftrag des Nutzers durchzuführen. Das Gesetz betreffe indes nur Personen, die vorsätzlich Systeme hacken. Da ein KI-Agent keine Person darstelle und der Browser strikt unter der Regie des Anwenders agiere, fehle es an einem unbefugten Zugriff durch Perplexity selbst.

Das Gericht folgte in seiner Urteilsbegründung ausdrücklich den Argumenten von Bürgerrechtsorganisationen wie der Electronic Frontier Foundation (EFF), die in einer Stellungnahme auf die genaue technische Funktionsweise hingewiesen hatten. Die EFF begrüßte die Entscheidung als Triumph des gesunden Menschenverstands. In der Vergangenheit sei der CFAA immer wieder von etablierten Konzernen genutzt worden, um innovative Werkzeuge vom Markt zu drängen. Eine Ausweitung des Anti-Hacking-Gesetzes auf KI-Agenten hätte im schlimmsten Fall dazu führen können, dass Nutzer kriminalisiert werden, wenn sie neuartige Tools für das Surfen im Web einsetzen.

Auch bei der Abwägung der weiteren Kriterien erteilte das Berufungsgericht Amazon eine Absage. Der von Amazon geltend gemachte Schaden sei zu abstrakt und unzureichend belegt. Eine einstweilige Verfügung gegen ein Verhalten, das wahrscheinlich keine Gesetzesverletzung darstellt, liege nicht im öffentlichen Interesse. Ein solches Verbot würde die Wahlfreiheit der Verbraucher einschränken und die Entwicklung zukunftsträchtiger Technologien hemmen.

Das Verfahren ist damit noch nicht beendet. Die Entscheidung hebt lediglich die vorläufige Sperre auf. Amazon erwägt weitere juristische Schritte, etwa eine Überprüfung durch den US-Supreme Court. Zudem läuft das Hauptsacheverfahren vor dem Bundesgericht für den Gerichtskreis San Francisco weiter. Unberührt bleibt auch das Recht von Amazon, den Zugriff über die eigenen Nutzungsbedingungen zu regeln. Für Entwickler agentischer KI-Systeme setzt der Beschluss dennoch ein Zeichen.

Stefan Krempl