Ein neues Gesetz soll Behörden entlasten und Verfahren bei Asylanträgen mit KI beschleunigen. Fachverbände wie die GI und Datenschützer warnen vor Diskriminierung und Datenschutzverstößen.
Das Bundeskabinett hat am Mittwoch den Regierungsentwurf für das sogenannte KI-Migrationsverwaltungsgesetz (KIMVG) auf den Weg gebracht. Die Vorlage, die vom Bundesinnenministerium unter Führung von Innenminister Alexander Dobrindt (CSU) erarbeitet wurde, soll den Einsatz digitaler Verfahren und Künstlicher Intelligenz in Asyl-, Visum- und Migrationsverfahren rechtlich absichern und regeln. Die Bundesregierung begründet die Initiative mit einem anhaltend hohen Antragsaufkommen sowie akuten personellen Kapazitätsgrenzen in den Behörden. Ziel sei es, durch automatisierte Datenverarbeitung und KI-Systeme die Effizienz, Qualität, Sicherheit und Einheitlichkeit ausländerrechtlicher Verfahren nachhaltig zu steigern und Sachbearbeiter zu entlasten.
Der Gesetzentwurf sieht weitreichende Befugnisse für Behörden wie das Bundesamt für Migration und Flüchtlinge (BAMF), Ausländerämter, das Bundesverwaltungsamt, die Bundespolizei und die Landespolizeibehörden vor. Diese sollen personenbezogene Daten nicht nur verarbeiten, sondern gezielt zum Entwickeln, Trainieren, Validieren und Testen von KI-Anwendungen nutzen dürfen. Der Entwurf erlaubt dazu sogar die Verarbeitung sensibler Echtdaten nach Artikel 9 der DSGVO – etwa zur ethnischen Herkunft, zu religiösen Überzeugungen oder zur sexuellen Orientierung – ohne verpflichtende Anonymisierung oder Pseudonymisierung, sofern dies den Entwicklungsaufwand übersteigen oder die Ergebnisqualität beeinträchtigen würde.
Ferner würde das Gesetz zwei zentrale Mechanismen verankern: Ein datei- und informationssystemübergreifendes automatisiertes Verfahrensmonitoring zum Erfassen von Entscheidungsmustern und Zusammenhängen sowie einen automatisierten Abgleich von Antragsangaben mit öffentlich zugänglichen Internet- und Social-Media-Daten im Zweifelsfall.
Zivilgesellschaft und Fachverbände reagierten mit harter Kritik auf den Kabinettsbeschluss. Die Gesellschaft für Informatik (GI) äußert fundamentale Zweifel an der technischen Machbarkeit und dem Nutzen der Pläne. GI-Expertin Christine Hennig betont, dass KI-Systeme auf Wahrscheinlichkeiten basierten und fehlerhafte Halluzinationen erzeugten. In Kombination mit dem Phänomen des Automation Bias – der Neigung von Menschen, KI-Empfehlungen ungeprüft zu vertrauen – entstehe eine gefährliche Dynamik. Der notwendige manuelle Prüfaufwand würde die erhoffte Effizienzgewinnung wieder zunichtemachen.
Die GI warnt auch vor Diskriminierung durch verzerrte Trainingsdaten, die besonders vulnerable Gruppen wie Frauen, Kinder und People of Color benachteiligen, sowie vor hohen Fehlerraten beim automatisierten Abgleich ungeprüfter Internetdaten und bei der verankerten Ausnahmeregelung zur Verarbeitung biometrischer Daten.
Bereits zum vorherigen Referentenentwurf hatte die Deutsche Vereinigung für Datenschutz (DVD) eine vernichtende Stellungnahme vorgelegt und den vollständigen Rückzug des Vorhabens gefordert. Zwar befürwortet die DVD eine sinnvolle Digitalisierung, sieht in dem Entwurf jedoch eine systematische Missachtung europäischer Datenschutzvorgaben und verfassungsrechtlicher Schranken. Das Aufweichen der Datenminimierung, die fehlende Pseudonymisierung und die Etablierung massiver Generalklauseln seien inakzeptabel. Die Behauptung des Innenministeriums, dass die Letztentscheidung stets beim Menschen verbleibe, nennt die DVD angesichts der angestrebten Beschleunigung ohne Zusatzpersonal eine Illusion. De facto handele es sich um unkontrollierte automatisierte Entscheidungen bei Hochrisiko-KI-Systemen. Zudem verweist die DVD auf eklatante Sicherheitsrisiken beim Social-Media-Abgleich, bei dem Metadaten schutzbedürftiger Personen ungewollt an US-Konzerne fließen könnten.
Ebenfalls deutliche Worte findet AlgorithmWatch. Nora Oppermann, Junior Policy Managerin der zivilgesellschaftlichen Organisation, bemängelt, dass die Regierung Menschen, die auf eine sichere Ankunft hoffen, unausgereiften und fehleranfälligen KI-Systemen aussetze. Geflüchtete würden auf diese Weise zu Versuchskaninchen für evidenzlose Forschung gemacht, was einer Demokratie nicht gerecht werde. AlgorithmWatch kritisiert vor allem das Fehlen differenzierter Schutzmechanismen und wirft der Bundesregierung vor, für eine vermeintliche Entbürokratisierung schwere Folgen für menschliche Schicksale billigend in Kauf zu nehmen.
Zusammenfassend fordern GI, DVD und AlgorithmWatch eine grundlegende Überarbeitung des Gesetzentwurfs im anstehenden parlamentarischen Verfahren. Sie verlangen die strikte Verankerung von Security und Privacy by Design, wirksame Mechanismen gegen Diskriminierung sowie verlässliche rechtsstaatliche Kontrollen und Transparenzrechte für Betroffene.
Stefan Krempl
Keine Kommentare:
Kommentar veröffentlichen