Gesetzentwurf beschlossen: Bund will KI bei Asylverfahren einsetzen

TTS-Player überspringen↵Artikel weiterlesen Künstliche Intelligenz soll künftig bei einem der sensibelsten Behördenverfahren mitentscheiden: bei Asyl- und Aufenthaltsverfahren. Das Bundeskabinett hat dafür Ende Juli einen Gesetzentwurf beschlossen. Demnach sollen Behörden KI-Systeme entwickeln und mit Daten aus bisherigen Verfahren trainieren dürfen. Damit könnte KI bald deutlich häufiger Anträge und Angaben mitprüfen. Bislang kommt KI in diesem Bereich nur punktuell zum Einsatz. Beim Bundesamt für Migration und Flüchtlinge (BAMF) durchsucht bereits ein KI -gestütztes Assistenzsystem Protokolle von Asylanhörungen nach sicherheitsrelevanten Hinweisen. Mit dem neuen Gesetz soll der Einsatz nun deutlich ausgeweitet werden. Künftig sollen Programme frühere Abläufe und Entscheidungsmuster auswerten. Zudem sollen sie Angaben – unter bestimmten Voraussetzungen – mit öffentlich zugänglichen Informationen aus dem Internet abgleichen. Neben Ausländerbehörden und dem BAMF sollen auch Bundesverwaltungsamt, Bundespolizei und Landespolizeibehörden personenbezogene Daten für das KI-Training nutzen dürfen. Experten warnen vor KI-Fehlern Diese weitreichenden Pläne stoßen allerdings auf Kritik: AlgorithmWatch warnt vor einer fehleranfälligen Technik in einem Bereich, der über das Schicksal von Menschen entscheidet. Verarbeitet werden könnten dabei sensible Informationen, etwa über Flucht und traumatische Erlebnisse. Pro Asyl weist auf fehlende Transparenz hin, mögliche Benachteiligungen und dass Betroffene sich schwerer gegen Entscheidungen wehren könnten. Die Gesellschaft für Informatik sieht zudem die Gefahr durch falsche KI-Ergebnisse und dass Mitarbeiter automatischen Empfehlungen zu stark vertrauen könnten. Entscheidung soll beim Menschen bleiben Das federführende Bundesministerium des Innern (BMI) hält dagegen: KI soll die Behörden nur unterstützen. Die endgültige Prüfung und Entscheidung sollen weiter allein die Mitarbeiter treffen. Das Gesetz soll zugleich einen rechtssicheren und datenschutzkonformen Rahmen für den Einsatz der Systeme schaffen. Bundestag und Bundesrat müssen dem Entwurf allerdings erst noch zustimmen. Wann die neuen Regeln in Kraft treten, steht deshalb bislang nicht fest.