Der aktuelle Schufa-Fall offenbart ein neues KI-Risiko

Die aktuelle Diskussion über die Schufa dreht sich um Datenschutz, Speicherfristen und die Frage, welche Informationen Unternehmen über uns sammeln dürfen. Die Brisanz liegt dabei nicht allein in der Speicherung historischer Daten. Friederike Müller-Friemauth ist Zukunftsforscherin und Professorin für Innovationsmanagement an der FOM Hochschule in Köln mit dem Schwerpunkt auf Entwicklungen der Arbeitsmärkte. Sie ist Teil unseres Expertennetzwerks EXPERTS Circle. Der Schufa-Fall zeigt ein viel größeres Problem als Datenschutz Die Schufa räumt ein, dass ihre historischen Scores auch Banken, Versicherungen, Widget-konfiguratorEnergieversorgern oder Zahlungsdienstleistern zur Verfügung gestellt werden, um die Qualität ihrer Bewertungssysteme zu überprüfen und weiterzuentwickeln. Genau hier beginnt der Fall, über den Datenschutz hinauszuweisen. Denn aus Daten werden Bewertungsmaßstäbe und aus Bewertungsmaßstäben folgen reale Entscheidungen über Kredite, Verträge oder wirtschaftliche Teilhabe., Damit ist der aktuelle Schufa-Fall mehr als ein datenschutzrechtlicher Einzelfall: Er demonstriert eine neue Generation algorithmischer Risiken, für die wir noch nicht einmal einen Namen haben. Verantwortung verschwindet nicht, sie wandert Früher trafen Menschen die Entscheidungen, heute definieren immer häufiger Datenmodelle, Scoring-Systeme und algorithmische Verfahren, welche Entscheidungen plausibel sind. Hierarchien verschwinden dadurch nicht, sie werden vielmehr infrastrukturell: Nicht mehr die einzelne Führungskraft entscheidet allein über Kreditwürdigkeit, Versicherbarkeit oder Vertragsabschlüsse. Stattdessen bestimmen immer häufiger datenbasierte Bewertungssysteme, welche Optionen überhaupt noch auf dem Tisch landen. ANZEIGE ANZEIGE Hier liegt der eigentliche Wandel. Verantwortung verschwindet nicht, sie wird zum Nebenprodukt algorithmischer Entscheidungen. Algorithmen arbeiten schließlich faktenbasiert und streng logisch. Wo soll da überhaupt ein Problem liegen? Genau in dieser scheinbaren Eindeutigkeit entsteht der blinde Fleck. Das eigentliche Risiko liegt in unserem Umgang mit Algorithmen Die Forschung diskutiert seit Jahren über Bias, Fairness, Transparenz und Regulierung algorithmischer Systeme. Das ist wichtig. Der Schufa-Fall weist jedoch auf eine Ebene darunter. Nicht nur Algorithmen verändern sich, sondern auch unser Umgang mit ihnen. Je plausibler algorithmische Bewertungen erscheinen, desto selbstverständlicher werden sie zur Grundlage menschlicher Entscheidungen. Solche Fälle spiegeln, wie aus technischer Plausibilität schrittweise gesellschaftliche Wirklichkeit wird – der Schufa-Fall zeigt deshalb auf uns, nicht auf Algorithmen. Internationale Frühindikatoren weisen in eine Richtung Entsprechende Signale gibt es längst. In den USA verlor ein Uber-Fahrer nach über 20.000 Fahrten und einer exzellenten Bewertung seinen Zugang zur Plattform, nachdem ein algorithmisches System sein Konto aufgrund einer einzelnen Beschwerde deaktivierte. In einem anderen Fall wurde einer langjährigen Mieterin eine Wohnung verweigert, weil ein automatisiertes Bewertungssystem sie als zu risikoreich einstufte, trotz jahrelang pünktlicher Mietzahlungen. Beide waren afroamerikanischer Herkunft. Die Algorithmen nutzen Postleitzahl-Analysen, um Wohnort bzw. Stadtteil zu scannen. Hier geht es nicht um Bias oder einzelne Fehlentscheidungen. Der springende Punkt ist, dass algorithmische Bewertungen schrittweise zur unternehmerischen Normalität werden. Je mehr Organisationen algorithmische Bewertungssysteme einsetzen, desto selbstverständlicher stellen ihre Bewertungen die Grundlage menschlicher Entscheidungen: KI-Logik erweckt den Anschein von unabweisbarer Objektivität. Genau darin liegt ihre Überzeugungskraft; sie wird glaubwürdig. Blinder Fleck der aktuellen KI-Debatte Deshalb greift auch die derzeitige Diskussion häufig zu kurz. Wir diskutieren über Datenschutz, Transparenz, Strafen, Regulierung und Verzerrungen. Der eigentliche Strukturwandel findet aber gar nicht dort statt, wo KI immer intelligenter wird. Er beginnt da, wo Menschen algorithmische Plausibilität nicht mehr als Entscheidungshilfe nutzen, sondern an die Stelle ihres eigenen Urteils setzen. Der Schufa-Fall strahlt an, wie groß unsere Bereitschaft ist, logische Plausibilität für Wahrheit zu halten.