Problemfall Entscheidungsalgorithmen

In Episode 55 des c't-Datenschutz-Podcasts wagen sich Redakteur Holger Bleich und Verlagsjustiziar Joerg Heidrich an ein großes Thema: Immer mehr Entscheidungen werden in unserer Gesellschaft nicht mehr von Menschen, sondern von Algorithmen getroffen. Dabei geht es um banale Dinge wie den Preis des Joghurts im Supermarkt genauso wie um Berwerbungsverfahren oder Scorings von Bürgerinnen und Bürgern für die öffentliche Sicherheit. ADM-Systeme (Algorithmic Decision Making) haben sich in den Alltag eingeschlichen, ohne dass sie ethisch und datenschutzrechtlich ausreichend beachtet werden, so die Ausgangsthese. Rechtsanwalt Peter Hense hat sich intensiv mit diesen Problematiken beschäftigt und ordnet als Gast in dieser Episode die Dinge ein: "Vieles von dem, was uns als KI untergejubelt wird, beruht heruntergebrochen auf reiner Statistik", erklärt er und kritisiert, dass Entscheidungen, die auf maschinellem Lernen beruhen, oftmals völlig verdeckt getroffen werden. Eine benennbare Verantwortung fehlt, es mangelt an "Accountability" bei vielen KI-Systemen. Dies wird laut Hense besonders problematisch, wenn Entscheidungen voll automatisiert, ohne Überwachung und Eingriffsmöglichkeit von Menschen fallen - Die Algorithmen sind oftmals gut gehütete Geheimnisse in privatrechtlicher Hand, was zu Blackboxes führt. Konsens in der Runde ist: Gesetzgeber tun sich schwer, ADM-Systeme einzuordnen und zu regulieren. Als Beispiel dient der einschlägige Art. 22 der DSGVO, dessen Regelungsumfang ziemlich unklar ist und der laut Hense als Konzession an die US-Konzerne für härtere Vorschriften in anderen Bereichen gesehen werden muss; und noch dazu unzureichend in die offizielle deutsche Version der DSGVO übersetzt wurde. Ähnlich verhält es sich mit dem von der EU-Kommission vorgeschlagenen "AI Act" und dem Digital Services Act. Hense plädiert dafür, hier unbedingt aktiver und auch restriktiver zu werden. Viele System agieren intransparent, autonom und fehlerhaft - die Algorithmen reproduzieren Unzulänglichkeiten, die ihnen ihre menschliche Ersteller mitgeben.