KI und Haftung: Wer steht ein für die Fehler Künstlicher Intelligenz?

Risiken, die vom KI-Einsatz ausgehen, werden breit diskutiert. Beispiele reichen von möglichen Fehldiagnosen in der medizinischen Behandlung über Diskriminierung bei der Jobsuche bis hin zu Gefahren für demokratische Systeme oder Verletzung der Menschenwürde. Vor allem existenzielle Bedrohungen, die insbesondere von generativer KI ausgehen sollen und die ihre Hersteller selbst nicht müde werden, zu betonen, sorgen für hitzige Debatten. KI-Systeme entstehen und agieren aber nicht von selbst: An ihrer Entwicklung, ihrer Verbreitung und ihrem Einsatz sind zumindest im Moment immer Menschen beteiligt, und Menschen tragen nach wie vor Verantwortung dafür, wie die Systeme aufgebaut sind, was sie tun und was mit den Ergebnissen geschieht. Aber haften sie auch, wenn Fehler passieren? Wer verantwortlich gemacht wird, wenn durch ein KI-System ein konkreter Schaden entsteht, ist nicht leicht zu entscheiden und unsere Rechtslage hat auf diese Frage noch keine klaren Antworten. Das soll sich bald ändern: Die EU ist gerade dabei, mit dem AI Act eine Produkthaftung für KI zu etablieren. Was sind Punkte, mit denen sich Anwält:innen und Gesetzgeber:innen bei Haftungsfragen des KI-Einsatzes auseinandersetzen müssen? Und wie gut knüpft entstehendes KI-Recht an unsere bestehende Rechtsauffassung an? Carsten Gerner-Beuerle ist Professor of Commercial Law am University College London. Der Rechts- und Wirtschaftswissenschaftler ist Experte für internationales Gesellschafts-, Privat- und Kapitalmarktrecht und hat Regulierungsvorhaben der EU Kommission und des EU Parlaments unterstützt. Im Digitalgespräch schildert er die unklare Haftungslage, in der KI zum Einsatz kommt und wie sie sich auf die Praxis auswirkt, erklärt die rechtlichen Hintergründe für diese komplexe Situation, beschreibt, wie unterschiedliche Rechtssysteme mit Risiken durch KI-Einsatz umgehen und zeigt die Strategie auf, die die EU mit dem AI Act verfolgt. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Gerner-Beuerle, worin die Eigenschaften von KI bestehen, die sie von „gewöhnlichen“ Produkten unterscheiden, worin typische Risiken beim Einsatz von KI-Systemen bestehen und wie weit das Konzept der Haftung auch als Instrument der Regulierung funktionieren könnte. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-047-carsten-gerner-beuerle