#213 KI im HR: Hype, Haftung und der Realitätstest – Warum Validität vor Innovation kommt

Moin und herzlich willkommen zu einer neuen Podcast-Folge! Heute habe ich Nina Dirks im Gespräch, eine der führenden Stimmen, wenn es um Datenschutz, IT-Recht und Arbeitsrecht in Deutschland geht. Nina berät Unternehmen und öffentliche Einrichtungen bei der Implementierung von Software und KI-Systemen und ist eine gefragte Expertin für die rechtlichen Implikationen des EU AI Acts. Und leider muss ich (erneut) sagen: Wir zerlegen den aktuellen KI-Hype im Personalwesen und schauen hinter die Kulissen von „intelligenten“ Algorithmen. Nina erklärt uns schonungslos ehrlich, warum viele KI-Tools im HR rechtlich kaum haltbar sind, wo die Fallstricke des EU AI Acts liegen und wann der Mensch im Loop wirklich noch eine Chance hat. Die Kernthemen der Folge: Mythos Intelligenz: Warum aktuelle KI-Modelle reine „Wahrscheinlichkeitsmaschinen“ sind und keine logischen Schlüsse ziehen. Das Validitäts-Problem: Warum KI in der Personalauswahl oft an mangelnder Reliabilität und Halluzinationen scheitert. Rechtliche Stolpersteine: Der EU AI Act klassifiziert HR-Tools als Hochrisiko-Systeme – was das für Unternehmen bedeutet. Diskriminierungsrisiko: Wie algorithmische Bias (z. B. beim CV-Screening) zu illegalen Ausschlüssen führen kann. Human in the Loop: Warum die geforderte menschliche Aufsicht in der Praxis oft eine Illusion ist. Kosten-Nutzen-Rechnung: Wann sich der massive Aufwand für Compliance wirklich lohnt und wann einfache Automatisierung reicht. Data Leakage: Die Gefahr durch private KI-Nutzung von Mitarbeitenden und der Abfluss sensibler Personaldaten. Ich weiß, das liest sich alles etwas rückständig. Die KI Versprechen lesen sich ganz anders. Aber vielleicht müssen wir einfach genauer hinschauen, wer welche Versprechen macht – und was die Motive dahinter sind? Wie sieht es in Deinem Unternehmen aus? Ist Euch da schon der große Wurf mit KI gelungen? Habt Ihr schon erfolgreich spannende Cases umgesetzt? Oder seid ihr auch eher skeptisch? Ich bin gespannt und freue mich auf eine angeregte Diskssuion Du möchtest nichts von meinem Content zu Recruiting, Personalauswahl, Nachhaltigkeit und Demokratie verpassen? Dann abonniere gerne meinen Newsletter auf https://www.hzaborowski.de/newsletter/. Der Beitrag #213 KI im HR: Hype, Haftung und der Realitätstest – Warum Validität vor Innovation kommt erschien zuerst auf HZaborowski.