DataAgenda Datenschutz Podcast

Die KI-Verordnung soll mit Wirkung ab August 2026 geändert werden. Entsprechend laufen die Verhandlungen zwischen dem EU-Parlament, den EU-Mitgliedstaaten und der EU-Kommission auf Hochtouren. Eigentlich sollten sie bereits am 28. April 2026 abgeschlossen sein. Doch eine Einigung konnte nicht erzielt werden. Kai Zenner, Büroleiter des Europaabgeordneten Axel Voss (EVP), berichtet aus dem Maschinenraum der Verhandlungen über das Scheitern im April und skizziert die möglichen weiteren Wege für das Schicksal der Änderungen an der KI-Verordnung. Eine Entscheidung darüber soll am 11. Mai fallen.

KI ist ein Werkzeug, welches vielfältig eingesetzt wird. Das erfordert Verständnis für die neue Technik und Kompetenz für den Einsatz. Allerdings kann KI auch Kompetenzen in Menschen entfalten und gezielt eingesetzt werden, um sich seiner selbst bewusster zu werden. Wie das gehen kann, erklärt die Buchautorin Céleste Spahić im DataAgenda Datenschutz Podcast.

Im DataAgenda-Podcast Folge 79 hat Kai Zenner über die anstehenden Änderungen der KI-Verordnung berichtet, die im August 2026 Geltung erlangen sollen. Einer der Gegenstände der Änderung betrifft das sog. New Legal Framework in Anhang 1. Die dort unter Abschnitt A aufgelisteten Harmonisierungsvorschriften führen zu einer Doppelregulierung. Deshalb sollen die dort aufgeführten Produkte in Abschnitt B überführt werden, sodass Abschnitt B hinfällig würde. Mit dieser Änderung käme es zu weitreichenden Konsequenzen. Die in Abschnitt 1 aufgeführten Produktgruppen unterfielen der Regulierung der KI-Verordnung nur noch sehr eingeschränkt. Das brächte nicht nur Vereinfachungen, sondern es würde den betroffenen Unternehmen und Forschungseinrichtungen auch das Privileg nehmen in sog. KI-Reallaboren Daten zu Zwecken der KI-Forschung zu verarbeiten, die zu anderen Zwecken erhoben wurden. Für die Entwicklung von Medizin-KI hätte dies erhebliche Konsequenzen. Sie könnte nicht mehr unter dem Schutz der Öffnungsklausel des Art. 59 Abs. 1 KI-VO Daten im Reallabor verarbeiten, um Menschenleben zu retten. Das diskutiere ich im Podcast mit Rechtanwalt Andreas Jaspers (GDD), Professor Dr. Tobias Keber (LfDI BW und DSK), Professor Dr. Dr. Felix Sahm (Universitätsklinik Heidelberg), Dr. Dominik Roderburg (Referatsleiter Staatsmodernisierung in der Staatskanzlei NRW) und Kai Zenner (Büroleiter von MdEP Axel Voss).

Änderungen der KI-VO stehen in den Startblöcken. So wie es aussieht, wird das am 1. August 2024 in Kraft getretene EU-Gesetz geändert, noch bevor der Großteil der maßgeblichen Pflichten am 2. August 2026 Geltung erlangt. Kai Zenner, der Büroleiter von MdEP Axel Voss berichtet am Tag der Ausschussabstimmung im Europäischen Parlament tagesaktuell von Zeitplan und Inhalten der Änderungen der KI-VO. Die wichtigsten Stichworte. Bei der Rechtspflicht zur Vermittlung von KI-Kompetenz für Betreiber dürfte es bleiben. Es ist eine Modifikation mit Blick auf das KI-Training zu erwarten und der die Geltung verschiebt sich auf Ende 2027 beziehungsweise August 2027. Zudem steht eine Änderung der Anhangs I der KI-VO an. Die KI-VO soll bei anderweitiger sektorspezifischer Produktregulierung nicht mehr vorgehen.

Mit der fortschreitenden Digitalisierung wachsen nicht nur die Risiken für die Datensicherheit, sondern auch die regulatorischen Anforderungen. Dr. Judith Nink, Fachbereichsleiterin Cybersicherheit bei Unternehmen, Digitale Sicherheit beim Bundesamt für Sicherheit in der Informationstechnologie (BSI), erläutert NIS-2 im europäischen Regulierungskontext. Warum ist NIS-2 notwendig? Was ist zu tun? Wie können Unternehmen das Recht umsetzen und welche Rolle hat das BSI zwischen Kooperation und Aufsicht?

An der TUM hat sich ein Think Tank formiert. Er bietet die organisatorische Plattform für Impulse zur Diskussion aktueller Themen der Digitalisierung. Für die Gesellschaft für Datenschutz und Datensicherheit ist Stefan Brink vom wissenschaftlichen Institut für die Digitalisierung der Arbeitswelt (WIDA) beteiligt. Ende 2025 hat das Gremium mit einem erweiterten Kreis von Praktikerinnen und Stakeholdern aus Politik, Wirtschaft und Zivilgesellschaft vier konkrete Maßnahmenempfehlungen zu zentralen Herausforderungen der DSGVO und ihrer Weiterentwicklung erarbeitet. Stefan Brink stellt die Arbeitsergebnisse vor.

Im Dezember 2025 hat die GDD zum Parlamentarischen Abend in der Deutschen Parlamentarischen Gesellschaft in Berlin eingeladen. Unter der Schirmherrschaft von MdB Günter Krings haben haben Thomas Jarzombek, Parlamentarischer Staatssekretär im BMDS, Daniela Brönstrup die Vizepräsidentin der BNetzA, LfDI BW und DSK-Chef Tobias Keber, VAUNET-Chef Claus Grewenig, der Neuropathologe Felix Sahm und Kristin Benedikt moderiert von Rolf Schwartmann. Der Podcast fasst die Ergebnisse zusammen. Zudem ordnet Kristin Benedikt die Regelungen zur Änderung des DS-GVO-E im Digitalomnibus ein und wir weisen auf die Bedeutung der Reallabore für die Digitalwirtschaft hin.

Das Jahr 2026 verspricht datenschutzrechtlich turbulent zu werden. Im Januar hat Professor Dr. Tobias Keber, der Landesbeauftragte für den Datenschutz und die Informationsfreiheit Baden-Württemberg, den Vorsitz der Datenschutzkonferenz (DSK) übernommen. Was ist das Leitbild des neuen Vorsitzenden? Wie steht die DSK zu den digitalen Omnibussen? Was steht sonst auf der Agenda? Wie ist die Position zur Bestellgrenze für den betrieblichen Datenschutzbeauftragten und zur Bündelung der Aufsicht? Brauchen wir mehr als ein Reallabor? Was gibt es Neues aus dem Ländle in Sachen Videoüberwachung öffentlicher Plätze und zum Beschwerdeaufkommen? Tobias Keber gibt Auskunft.

„Die „heilige Kuh“ DS-GVO ist nicht mehr „heilig“- und es ist gut, dass nun über Reformvorschläge diskutiert wird.“ So bringen es Gebehenne/Siebler/Hennemann in EuDIR 2026, 10, 18 auf den Punkt. Axel Voss und Moritz Köhler berichten in RDV 2025, 342 im RDV-Bericht aus Brüssel über Änderungen der KI-VO. 2026 wird ein spannendes Jahr, denn im August sollen die Pflichten für Hochrisiko-KI-Systeme gelten. Kommt es dazu oder einigen sich EU-Parlament, Rat und Kommission in einem „Blitz-Trilog“ auf eine Fristverlängerung? Was hat es mit den Änderungen an DS-GVO und KI-VO auf sich? Wer sich Klarheit über das „Digital Simplification Package“ (Digital Omnibus) bestehend aus einem Teil zum Datenrecht und einem Teil zum KI-Recht informieren möchte, der ist bei Kai Zenner, dem Büroleiter von MdEP Axel Voss in einem kleinen „Polit-Thriller“ im DataAgenda Podcast bestens aufgehoben.

Die Haltung der Menschen zu KI wandelt sich nach dem Befund des Psychologen Stephan Grünewald. Aus dem Zauberstab des „Allmachts-Boosters“ sei eine Bedrohung geworden. KI sei zwischen „persönlichem Heinzelmann und gefügigem Traumpartner“ gestartet: „Was kann ich noch selbst? Und wer bin ich überhaupt noch?“. Diese Fragen stellen sich für den Menschen. Wie hätte man vor drei Jahren auf die Prophezeiung reagiert, dass ein zustandsloser Zahlenapparat zur „Rechtsperson“ des Jahres 2025 gekürt wird? Wie wäre man mit der Meldung umgegangen, dass ein körperloser Roboter Kindern die Hausaufgaben erledigt und alten Menschen Tipps für den Umgang mit Blasenschwäche gibt? Wie hat sich KI im Berufsleben etabliert? Sind Bots Helfer oder Konkurrenten? Im DataAgenda Podcast sprechen wir über „Psychologie im Spiegel der KI“.

Roland Koch Professor an der Frankfurt School of Finance and Management und kennt sich aus in Fragen der Regulierung und der Digitalisierung. Er war von 1999 bis 2010 Hessischer Ministerpräsident. Im DataAgenda Podcast zum Jahresabschluss 2025 spricht er über seine Haltung zu KI, den betrieblichen Datenschutz, den Jugendschutz in Socialen Netzwerken und über das Verhältnis von Freiheit und Sicherheit bei der Datenverarbeitung. Allen Hörerinnen und Hörern ein frohes Weihnachtsfest und alles Gute für 2026!

Im November 2025 hat die GEMA in einem wichtigen Verfahren vor dem Landgericht München einen Sieg gegen Open AI, den Entwickler von ChatGPT, errungen. Die spannende Frage lautet spitz gestellt: Befinden sich in KI-Modellen Vervielfältigungen von urheberrechtlich geschützten Inhalten? Das Gericht in München hat das bejaht. Die Materie ist kompliziert, aber wichtig. Was bedeutet die Entscheidung rechtlich und welche Auswirkungen hat sie auf das Datenschutzrecht? Darüber habe ich mit Kristina Schreiber diskutiert und die Münchener Entscheidung ebenso eingeordnet, wie weitere aktuelle Entscheidungen zur KI-Haftung. Tenor: Mit ein wenig Abstand lässt sich die KI-Haftung gut in den Griff bekommen und die Fälle werden dank der Rechtsprechung bisher guten Ergebnissen zugeführt.

Die österreichische Autorin Raphaela Edelbauer hat 2021 ihr Buch DAVE vorgelegt. Der mit dem Österreichischen Buchpreisausgezeichnete Science-Fiction-Roman sieht die Menschheit auf dem Weg in ein kollektives künstliches Bewusstsein. In dieser Welt ist die Privatsphäre bedeutungslos geworden und der Datenschutz hat sein Schutzobjekt verloren. Der GDD-Vorstand hat Raphaela Edelbauer für diese kluge Mahnung zur Wahrung der Werte, für die die Gesellschaft für Datenschutz und Datensicherheit eintritt, zu ehren. Katharina Zweig, die GDD-Preisträgerin des Jahres 2024 sagt in ihrer Laudatio: „Raphaela Edelbauer gibt uns allen damit ein Rezept an die Hand, wie auch wir mit der sogenannten künstlichen Intelligenz umgehen sollten: Iterativ explorierend. Niemand von uns weiß genau, wie es weitergehen wird: Mit der die menschliche Einsichtskraft weit übersteigenden Menge an gesammelten Daten, mit deren Verarbeitung durch komplexe neuronale Netzwerke, mit der Anmutung von Intelligenz, wo bisher nur Korrelation und Assoziation vorherrscht, und mit der Machtkonzentration, die all dies mit sich bringt. Um zu verstehen, wie die Zukunft sein wird, sollten wir ihrem Vorschlag folgen und diese neue Welt in Theorie und Praxis wieder und wieder explorieren. Nur so können wir sie wirklich erfassen – und auf dieser Grundlage die Zukunft gestalten, anstatt sie nur zu erdulden.“ Im Podcast spreche ich mit ihr über das Buch, künstliche Intelligenz und Datenschutz. Wir bitten die teilweise schlechte Tonqualität zu entschuldigen.

Die rechtlichen Anforderungen an die Umsetzung der technisch-organisatorischen Maßnahmen an die Datenverarbeitung nach der DS-GVO werden immer komplexer. Vor diesem Hintergrund stellt sich Frage nach tauglicher Software immer drängender. Der Rechtsanwalt Michael Rohrlich und Datenschutzberater Marc Oliver Thoma testen regelmäßig derartige Tools. Im Podcast geben die Experten GDD-Geschäftsführer Andreas Jaspers und mir unter anderem Auskunft über die Arten solcher Werkzeuge, mögliche Einsatzfelder und die Frage, ob man die sie besser cloudbasiert oder on premise nutzen soll.

Die Bundesnetzagentur spielt für die Aufsicht im Daten- und KI-Recht nach dem Data Act und der KI-Verordnung eine zentrale Rolle. Der Gesetzgebungsprozess in Deutschland ist am 4. November angelaufen. Im Podcast berichtet Axel Voss (MdEP) über die Konzeption der Aufsicht nach der KI-VO und Andrea Sanders-Winter, Leiterin der Abteilung Digitales bei der BNetzA stellt die Pläne der Behörde und den Stand der Implementierung dar. Die Fragen lauten unter anderem: Was hat der EU-Gesetzgeber sich bei der Konzeption der KI-Aufsicht gedacht? Wie ist die KI-Aufsicht ausgestaltet? Welche Lehren hat man aus der DSGVO gezogen? Was ist die Aufgabe der Bundesnetzagentur in der Daten- und KI-Aufsicht? Was bedeutet Marktaufsicht? Wie wird das Zusammenspiel mit den anderen Aufsichtsbehörden bei DA und KI-VO im Datenschutz in Bund und Ländern ausgestaltet sein? Was ändert sich für die Unternehmen unter Aufsicht der BNetzA?

Eine moderne Justiz muss mit moderner Technik ausgestattet sein, wenn die Richter ihre wichtige Aufgabe für den Rechtsstaat erfüllen sollen. In der Anwaltschaft ist eine Unterstützung durch KI auf dem Vormarsch. Welche Möglichkeiten und Einsatzfelder gibt es in für Bots in der Justiz? Roboterrichter darf es nicht geben. Aber dürfen Richter sich helfen lassen? Wo legen die Möglichkeiten und welche Grenzen ziehen KI-Verordnung und Richterrecht? Wie steht es um die KI-Kompetenz an den Gerichten. Isabelle Biallaß, Richterin am Oberlandesgericht Hamm, Mitglied im Vorstand des EDV-Gerichtstags e.V., Lehrbeauftragte an der TH Köln und Autorin zahlreicher Beiträge zum Einsatz Künstlicher Intelligenz in der Justiz, unter anderem im juris PraxisKommentar Elektronischer Rechtsverkehr gewährt Einblicke in den Maschinenraum der KI in der Justiz.

Am 12.9.2025 ist der Data Act in Kraft getreten. Was bezweckt das neue Gesetz, welchen Nutzen bringt es den Anwendern und welchen Mehrwert hat die Wirtschaft von diesem neuen Rechtsrahmen? Werden Datenschätze gehoben und die Wirtschaft angekurbelt? Welche Möglichkeiten haben Nutzer, um an ihre Daten zu gelangen, und müssen Unternehmen diese herausgeben? Können sich Unternehmen dagegen wehren, und wie unterscheiden sich die Rechte und Pflichten im Verhältnis von Bürgern zur Wirtschaft? Und wie stellt sich die Lage für die Unternehmen selbst dar? Das klingt kompliziert – und das ist es auch. Im Podcast mit Dr. Axel Freiherr von dem Bussche, LL.M. (L.S.E.), CIPP/E, Rechtsanwalt und Fachanwalt für Informationstechnologierecht sowie Partner bei Taylor Wessing, nähern wir uns dem neuen Rechtsrahmen und geben Antworten auf die Frage: Game Changer oder Rohrkrepierer?

Künstliche Intelligenz ist ein maßgeblicher Treiber der Innnovation. Zugleich geht es um die Absicherung gegen die mit KI verbundenen Risiken. Der europäische Gesetzgeber hat dazu in der KI-Verordnung eine Vorschrift geschaffen, die die Weiterverarbeitung auch sensibler Daten zur Entwicklung, zum Training und zum Testen von KI-Systemen erlaubt. In sogenannten KI-Reallaboren sollen Entwickler von bestimmten KI-Systemen ansonsten geschützte personenbezogene Daten unter vereinfachten Bedingungen verarbeiten. Es handelt sich also um geschützte Räume für Innovation. Für die KI-Forschung und -Entwicklung in Deutschland könnte das ein Durchbruch sein. Im Podcast diskutieren der stellvertretenden Ärztlichen Direktor des Universitätsklinikums Heidelberg, Prof. Dr. Dr. Felix Sahm und LfDI BW Prof. Dr. Tobias Keber über die Möglichkeiten der Diagnostik und Therapie von Hirntumoren mit Hilfe von KI und über Wege, diese Forschung in KI-Reallaboren datenschutzrechtlich zu ermöglichen. Prof. Dr. Dr. Felix Sahm ist stellvertretender Ärztlicher Direktor der Neuropathologie am Universitätsklinikum Heidelberg sowie Leiter des im Podcast angesprochenen Projekts zur Entwicklung eines KI-Systems für die Tumordiagnostik und -therapie. Prof. Dr. Tobias Keber ist Landesbeauftragter für den Datenschutz und die Informationsfreiheit Baden-Württemberg.

Im Podcast mit Thomas Jarzombek, Parlamentarischer Staatssekretär beim Bundesminister für Digitales und Staatsmodernisierung geht es um die Agenda und Struktur des neuen Ministeriums, um den Umgang mit der KI-VO und die Einsatzbereiche von KI in der Verwaltung. Weitere Themen sind die Marktausicht und im Datenschutz die Frage nach dem Einsatz sozialer Medien durch den Staat und die Datenschutzaufsicht. Ein besonderer Schwerpunkt ist die Einführung der EU-Wallet und die Möglichkeiten der Digitalwirtschaft bei der Einführung der neuen digitalen Börsen.

„Keine Fahrverbote, sondern Verkehrsregeln“ für die Entwicklung und den Einsatz von KI aus der Perspektive der Kreativbranche. Das fordert Matthias Hornschuh, Musiker und Sprecher der Initiative Urheberrecht und Mitglied im Aufsichtsrat der GEMA. Der Koalitionsvertrag der Bundesregierung will kreative Produkte schützen. Die Justizministerkonferenz hat im Juni 2025 konkrete Vorschläge gemacht. Sie sind im Podcast ebenso Thema, wie die Parallelen von Urheber- und Datenschutzrecht und das KI-Training durch Meta.

KI ist ein mächtiges Werkzeug und sein Einsatz ist auch in Anwaltskanzleien schon an der Tagesordnung. Was muss man aus der Perspektive der KI-VO, des Datenschutzrechts und des Anwaltsrechts beachten? Wie verändert sich die anwaltliche Arbeit? Was sind neue Arbeitstechniken, mit denen man die Kontrolle über die Sachbearbeitung behalten kann. Ein Podcast mit dem Rechtsanwalt Joerg Heidrich.

Meta hat angekündigt, seine KI ab dem 27. Mai 2025 mit Nutzerdaten zu trainieren. Was sind die Rechtsgrundlagen für das Training und was bedeutet es praktisch für Nutzer von Facebook, Instagram und WhatsApp, wenn sie nicht widersprechen, und wie kann man widersprechen. Ein Podcast mit Professor Dr. Tobias Keber (LfDI BW) und dem Publizisten und Journalisten Jörg Schieb. Es geht auch um die Untersagung der Facebook Fanpage des Bundespresseamtes durch die BFDI. Hierüber verhandelt des Verwaltungsgericht Köln am 17. Juli 2025.

Die DS-GVO muss sich in einer datengetriebenen Gesellschaft und Wirtschaftsordnung zunehmend an ihrer Tauglichkeit messen lassen, Datenschutz und Datennutzung zur Geltung zu bringen. Ihr „One-Size-Fits-All“ wird von vielen als Schwäche der Datenschutzordnung begriffen. Der EU-Digitalpolitiker Axel Voss hat im Frühjahr 2025 ein differenzierendes Konzept vorgestellt. Er stellt es im Data Agenda Podcast vor und zur Diskussion. Der Medienjournalist Holger Bleich und der Geschäftsführer der GDD, Andreas Jaspers haben sich mit dem Konzept befasst und erörtern mit Axel Voss über das Für und Wider des Ansatzes und die wie es damit weitergehen könnte.

Das Bundeskartellamt spielt eine wichtige Rolle zum Schutz des Wettbewerbs. In der Digitalisierung kommt es zunehmend zu Berührungen mit dem Datenschutzrecht. Was sind die Aufgaben des Bundeskartellamts, welche Entwicklungen gibt es, wie unterscheiden sich Daten- und Kartellrecht und wie ergänzen sich die Rechtsgebiete? Einordnungen und Einschätzungen von Andreas Mundt. Der Präsident des Bundeskartellamts, im DataAgenda Podcast zum Facebook-Fall, zu Pay or Consent, Apple und den Herausforderungen der KI.

Die Entbürokratisierung des Datenschutzes steht kurz vor der Bundestagswahl 2025 oben auf der politischen Agenda. Anfang 2025 wurden zwei Referentenentwürfe zum Datenrecht vorgelegt. Erfüllen der „Entwurf des Gesetzes zur Umsetzung der KI-Verordnung“ und der Entwurf des „Data Act-Durchführungsgesetzes“ dieses Ziel oder schaffen sie gar zusätzliche Bürokratie? Soll sich die neue Bundesregierung mit einem nationalen „Datengesetz“ befassen? Was kann ein Digitalministerium zur Entbürokratisierung beitragen. Mit diesen Fragen befasst sich Kristen Benedikt im DataAgenda Podcast Nr. 68.

Im Februar 2025 hat die EU-Kommission ihr Arbeitsprogramm für 2025 vorgelegt. Der geplante Entwurf der KI-Haftungsrichtline wurde ebenso von der Agenda der EU genommen, wie die ePrivacy-Verordnung. Was hat zum Scheitern geführt und wie geht es weiter? Über die Hintergründe und Konsequenzen spricht Axel Voss, der Berichterstatter des EU-Parlaments für die Richtlinie zur KI-Haftung war. Weitere Themen des Podcasts sind die Aussichten auf eine Änderung der DS-GVO und ein KI-Datengesetz.

Seit dem 2. Februar 2025 gilt Art. 5 KI-VO, der bestimmte KI-Praktiken verbietet. Am 4. Februar 2025 erfolgte die Veröffentlichung der Leitlinien zu verbotenen KI-Praktiken durch die Kommission, die gemäß Art. 96 KI-VO vorgesehen ist. Darin werden einzelne Tatbestandsmerkmale der verbotenen KI-Praktiken, mithilfe von Praxisbeispielen konkretisiert. Diese Leitlinien sind rechtlich nicht bindend, können in der Praxis aber dabei helfen, verbotene KI-Praktiken im eigenen Verantwortungsbereich zu identifizieren. Im Podcast ordnet Kai Zenner, der als Büroleiter von Axel Voss MdEP die Verbote im Gesetzgebungsprozess verhandelt hat, das Papier ein. Liner Notes: Zum Hintergrund der KI-VO finden sich unter anderem Beiträge von Rolf Schwartmann und Kai Zenner, Moritz Köhler und Ganesh Srinivasan in EuDIR Heft1/2025. Jan Philipp Albrecht und Axel Voss schreiben dort gemeinsam zu DS-GVO und Datenrecht.

Im Gespräch mit Staatsanwalt Dr. Christoph Hebbecker geht es um die Aufgabe eines Ermittlers gegen Hasskriminalität bei der Zentral- und Ansprechstelle Cybercrime Nordrhein-Westfalen. Das Spektrum der „ZAC NRW“ reicht von Kooperationen mit Medienunternehmen und Fußballvereinen bis hin zur Zusammenarbeit mit Anbietern von Onlineplattformen unter der Digital Services Act (DSA). Allen, die sich dafür interessieren, wie zeitgemäße Bekämpfung der digitalen Hasskriminalität erfolgt erfolgen kann und wo deren Herausforderungen liegen, gewährt dieser Podcast Einblicke.

Ein Jahresrück- und Ausblick über die Themen Datenwirtschaft, Datenschutz, Künstliche Intelligenz, Demokratie und Datensicherheit mit Professor Dr. Tobias Keber (LfDI BW) und Axel Voss (MdEP). Das DataAgenda-Team wünscht frohe Weihnachten und alles Gute für 2025.

Dirk Freytag (BVDW und Content Pass) und Uli Hegge (netID) sind gestandene Digitalunternehmer. Sie setzen sich für die Umsetzung eines fairen, effizienten und in der Praxis lebbaren Datenschutz ein. Im Podcast geht um die Idee eines Datennutzungsrechts und das Verständnis des Datenschutzbeauftragten im Sinne eines Datennutzungsbeauftragten, um Einwilligungsverwaltungsdienste und Single-Sign-On-Angebote sowie um die Notwendigkeit eines Digitalministeriums.

Die KI-VO ist seit dem 1. August 2024 in Kraft und im Februar 2025 gelten die ersten Fristen. In Brüssel kümmert sich die EU-Kommission um die Umsetzung und sie muss bald Anwendungshilfen vorlegen. Es geht um verbotene Praktiken und die Definition von KI-Systemen. Zugleich zeigen sich schon jetzt Lücken und offene Rechtsfragen, die es zu schließen und zu klären gilt. Kai Zenner, Büroleiter des Europaabgeordneten Axel Voss berichtet im Data Agenda Podcast über die Hintergründe. Er gibt einen Überblick über aktuelle Entwicklungen und gibt einen Ausblick auf anstehende Gesetzesvorhaben, etwa zur KI-Haftung.

Mit dem Referentenentwurf zum Beschäftigtendatengesetz vom 8. Oktober 2024 legt das BMAS sein Konzept zu Kodifizierung des Beschäftigtendatenschutzrechts vor, nachdem sich aus der Rechtsprechung des Europäischen Gerichtshof die Europarechtswidrigkeit von § 26 Abs. 1 Satz 1 BDSG ergibt. Der Entwurf greift diese Vorgabe auf und konkretisiert den Beschäftigtendatenschutzes im Wesentlichen nach der Rechtsprechung des BAG. Zugleich sollen offene Rechtsfragen im Zusammenhang mit der Digitalisierung der Arbeitswelt insbesondere zum Einsatz von KI regelt werden. Im Data Agenda Datenschutz-Podcast ordnet Andreas Jaspers, Geschäftsführer der Gesellschaft für Datenschutz und Datensicherheit (GDD) e.V. den Vorschlag mit Blick auf die Belange des betrieblichen Datenschutzes ein.

Datenschutz dient dem Schutz der Privatsphäre. Sie ist von der Verfassung als Recht auf informationelle Selbstbestimmung verbürgt und die DSGVO schützt sie seit 2018. Europa legt besonderen Wert auf diesen Schutz, der wie ein Markenzeichen dem Kontinent anhaftet. Die Menschen brauchen und schätzen den Schutz ihrer Privatsphäre vielleicht mehr, als der Ruf des Datenschutzrechts es vermuten lässt. Zu Recht beschweren sich Bürger und staatliche Stellen über überzüchteten Datenschutz, weil er über sein Ziel hinausschießt. Der Streit um das richtige Maß beschäftigt künftig den Vermittlungsausschuss, nachdem das sog. Sicherheitspaket im Bundesrat am 18. Oktober als zu schwach bewertet wurde. Wenn es um maßvolles, rechtskonformes und zugleich wirksames Entscheiden über das Verhältnis von Freiheit, informationelle Selbstbestimmung und Sicherheit geht, ist das Bundesverfassungsgericht gefragt. Im DataAgenda Podcast werden diese Fragen im Gespräch mit Markus Hartmann. Leitender Oberstaatsanwalt und Chef der ZAC-NRW und Moritz Köhler von der Kölner Forschungsstelle für Medienrecht beleuchtet.

With the help of artificial intelligence, human-sounding voices can be artificially generated, and existing voices can be synthetically copied. This allows for cost savings without replacing human speakers, says Professor Dr. Stefan Sporn. A Data Agenda podcast about a new business model and the technical possibilities of AI, as well as the legal and ethical boundaries of this new technology. If you want to get an impression of whether AI can make Stefan Sporn and Rolf Schwartmann speak English with their personal voices, you need to listen to the podcast until the end.

Mit Hilfe künstlicher Intelligenz kann man menschlich klingende Stimmen künstlich erzeugen und existierende Stimmen synthetisch kopieren. So kann man Geld einsparen ohne menschliche Sprecher zu ersetzen, sagt Professor Dr. Stefan Sporn. Ein Data-Agenda-Podcast über ein neues Geschäftsmodell und technische Möglichkeiten von KI, aber auch über rechtliche und ethische Grenzen der neuen Technik. Wer sich einen Eindruck davon verschaffen möchte, ob KI Stefan Sporn und Rolf Schwartmann mit ihren persönlichen Stimmen englisch sprechen lassen kann, muss den Podcast zu Ende hören.

Die KI-Verordnung (KI-VO) ist seit August 2024 in Kraft. Nun geht es darum KI einzusetzen und die Möglichkeiten sind groß, aber es gibt auch rechtlcihe Anforderungen. Schon im Februar 2025 muss jeder der KI beruflich nutzt KI-Kompetenz besitzen und vermitteln. Im Podcast hat diesmal Tim Kleikamp von One Pod Wonder Fragen gestellt, die vor allem, kleine Unternehmen bewegen. Kristin Benedikt und Rolf Schwartmann geben Antworten. Fazit: Das meiste, was die Technik ermöglicht, ist erlaubt und man kann mit der KI-VO gut leben, wenn man weiß, worum es geht.

Am 12. Juli 2024 wird die KI-Verordnung im Amtsblatt der EU veröffentlicht und tritt am 1. August 2024 in Kraft. Was ist ein KI-System und was bedeutet es, dass es autonom agiert? Warum kann KI nicht denken und trotzdem sinnvoll in menschlicher Sprache antworten und Fragen stellen? Welche Nutzung von KI-Systemen ist gefahrlos möglich? Wo muss man aufpassen? Was bedeutet „prompten“ und wie geht das? Wie setzt man sich mit KI-Ergebnissen auseinander? Wie behält man als Mensch die Kontrolle über das Werkzeug KI? Was bedeutet der Einsatz von KI-Systemen im Unternehmen? Wo kann die Technik helfen, wo nicht? Nach Ablauf einer Übergangsphase am 1. Februar 2025 müssen Betreiber und Anbieter von KI-Systemen sowie deren Beschäftigte diese Fragen kompetent beantworten können. Wie das gelingen kann, ist Thema des Podcasts mit Paula Cipierre, Director of Data Ethics & Innovation bei ada Learning.

Die Debatte um „Pay or Consent” wird im Juni 2024 kontrovers diskutiert. Nachdem der Europäische Gerichtshof 2023 sog. „PUR-Modelle“ grundsätzlich für zulässig erklärt hat, hat auch Meta ein solches Modell eingeführt. Einzelheiten sind streitig, aber im Grunde ist der Ansatz „Pay or consent“ gerichtlich akzeptiert. Ungeachtet dessen hat der Europäische Datenschutzausschuss im Frühjahr 2024 eine Position veröffentlicht, die sich kritisch mit dem Ansatz befasst und ihn einschränkt. Im Juni 2024 wird im EDSA über eine Guideline beraten, die mit Spannung erwartet wird. Insbesondere geht es um die Frage, ob Anbieter von Datenschutzaufsichtsbehörden über das vom EuGH vorgegebene Maß hinaus reguliert werden sollen. Thomas Fuchs, der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit in die Verhandlungen im EDSA involviert und erörtert die aktuelle Situation mit Kristin Benedikt, Richterin am Verwaltungsgericht Regensburg und David Pfau, der Medien-, Digitalunternehmen und Verbände im Kontext datenschutzrechtlicher Fragestellungen und insbesondere auch zu PUR-Modellen berät. Zudem geht es im Podcast um den Plan von Meta, Nutzerdaten ohne Einwilligung für das Training seines KI-Modells zu verarbeiten.

Update zum Recht der Computerspiele Die rechtlichen Anforderungen an die Wirtschaft wachsen. Die Gamesbranche ist ein stetig wachsender Markt. Die Angebote sind technisch und rechtlich spannend und anspruchsvoll. Die Anforderungen des Datenschutzes und bald auch des KI-Rechts machen vor dem Spielanbietern nicht Halt. Professor Dr. Christian Henner-Hentsch, lehrt an der Kölner Forschungsstelle für Medienrecht Urheber- und Medienrecht. Er ordnet die Probleme ein und setzt Schlaglichter auf Fragen zum Datenschutz und zur KI-VO.

The AI Act will come into force in the summer of 2024. It is high time for companies to familiarize themselves with the requirements of the new legal framework. ChatGPT is not a search engine or Wikipedia, but an autonomously functioning 'invention machine.' Every company that uses this technology must inform its employees and other third parties who use AI systems such as ChatGPT on behalf of the company. They should explain the function and risks associated with the new technology. Kai Zenner explains where the particular pitfalls lie, what the penalties are for breaches of duty, and whether using a private device can avoid these penalties. He also discusses how one can protect oneself. Kai Zenner is the office manager of Axel Voss (MEdP), was involved in the negotiations on the AI Act, and is a co-editor of Schwartmann/Keber/Zenner Praxisleitfaden zur KI-VO* and Schwartmann/Keber/Zenner, Heidelberger Kommentar zur KI-VO**. ----------------- * - https://www.otto-schmidt.de/ki-verordnung-9783811462229 ** - https://www.otto-schmidt.de/ki-vo-9783811456594

Die KI-Verordnung wird im Sommer 2024 in Kraft treten. Für Unternehmen wird es höchste Zeit, sich mit den Anforderungen des neuen Rechtsrahmens zu befassen. ChatGPT ist keine Suchmaschine und kein Wikipedia, sondern eine autonom funktionierende „Erfindmaschine“. Jedes Unternehmen, das die Technik einsetzt, muss seine Beschäftigten und sonstige Dritte, die im Auftrag des Unternehmens KI-Systeme wie ChatGPT einsetzen, über Funktion und Risiken der neuen Technik aufklären. Wo besondere Fallstricke liegen, wie es sich mit Bußgeldern bei Pflichtverstößen verhält und ob man sich ihnen entziehen kann, wenn man ein privates Gerät nutzt, und wie man sich schützen kann, erklärt Kai Zenner. Kai Zenner ist Büroleiter von Axel Voss (MdEP), hat an den Verhandlungen zur KI-VO mitgewirkt und ist Mitherausgeber von Schwartmann/Keber/Zenner Praxisleitfaden zur KI-VO* und Schwartmann/Keber/Zenner, Heidelberger Kommentar zur KI-VO**. ----------------- * - https://www.otto-schmidt.de/ki-verordnung-9783811462229 ** - https://www.otto-schmidt.de/ki-vo-9783811456594

Im März 2024 hat das EU-Parlament den Entwurf der KI-Verordnung angenommen. Das Gesetz regelt die Entwicklung und den Betrieb von KI-Systemen und KI-Modellen durch Unternehmen und Behörden in den Einsatz wird in absehbarer Zeit in Kraft treten und erhebliche Auswirkungen auf die Arbeitswelt, insbesondere an der Schnittstelle zwischen Datenschutz- und Arbeitsrecht haben. Im DataAgenda Podcast ist Dr. Markus Wünschelbaum vom Hamburgischen Beauftragten für den Datenschutz du die Informationsfreiheit zu Gast, der Experte für beide Bereiche ist. Die Ausführungen im Podcast geben nur seine persönliche Auflassung wieder.

Die Auslegung und Durchsetzung des Datenschutzrechts obliegt zunächst den Datenschutzaufsichtsbehörden. Im Ergebnis treffen sie aber wenige Entscheidungen. Stattdessen erfolgt die Auslegung konkreter Praxisfragen im Datenschutz zunehmend durch den Europäischen Gerichtshof. Rechtsanwalt Sascha Kremer fordert die Datenschutzaufsichtsbehörden im DataAgenda Datenschutz Podcast dazu auf, die Auslegung der DS-GVO beherzter in die eigenen Hände zu nehmen und streitige Entscheidungen nicht zu scheuen, um die Auslegung der DS-GVO kompetent und sachnah in die eigenen Hände zu nehmen.

Der Europäische Gerichtshof hat die Bedeutung der Datensicherheit in den Fokus der Diskussion um Schadensersatz nach Art. 82 DS-GVO gerückt. Im Dezember 2023 (Rs. C-340/21) hat er entschieden, dass schon die Befürchtung eines möglichen Missbrauchs von Daten ausreicht, um einen Schadensersatzanspruch auszulösen. Das bedeutet: Unternehmen müssen die Anforderungen an die IT-Sicherheit noch ernster nehmen. Aktuell tut sich insgesamt viel im Recht der IT-Sicherheit. Eine Einordnung des komplexen Rechtsrahmens geben Dr. Dennis-Kenji Kipker, Professor für IT-Sicherheitsrecht an der Hochschule Bremen und Steve Ritter, Referatsleiter »IT-Sicherheit und Recht« im Bundesamt für Sicherheit in der Informationstechnik (BSI) .

Was war 2023 in Sachen Datenschutz und KI erfreulich, was war ärgerlich, fragen sich Kristin Benedikt, Richterin am Verwaltungsgericht Regensburg, BGH-Richter Dr. Martin Kessen und MdEP Axel Voss. Wo soll die Reise im Jahr 2024 hingehen? Themen des DataAgenda Jahresrückblicks 2023 sind Fragen der KI-Verordnung, die Rechtsprechung und Rolle des EuGH im Jahr 2023 und wo die Möglichkeiten und Grenzen des. insatzes von KI in der Justiz sind.

Der Data Act ist seit dem 9. November 2023 beschlossene Sache. Laut Damian von Boeselager, dem Berichterstatter im Europaparlament für das Europäische Datengesetz wird es zur Schaffung von mehr Wettbewerb und Innovation beitragen. „Der Data Act ist ein Marktdesign für zukünftige Börsen für Industriedaten, mit denen Tausende Unternehmen neue Einnahmequellen erschließen können. Das Gesetz schafft einen Rahmen, den die Wirtschaft mit Leben füllen soll und wird“ „Aber um es klar zu sagen“ so Damian von Boeselager weiter, „der Data Act (...) steht neben der DSGVO, er ändert sie nicht. (…) Als Anwender weiß ich nun, in welchem Gesetz ich welche Regeln für beide Datenarten finden.“ Inwieweit die Praxis diese Einschätzung teilt und welche Herausforderungen das neue Recht für die Wirtschaft bedeutet, geht es im DataAgenda Datenschutzpodcast mit dem auf Rechtsfragen der Informationsgesellschaft spezialisierten Rechtsanwalt Dr. Simon Assion.

After marathon negotiations from December 6 to 9, 2023, the future of the AI Regulation seems secure. In the DataAgenda podcast, Kai Zenner, Head of Office and Political Advisor to MEdP Axel Voss, reports on what the representatives of the Council, Commission and European Parliament have agreed on and how things are progressing and whether there was any gambling during the negotiations.

Nach einem Verhandlungsmarathon vom 6. bis zum 9.12.2023 scheint die Zukunft der KI-Verordnung gesichert. Worauf die Vertreter von Rat, Kommission und Europaparlament sich geeinigt haben und wie es weitergeht und ob bei den Verhandlungen auch gepokert wurde, berichtet Kai Zenner, Büroleiter und Politischer Berater von MEdP Axel Voss im DataAgenda-Podcast.

Menschen nutzen soziale Netzwerke, um miteinander zu kommunizieren. Das Geschäftsmodell dieser Angebote besteht aber nicht darin, Menschen miteinander in Kontakt zu bringen. Es geht darum auszuwerten und zu vermarkten, wer mit wem kommuniziert und wer sich für was interessiert. Nun bietet Meta Facebook und Instagram im Abo an. Ist das fair und was hat es damit auf sich und was haben EuGH und Datenschutzaufsicht damit zu tun? Ein Gespräch mit Kristin Benedikt, Richterin am Verwaltungsgericht Regensburg und Datenschutzberater David Pfau. Hinweis: Zum Zeitpunkt der Aufnahme des Podcast gab es Unklarheiten zum konkreten Preismodell. Die Preise sind hier korrekt dargestellt. Die Rechtsfragen der Preisdiskussion im Podcast verändern sich dadurch nicht. (Quelle: https://www.facebook.com/help/262038446684066?paipv=0&eav=AfYbcX7RKoPJIhPD6aRh8cW8nisXlCVe3xSFXCbyQoRGFs84ay0nvbMXUoymSsRJk1A&_rdr)

Welche Rolle nehmen die deutschen Datenschutzaufsichtsbehörden mit Blick auf die neuen Datenakte der EU ein? Wie ist die Aufsichtsstruktur im Kontext von DSA, DMA, DGA, Data Act und der entstehenden KI-VO) ausgestaltet? Welche Pflichten ergeben sich aus DSA und DDG mit Blick betrieblichen Datenschutz für Unternehmen? Was ist bei dem Einsatz von Bots zur Kundenberatung zu beachten? Antworten auf diese Fragen geben Thomas Fuchs, Hamburgischer Beauftragter für Datenschutz und Informationsfreiheit und Rechtsanwalt Dr. Carlo Piltz im DataAgenda Datenschutzpodcast.