KI und Recht - Erlaubt oder nicht?

Was wäre, wenn dein digitaler Zwilling morgens schon deine E-Mails vorsortiert, Meetings vorbereitet und Kunden antwortet, während du noch am See sitzt? Klingt praktisch – kann rechtlich aber schnell kompliziert werden.In dieser Folge von „KI und Recht – erlaubt oder nicht?“ sprechen Rosanna und Roman über digitale Zwillinge in der Arbeitswelt. Also über KI-Systeme, die nicht nur unterstützen, sondern Wissen, Stil, Routinen und teilweise sogar Entscheidungen einer konkreten Person nachbilden sollen.Dabei geht es um Datenschutz, Persönlichkeitsprofile, Betriebsrat, EU AI Act und die Frage, wer haftet, wenn ein digitaler Zwilling im Namen eines Menschen oder Unternehmens handelt.Die zentrale Frage: Ist der digitale Zwilling ein nützlicher Copilot – oder der Einstieg in die gläserne Arbeitskraft?Frage an euch: Würdet ihr euch im Job digital klonen lassen, wenn euch das wirklich viel Arbeit abnehmen würde?

Viele Unternehmen nutzen längst KI – oft ohne es wirklich zu merken. Der Vertrieb lässt Kundenmails von ChatGPT formulieren, das Marketing erstellt KI-Bilder, HR testet Tools für Bewerbungen und irgendwo werden vielleicht Kundendaten in ein KI-System kopiert.Aber wer haftet, wenn dabei etwas schiefgeht?In dieser Folge sprechen Rosanna und Roman über 5 typische KI-Fehler, die für Unternehmer rechtlich und finanziell riskant werden können: Datenschutz, Urheberrecht, KI-Content, Bewerberauswahl, EU AI Act, Haftung und fehlende Verantwortung im Unternehmen.Du erfährst, warum „das war doch nur ein KI-Tool“ keine gute Ausrede ist, welche Risiken durch Shadow-KI entstehen und welche einfachen Schritte Unternehmen jetzt gehen sollten, um KI sinnvoll, sicher und kontrolliert einzusetzen.Für alle Unternehmer, Selbstständigen und KI-Interessierten, die KI nutzen wollen – aber nicht blind.

Ein Videoanruf. Dein Chef. Eine dringende Überweisung.Alles wirkt echt – bis 2,5 Millionen Euro verschwunden sind.Was wie ein Ausnahmefall klingt, ist längst Realität: Deepfakes haben eine Qualität erreicht, bei der selbst erfahrene Mitarbeitende keinen Unterschied mehr erkennen können.In dieser Folge sprechen wir darüber, wie genau dieser Betrug funktioniert – und warum unser Gehirn darauf hereinfällt.👉 Du erfährst:wie täuschend echte KI-Stimmen und Video-Deepfakes heute entstehenwarum selbst sorgfältige Mitarbeitende solche Angriffe nicht erkennen könnenwer im Ernstfall haftet – Mitarbeitende, Unternehmen oder Geschäftsführungwarum viele Versicherungen nicht zahlenund welche konkreten Maßnahmen dein Unternehmen jetzt umsetzen sollte💡 Die wichtigste Erkenntnis:Vertrauen allein reicht nicht mehr. In einer Welt, in der Identitäten kopiert werden können, brauchst du neue Sicherheitsmechanismen.Diese Folge richtet sich an alle, die Verantwortung tragen – im Unternehmen oder privat – und verstehen wollen, wie real diese Gefahr inzwischen ist.🎧 Jetzt reinhören und herausfinden, wie du dich schützt, bevor es zu spät ist.

Deine KI arbeitet jetzt ohne dich – aber wer haftet, wenn etwas schiefgeht?KI antwortet nicht mehr nur – sie handelt.In dieser Folge sprechen wir über den nächsten großen Schritt: autonome KI-Agenten, die selbstständig Aufgaben planen, Entscheidungen treffen und im Hintergrund arbeiten. Vom E-Mail-Management bis zur Flugbuchung – was nach Effizienz klingt, wirft plötzlich ganz neue Fragen auf.👉 Was passiert, wenn KI eigenständig handelt?👉 Wer trägt die Verantwortung bei Fehlern?👉 Und wie können Unternehmen diese Systeme sinnvoll einsetzen, ohne rechtliche Risiken einzugehen?Am Beispiel aktueller Entwicklungen wie Open-Source-Agenten und neuen Sicherheitsansätzen zeigen wir, wie nah diese Zukunft bereits ist – und worauf du jetzt achten solltest.Du bekommst konkrete Einblicke:Wie KI-Agenten technisch funktionierenWo die größten Risiken (Datenschutz & Haftung) liegenWelche Regeln Unternehmen jetzt beachten müssenWie du selbst sinnvoll starten kannst – ohne ChaosFazit: KI wird nicht nur smarter, sondern eigenständiger.Die Frage ist nicht mehr ob – sondern wie wir damit umgehen.🎙️ Für alle, die KI nicht nur nutzen, sondern verstehen wollen.

Was bleibt nach einer ganzen Staffel KI und Recht – erlaubt oder nicht?Im großen Staffelfinale ziehen wir Bilanz – mit den Themen, die euch am meisten bewegt haben.In dieser Folge sprechen wir über die drei größten Fragen rund um Künstliche Intelligenz:⚖️ Generative KI & UrheberrechtWem gehören KI-Bilder, Texte und Designs wirklich – und wann bist du rechtlich auf dünnem Eis?🇪🇺 EU AI Act: Schutz oder Innovationsbremse?Warum die neue KI-Regulierung polarisiert, welche Chancen sie bietet – und wo reale Risiken liegen.💼 Nimmt KI unsere Jobs weg?Welche Berufe sich verändern, welche verschwinden könnten – und warum KI-Kompetenz über die Zukunft entscheidet.Rosanna (KI-Managerin & Unternehmerin) und Roman (Jurist & Datenschutzexperte) ordnen die wichtigsten Learnings aus Staffel 1 ein, geben konkrete Praxis-Tipps und sprechen offen über Ängste, Chancen und Fehlannahmen rund um KI.🎧 Plus:Wir geben euch einen Ausblick auf Staffel 2, neue Formate, geplante Gäste – und warum sich die kurze Podcast-Pause lohnt.👉 Eine Folge für alle, die KI nicht nur nutzen, sondern verstehen und rechtssicher einsetzen wollen.Jetzt hören, abonnieren & vorbereitet in die nächste KI-Phase starten.

Die EU ermittelt gegen Elon Musks KI-Chatbot Grok.Grund sind sexualisierte Deepfakes, manipulierte Bilder und mögliche Verstöße gegen den Digital Services Act (DSA).In dieser hochaktuellen Folge von KI und Recht – erlaubt oder nicht? analysieren wir:🔍 warum Grok Deepfakes von Frauen und Kindern erzeugen konnte⚖️ was der Digital Services Act (DSA) von KI-Anbietern verlangt🚨 was „systemische Risiken“ bei KI rechtlich bedeuten💸 welche Strafen Plattformen wie X und KI-Anbieter erwarten können🌍 warum der Fall international für Aufsehen sorgtRosanna (KI-Managerin & Unternehmerin) und Roman (Jurist & Datenschutzexperte) ordnen den Fall verständlich, rechtssicher und ohne Panik ein.🎧 Diese Folge ist relevant für alle, die sich fragen:Darf KI alles – oder haftet am Ende doch der Mensch?👉 Jetzt hören, abonnieren & informiert bleiben.

Nimmt KI wirklich unsere Arbeitsplätze weg – oder ist das nur Panikmache?In dieser Folge sprechen wir ohne Schönreden über das, was viele nur denken, aber kaum jemand ausspricht:👉 KI automatisiert Jobs. Ja.👉 Aber sie schafft auch neue – wenn du vorbereitet bist.Wir starten mit harten Zahlen & Studien (McKinsey, OECD, World Economic Forum) und zeigen, wie viele Jobs tatsächlich gefährdet sind – und warum besonders Berufseinsteiger und KI-Verweigerer ein echtes Problem bekommen.Danach wird es persönlich:Warum Rosanna ihren ursprünglichen Job hinterfragt hatWie Roman KI nutzt, um nicht ersetzbar zu werdenWelche Fehler wir immer wieder bei Unternehmen & Bewerbern sehen🎯 Das Fazit:KI ersetzt keine Menschen – sie ersetzt Menschen, die sich nicht weiterentwickeln.Wenn du wissen willst,✔️ ob dein Job gefährdet ist✔️ wie du zu den Gewinnern gehörst✔️ und warum Angst der schlechteste Karriereberater istdann hör unbedingt rein.👉 Jetzt abonnieren, denn die Arbeitswelt verändert sich – und Nichtwissen ist keine Strategie.

Der EU AI Act ist da und sorgt für maximale Verunsicherung.Ist KI jetzt verboten? Wer haftet? Und trifft das wirklich jedes Unternehmen?In dieser Folge von „KI & Recht – Erlaubt oder nicht?“ zerlegen wir den EU AI Act ohne Juristen-Bullshit, aber mit klarem Blick auf das, was wirklich zählt.🎙️ Darum geht’s konkret:Für wen der EU AI Act wirklich gilt (Spoiler: Sitz des Unternehmens ist egal)Hochrisiko-KI: Wann sie vorliegt – und wie du legal daran vorbeikommstVerbotene Praktiken wie Social Scoring & EmotionserkennungBiometrie, Gesichtserkennung & Polizei: Was erlaubt ist – und was nichtNeue Pflichten für Unternehmen: Datenqualität, Dokumentation & KI-KompetenzGeneral Purpose AI (ChatGPT & Co.): Welche Regeln jetzt greifenBußgelder bis zu 35 Mio. € oder 7 % des weltweiten UmsatzesDie wichtigsten Fristen – und was seit Februar 2025 bereits Pflicht istRoman (Jurist, Datenschutzbeauftragter (TÜV) & KI-Manager (IHK)) und Rosanna (Generative-AI-Expertin (IHK), KI-Managerin (IHK) & KI-Beauftragte (DEKRA)) erklären, warum der EU AI Act weniger Panik und mehr Struktur bedeutet.Warum der EU AI Act keine Innovationsbremse, sondern eine echte Chance sein kann – wenn man ihn richtig versteht.🎧 Pflichtfolge für Unternehmen, Entscheider, HR, Marketing & alle, die KI nutzen oder nutzen wollen.

Was passiert, wenn du einer Stimme nicht mehr trauen kannst?Nicht der deines Kindes.Nicht der deines Chefs.Nicht einmal deiner eigenen.In dieser Folge von „KI und Recht – Erlaubt oder nicht“ sprechen wir über eine Entwicklung, die gerade still und leise Alltag wird: Deepfakes, Voice Cloning und KI-gestützten Betrug – technisch banal, rechtlich explosiv und menschlich brandgefährlich.Wir zeigen:warum heute 3 Sekunden Audio reichen, um eine Stimme zu klonenwie der Enkeltrick 2.0 mit KI funktioniertwarum CEO-Fraud für Unternehmen existenzbedrohend istwem Gesicht und Stimme im Internet rechtlich eigentlich gehörenwas DSGVO, Persönlichkeitsrecht, AI Act & DSA wirklich schützen – und was nichtund wie du dich privat und beruflich konkret schütztDas hier ist keine Einzelfolge.Das ist ein Thema, das bleibt.👉 Folge dem Podcast, wenn du vorbereitet sein willst, bevor diese Masche dich oder dein Umfeld trifft.👉 Speicher die Folge – du wirst sie weiterempfehlen müssen.🎙️ Mit Roman Cäsar Preller (KI-Manager, Jurist, Datenschutzbeauftragter & KI-Unternehmer)🎙️ Rosanna (KI-Managerin, Generative AI Expertin, KI Beauftragte, Dozentin & Unternehmerin)Bleib kritisch. Bleib informiert. Bleib echt.

KI generiert Bilder – aber wem gehören sie eigentlich? Und dürfen Midjourney & Co. wirklich unsere Fotos aus dem Internet zum Training verwenden?In dieser Folge räumen wir gnadenlos auf mit Mythen, Halbwissen und Panik rund um KI, Copyright und Creators.Wir sprechen über:Warum KI beim Training keine Bilder klaut – und trotzdem Milliarden davon nutztWas §44b UrhG wirklich erlaubt (und warum viele Kreative das nicht wussten)Warum KI-Bilder gemeinfrei sind – und warum das für Unternehmen Fluch und Segen istWelche rechtlichen Risiken bei Marken, Figuren & Overfitting lauernWie du KI-Bilder ohne Angst in Marketing & Social Media nutztDazu gibt’s klare Antworten auf die Fragen, die uns täglich gestellt werden:Darf ich das posten? Gehört mir das? Und kann mich jemand verklagen?Humorvoll, verständlich – und endlich mal ohne Bullshit.Reinhören lohnt sich.🎙️ Mit Roman & Rosanna – KI & Recht: Erlaubt oder nicht?Roman (Jurist, KI-Manager & Datenschutzbeauftragter) und Rosanna (Generative-AI-Expertin, KI Managerin, KI Beauftragte & Dozentin)

Wird deine Bewerbung aussortiert, bevor überhaupt ein Mensch sie sieht?Genau diese Frage erreicht uns ständig – und in dieser Folge klären wir sie endlich ausführlich. Rosanna und Roman erklären, wie Unternehmen KI im Recruiting einsetzen, was CV-Parser und Matching Scores wirklich können und warum viele Bewerbungen an simplen KI-Hürden scheitern. Du erfährst:warum HR-Abteilungen überhaupt KI verwenden und wie diese Tools Bewerbungen filternwelche Rolle das AGG, die DSGVO und der Human-in-the-Loop spielenwelche Fehler dazu führen, dass deine Bewerbung gar nicht erst gesehen wirdwie du deinen Lebenslauf KI-freundlich gestaltestwelche Keywords die KI wirklich erkennt – und welche nicht5 sofort umsetzbare Praxistipps, damit du nicht mehr aussortiert wirstAußerdem sprechen wir über reale Beispiele, typische KI-Pannen großer Unternehmen und warum viele Bewerbungs-KI eigentlich noch ziemlich „dumm“ sind. Wenn du jemanden kennst, der gerade Bewerbungen schreibt – schick ihm unbedingt diese Folge.Nächsten Mittwoch gibt’s wieder ein neues Thema mit praxisnahen Tipps rund um KI & Recht.

In dieser Episode von „KI und Recht – erlaubt oder nicht?” zeigt Roman, wie drei der aktuell nützlichsten KI-Tools deinen beruflichen Alltag massiv beschleunigen können – ohne die rechtlichen Vorgaben aus dem Blick zu verlieren.Rosanna ist krankheitsbedingt nicht dabei (gute Besserung!), dafür gibt’s heute einen extra kompakten Deep Dive in die Praxis.🔍 Diese 3 KI-Tools nehmen wir unter die Lupe:1) ChatGPT – der unterschätzte Struktur-TurboWie du aus wenigen Stichworten in Minuten klare Memo-Entwürfe, Checklisten und Mandanteninfos erzeugst – inkl. Tipps zur verständlichen Sprache und zur Vollständigkeitsprüfung. Plus: Mini-Use Case für Kanzleien & Praxistipps zu Prompt-Bibliotheken. 2) Perplexity – Recherche mit Quellen, die Zeit spartIdeal für Juristen und alle, die schnell belastbare Infos brauchen. Wir zeigen, wie du präzise Antworten inklusive Primärquellen erhältst und wie du Perplexity für Präsentationen, Risikoanalysen und Vergleiche gezielt einsetzt. 3) Microsoft Copilot – die Produktivitäts-Schicht in Word, Outlook & PowerPointDirekt in Microsoft 365 integriert: Zusammenfassungen, Vorstandsvorlagen, Folienstrukturen, E-Mail-Antwortvorschläge, Meetingnotes u. v. m. Wie Copilot dir die ersten 60 % der Arbeit abnimmt – und worauf du beim Datenschutz achten musst. Inklusive eines High-Speed-Use-Cases für den Unternehmensalltag. ⚖️ Rechtlich sauber arbeiten:Wir besprechen DSGVO-Grundsätze, Do’s & Don’ts, typische Fallstricke und warum Klarnamen, Geheimnisse und sensible Informationen nicht in Prompts gehören. Plus: Wieso KI-Antworten keine Rechtsberatung ersetzen können. 💡 Diese Folge ist perfekt für dich, wenn du…beruflich mit Daten, Recht, Compliance oder Wissen arbeitest,KI effizient – aber sicher – einsetzen willst,Tools suchst, die sofort echten Mehrwert liefern,Strukturen, Entwürfe oder Recherchen schneller erledigen möchtest.🎙️ Jetzt reinhören und erfahren, wie KI deinen Workflow smarter macht – ohne rechtliche Risiken.Wenn dir die Folge gefällt, freuen wir uns über dein Abo, eine Bewertung und eure Fragen für die nächsten Episoden!

Künstliche Intelligenz hält in immer mehr Unternehmen Einzug – doch viele wissen nicht, was im Arbeitsalltag wirklich erlaubt ist und wo Risiken lauern. In dieser Folge sprechen Rosanna und Roman darüber, wie LLMs wie ChatGPT, Claude oder Gemini im Job sinnvoll eingesetzt werden können – ohne Datenschutzfallen, rechtliche Probleme oder falsche Erwartungen.Wir erklären:• Welche Aufgaben LLMs zuverlässig übernehmen• Wo Unternehmen enormes Potenzial verschenken• Welche Daten NIEMALS eingegeben werden dürfen• Wie KI-Assistenz Mitarbeitende entlastet statt ersetzt• Warum LLMs nicht „verstehen“, sondern nur Wahrscheinlichkeiten berechnen• Typische Fehler im Alltag und wie man sie leicht vermeidet• Die wichtigsten Regeln für einen sicheren und verantwortungsvollen KI-EinsatzPraxisnah, verständlich und mit dem Mix aus Technik- und Rechtsperspektive, der unseren Podcast ausmacht. Wenn du KI im Unternehmen nutzt – oder nutzen willst – ist diese Folge dein perfekter Leitfaden.PROMPT zum Ausprobieren (Anti-Halluzination)Rolle & Verhalten:Du bist ein streng faktenbasiertes Sprachmodell. Deine höchste Priorität ist es, ausschließlich korrekte, überprüfbare Informationen zu liefern. Wenn du dir bei einer Antwort nicht sicher bist oder dir Informationen fehlen, sagst du ausdrücklich, dass du es nicht weißt.Regeln:Keine Halluzinationen: Wenn du dir nicht sicher bist, antworte mit „Ich weiß es nicht“ oder „Dafür habe ich nicht genug Informationen“.Keine Vermutungen, keine erfundenen Details.Nur Fakten: Nenne ausschließlich Informationen, die du sicher kennst.Transparenz: Falls es Unsicherheiten gibt, benenne sie klar.Bequeme Ablehnung: Falls die Frage zu allgemein, unpräzise oder zweideutig ist, fordere Klarstellung.Kein Overconfidence: Verwende keine Formulierungen, die falsche Sicherheit ausdrücken, wenn Unsicherheit besteht.Antwortformat:Zuerst: Kurze, präzise Antwort – nur wenn du dir sicher bist.Falls unsicher: „Ich bin mir nicht sicher“ + kurze Erklärung, was genau fehlt.Optional: Nachfrage, wie die Frage konkretisiert werden kann.

Willkommen zur Pilotfolge von „KI & Recht – erlaubt oder nicht?“, dem Podcast, in dem Rosanna Preller (KI-Expertin, Generative-AI-Spezialistin, DEKRA-KI-Beauftragte) und Roman Cäsar Preller (Datenschutzexperte, angehender Jurist und KI-Manager) jede Woche Klartext über Künstliche Intelligenz, Datenschutz, rechtliche Stolpersteine und echte Praxisanwendungen sprechen.In dieser ersten Folge nehmen wir drei der größten KI-Mythen unter die Lupe – Aussagen, die man ständig hört, die aber kaum jemand hinterfragt:Mythos 1: „KI klaut meine Daten!“Wir klären, was wirklich passiert, wie moderne KI-Modelle funktionieren, was sie speichern (und was nicht), wann Datenschutz ein echtes Risiko ist – und wo unnötige Panik entsteht.Mythos 2: „KI versteht alles.“Die große Wahrheit über LLMs: Wie viel „Verständnis“ steckt wirklich dahinter? Was ist Statistik, was ist Kontext, und wie entstehen eigentlich Antworten? Dazu sprechen wir über typische Fehler, Missverständnisse und warum KI manchmal total danebenliegt.Mythos 3: „KI wird bald alle Jobs ersetzen.“Wir sprechen darüber, welche Jobs gefährdet sind, welche sogar profitieren – und warum die Wahrheit viel differenzierter ist. Plus: Was Unternehmen schon jetzt tun können, um Mitarbeitende zu unterstützen, statt sie zu verunsichern.📌 Dich erwarten:• praktische Einblicke aus echten KI-Projekten• verständliche Erklärungen ohne Technikkauderwelsch• juristische Einordnung ohne Paragrafen-Nebel• humorvolle Geschwisterdiskussionen• klare Handlungsempfehlungen für den beruflichen Alltag• Tipps, wie man KI sicher, effizient und rechtskonform nutztDiese Pilotfolge ist dein idealer Einstieg, wenn du KI nutzen möchtest – aber gleichzeitig wissen willst, was erlaubt, riskant oder absolut unkritisch ist. Egal ob du im Unternehmen arbeitest, im Datenschutz tätig bist, KI verantwortungsvoll einsetzen möchtest oder einfach neugierig bist, was hinter dem Hype steckt: Diese Folge liefert dir eine klare, fundierte und gleichzeitig lockere Perspektive.Ab jetzt jeden Mittwoch eine neue Folge – verständlich, praxisnah, ehrlich.KI nutzen. Risiken kennen. Chancen realisieren.