Lügt Claude? KI-Sicherheitstest & Inkling: Datensouveränität für den Mittelstand

Fünf Abteilungen, fünf verschiedene KI-Tools, sensible Firmendaten über private Accounts – ein IT-Administrator entdeckt das Chaos, und genau da beginnt die Ethik-Frage dieser Folge.Zwei Themen, die direkt in die Geschäftsführung gehören:🔒 Sicherheitsrisiko externe KI: Ein aktueller Test wirft Fragen auf, wie zuverlässig KI-Modelle ihre eigenen Sicherheitsvorgaben tatsächlich befolgen – und was das für Haftung und Governance im Unternehmen bedeutet.🖥️ Datensouveränität durch lokale KI: Thinking Machines hat mit Inkling ein großes Open-Weight-Modell veröffentlicht. Wir erklären, warum lokale KI-Modelle die Kontrolle über Firmendaten zurück ins Unternehmen holen – und welche neue Verantwortung damit einhergeht.Euer Takeaway: Blindes Vertrauen in die moralische Ausrichtung externer KI-Tools ist ein Haftungsrisiko. Lokale Modelle lösen das Kontrollproblem, verlangen aber klare Verantwortlichkeiten in der eigenen IT.💬 Frage fürs Wochenende: Welche Aufgabe in eurem Unternehmen ist so sensibel, dass sie niemals von einer externen KI ausgeführt werden dürfte?Kuratiert und eingeordnet von Arno Schimmelpfennig aus der Normenpraxis.👉 Abonniert KI Ethik News für euer werktägliches Lagebild zu verantwortungsvollem KI-Einsatz im Mittelstand.ImpressumAngaben gemäß § 5 TMG i. V. m. § 18 Abs. 1 MStV:Arno SchimmelpfennigAmalienstraße 11, 96047 BambergKontaktTelefon: 01722712600E-Mail: [E-Mail-Adresse]Web: ki-lernarchitekt.de[Vertreten durch: ggf. Geschäftsführer/in][Umsatzsteuer-ID gemäß § 27a UStG, falls vorhanden]Verantwortlich für den Inhalt nach § 18 Abs. 2 MStV[Name, Anschrift wie oben]Hinweis zu KI-generierten Inhalten (Art. 50 Verordnung (EU) 2024/1689 – KI-Verordnung/AI Act)Diese Podcast-Folge wird mithilfe KI-generierter synthetischer Stimmen (Text-to-Speech) erstellt und vertont. Gemäß der Transparenzpflicht aus Art. 50 KI-VO weisen wir darauf hin, dass die Audioinhalte künstlich erzeugt bzw. bearbeitet wurden. Die inhaltliche Einordnung stammt von [Arno Schimmelpfennig / Name] auf Basis kuratierter externer Quellen. Trotz sorgfältiger Prüfung können die KI-Stimmen und die automatisierte Aufbereitung Fehler enthalten – für die inhaltliche Richtigkeit im Einzelfall wird keine Gewähr übernommen.StreitschlichtungDie Europäische Kommission stellt eine Plattform zur Online-Streitbeilegung (OS) bereit: https://ec.europa.eu/consumers/odr/. Wir sind nicht verpflichtet und nicht bereit, an einem Streitbeilegungsverfahren vor einer Verbraucherschlichtungsstelle teilzunehmen.