Skip to content
#125 Agentic-AI-Security und LLM-Sicherheit episode artwork

Oct 16, 2026 59 min

#125 Agentic-AI-Security und LLM-Sicherheit

from Security-Insider

KI und autonome Agenten sind heute schon überall anzutreffen. Aber KI nimmt nicht nur Arbeit ab, sondern schafft auch Risiken für Unternehmen. Wir sprechen in dieser Folge mit Kevin Bernhard und Dr. Erlijn van Genuchten, beide sind Pentester, jedoch mit unterschiedlichen Schwerpunkten. Im Interview erzählen die beiden von Fällen aus der Praxis, wie Pentester die Grenzen von KI-Systemen austesten, wofür sie Künstliche Intelligenz einsetzen, wovon sie lieber (noch) die Finger lassen und welche Tipps sie für die Absicherung der Modelle haben. Weiterführende Informationen und Links zu dieser Episode gibt es im Artikel auf Security-Insider! Bestellen Sie unseren kostenfreien Security-Insider Newsletter! Irgendwas mit IT Sechs Redaktionen. Ein Podcast. Jede Menge IT. Der Podcast „Irgendwas mit IT“ bringt die Blickwinkel der Insider-Medien BigData-Insider, CloudComputing-Insider, DataCenter-Insider, IP-Insider, Security-Insider und Storage-Insider zusammen – für fundierte Einordnungen, echte Perspektiven und die Hintergründe, die in keiner Pressemitteilung stehen. Weitere spannende Podcasts aus unserem Haus: UNBÜROKRATISCH - zur Digitalisierung der Verwaltung HEALTHCARE DIGITAL - zur Digitalisierung im Gesundheitswesen IT ImPuls - Trends, Technologien und Strategien für die IT-Branche INSIDER RESEARCH - Das Expertengespräch zur Digitalisierung Mentioned in this episode: Vanta, die KI-gestützte Trust-Plattform Vanta ist die marktführende KI-gestützte Trust-Plattform, mit der Sie schnell Compliance-Anforderungen erfüllen. Sie wird von über 16.000 wachsenden Unternehmen wie Körber, Loveable, and Maltego genutzt, die mit KI die Zukunft gestalten UND KI-Risiken immer einen Schritt voraus sind. Durch die Automatisierung von mehr als 35 Compliance-Frameworks wie SOC 2 und ISO 27001 sowie von GRC-Workflows wie Risikomanagement spart Vanta den Security Teams Zeit und verbessert gleichzeitig die Transparenz der Programme. Jetzt mehr erfahren unter: https://www.vanta.com/securityinsider https://www.vanta.com/securityinsider

Episode details come from the podcast's RSS feed.

Embed this episode

Ready to play

#125 Agentic-AI-Security und LLM-Sicherheit

0:00 59:22

Chapters

  1. 0:20 Begrüßung und Themenvorstellung
  2. 2:32 Vorstellung Kevin Bernhard
  3. 6:10 Sicherheitsrisiken von KI-Systemen
  4. 10:22 KI-Pentesting
  5. 15:11 Neue Angriffsflächen durch KI-Agenten
  6. 17:20 Wie erkennt man die Kompromittierung eines KI-Agenten?
  7. 19:20 Erfolgsmessung bei KI-Pentests
  8. 23:45 Wie setzt ein Pentester KI ein?
  9. 26:44 Vorstellung Erlijn van Genuchten
  10. 31:02 Risiken  bei LLMs, KI-Chatbots und KI-Agenten
  11. 32:25 Angriffsvektoren und Angriffsarten
  12. 35:30 Was ist Prompt Injection?
  13. 36:56 Das Risiko durch KI-Agenten
  14. 38:17 Wie funktioniert ein KI-Pentest?
  15. 40:59 Schwachstellen-Flut aufgrund von KI
  16. 47:29 KI sicher einsetzen
  17. 49:46 AI Governance
  18. 52:02 Anwendungsfälle von KI
  19. 54:10 Was muss ein KI-Pentester können?
  20. 58:32 Zusammenfassung und Verabschiedung

No transcript yet.

Requests help us decide what to transcribe next.

The Wall Ronald W. Chapman II and Sean Weiss The Wall protects our republic by safeguarding our democratic processes, civil liberties, and national security through laws and institutions. Its role in protecting the republic involves balancing security concerns with humanitarian and legal considerations.With over 50 years of legal and government experience combined, Ron Chapman and Sean M. Weiss pull back the curtain on the US government, the U.S. Judicial System, and some of the most influential trials in history that continue to shape our nation today.Join every week for unfiltered conversations, in-depth analysis, and commentary from some of America’s boldest thought leaders.Be sure to follow the podcast on your favorite platform so you never miss a new episode. From Passion to Profit: Heart Centered Strategies for FitPros Nichola Page Welcome to From Passion to Profit, the ultimate resource for fitness professionals driven by their passion to inspire and empower others on their business journey. Hosted by Nichola Page, a seasoned health and fitness business specialist, this show is tailored for FitPros and Studio Owners looking to supercharge their small business. Discover game-changing strategies and actionable tactics that will not only help you attract and retain clients but also transform your health & fitness venture into a thriving small business. Dive deep into topics like marketing, sales, financials, client retention, and business scalability. Learn how to master the art of growing a health & fitness business, and unlock the secrets to financial security, freedom, and flexibility. Join Nichola each week as she and her industry guests provides invaluable insights to guide you towards a successful and sustainable fitness business. Whether you've had your business for years or just starting ou Iran's Gambit Ali Alfoneh "Iran's Gambit" is a weekly podcast produced by Ali Alfoneh, on Iranian politics, and Iran's national security strategy, intentions, capabilities and impact. Mark Kollar’s Financial Cornerstone Mark Kollar Mark Kollar is a well-known financial educator in the Chicago area and hosts the popular weekly financial radio show, Retirement and Income Radio. He is sought after throughout the state of Illinois for his expertise in retirement planning and retirement income planning. His clients include retirees from United Airlines, AT&T, McDonald’s, Chicago Transit Authority, and HFC.As a retirement and income planning specialist, Mark helps retirees and those near retirement protect their savings, reduce income taxes and taxes on social security benefits and create a retirement income guaranteed to last as long as they do. Mark graduated from Loyola University of Chicago where he received his B.B.A. degree. He is a Registered Financial Consultant and a Certified Estate Planning Professional and has pledged always to put the needs of his clients above his own.

Frequently asked questions

How long is this episode of Security-Insider?

This episode is 59 minutes long.

When was this Security-Insider episode published?

This episode was published on October 16, 2026.

Can I download this Security-Insider episode?

Yes. Use the download control on the episode player to save the publisher-provided media file.