PočúvAI: Všetko, čo píšete chatbotovi, môže skončiť na čiernom trhu

Nástup umelej inteligencie do firiem pripomína divoký západ. Kým manažment vidí v AI cestu k efektivite, bezpečnostní experti varujú pred fenoménom známym ako Shadow AI. Ide o nekontrolované používanie súkromných AI účtov zamestnancami, cez ktoré do sveta unikajú finančné výsledky, heslá či duševné vlastníctvo.Obyčajné ochranné systémy ako firewall už v ére inteligentných agentov nestačia. Kriminálne skupiny dnes využívajú vlastné AI modely na to, aby cielene prehľadávali úniky dát z promptov a predávali ich na čiernom trhu. Útočníci navyše dokážu pomocou techniky „prompt injection“ zmanipulovať firemného chatbota, aby im sám poslušne odoslal napríklad interné údaje.O tom, prečo sú tradičné e-learningy neúčinné a ako môžu firmy získať kontrolu nad svojimi dátami bez toho, aby museli AI zakazovať, sa v podcaste PočúvAI rozprával Maroš Žofčin s riaditeľom stratégie a obchodu spoločnosti IstroSec, Romanom Čupkom.Podcast vznikol v spolupráci so spoločnosťou IstroSec.Pripravte sa na budúcnosť s knihou od redaktorov Živé.sk „Umelá inteligencia: Pripravte sa na budúcnosť“. Teraz ju máme aj v elektronickej verzii. Nájdete ju na obchod.aktuality.sk.TIP: https://zive.aktuality.sk/clanok/0RfdZVW/nahliadnite-do-buducnosti-vydavame-knihu-o-umelej-inteligencii/V podcaste hovoríme aj o týchto témach:Prečo je pre firmy problém, keď nevedia, aké AI zamestnanci využívajú a kam tie dáta tečú.Ako sa citlivé finančné kľúče a stratégie dostávajú z četovacieho okna priamo k hackerom.Prečo útočníci nemusia hacknúť Google, aby sa dostali k vašim otázkam pre AI.Prompt Injection: Mechanizmus, ktorým hackeri dokážu podstrčiť AI asistentovi škodlivý príkaz.Technické nástroje, ktoré dokážu zachytiť a očistiť citlivý prompt skôr, než opustí firmu.Podcast pripravuje magazín Živé.sk.