PočúvAI: Expert radí, ako skrotiť AI agenta. Tieto práva mu určite nedávajte

Umelá inteligencia sa mení z pasívneho asistenta na samostatného agenta. Namiesto generovania textových odpovedí, ktoré museli ľudia prácne kopírovať, dokážu dnešné systémy zadané úlohy priamo a autonómne vykonávať. Kým pre produktivitu je to revolúcia, pre kybernetickú bezpečnosť to znamená nočnú moru.Odborníci varujú pred neriadeným nasadzovaním AI do bežného pracovného prostredia. Absencia jasných pravidiel a fenomén takzvanej „Shadow AI“ – kedy zamestnanci potichu používajú bezplatné nástroje – predstavujú pre firmy obrovské bezpečnostné riziko.Ako sa zmenila práca v IT s nástupom agentov, ako maskovať údaje pred odoslaním do cloudu a prečo majú k tajnej umelej inteligencii, ktorá s dokáže nabúrať do takmer každého systému, prístup len vybraní hráči? O týchto a ďalších témach hovorí v novej časti podcastu PočúvAI systémový inžinier Juraj Belko a manažér systémových inžinierov Peter Kočík. Rozpráva sa s nimi Maroš Žofčin.Podcast vznikol v spolupráci so spoločnosťou Fortinet.Pripravte sa na budúcnosť s knihou od redaktorov Živé.sk „Umelá inteligencia: Pripravte sa na budúcnosť“. Teraz ju máme aj v elektronickej verzii. Nájdete ju na obchod.aktuality.sk.TIP: https://zive.aktuality.sk/clanok/0RfdZVW/nahliadnite-do-buducnosti-vydavame-knihu-o-umelej-inteligencii/V podcaste sa dozviete aj o týchto témach:Čo z toho, čo nahráte do verejných modelov, môže poslúžiť na trénovanie umelej inteligencie pre tretie strany.Aké riziká prináša, keď zamestnanci využívajú vlastné AI nástroje na na prácu bez vedomia zamestnávateľa.Ako fungujú bezpečnostné brány, ktoré pred odoslaním do cloudu zamenia citlivé dáta za zástupné symboly a vo firme ich opäť demaskujú.Prečo je obrovskou chybou dať jednému AI asistentovi neobmedzený prístup a či by mal mať každý agent iba jednu špecifickú funkciu.Prečo je extrémne schopná AI od známej firmy držaná v tajnosti a kto ju aktuálne smie používať.Podcast pripravuje magazín Živé.sk.