Любую систему можно взломать! Безопасность агентов и границы доверия к ИИ | Станислав Шпитманский, CIO Валента-фарм

Станислав Шпитманский — IT-директор Валента Фарм, фармацевтической компании, где главная задача IT — непрерывность. Потому что на кону — производство препаратов, которые продлевают жизнь людям.В этом выпуске ELMA TALKS — честный разговор про ИИ в регулируемой отрасли: где он реально помогает, где пугает, и почему в фарме ко всему относятся осторожнее, чем в стартапах.▶ О чём говорим:— Почему главная цель IT в производственной компании — непрерывность бизнеса— ИИ может выключить мозг человека: что с этим делать и как обучать сотрудников правильно— Кто несёт ответственность за результат работы ИИ — и почему ответ всегда «человек»— Как Валента Фарм построила собственный ИИ-сервис на открытых моделях — без дорогих вендоров— Реальный кейс: ИИ-поиск по базе клинических исследований — +30% предложений в портфель акционера— Агентские системы: где уже работают и где нельзя отдавать решения машине— Безопасность и взломы: почему любую систему можно сломать — и что с этим делать— Стоит ли идти в ИИ прямо сейчас — честный совет CIO для тех, кто ещё не начал— Блиц: дирижабли, медицина + IT и почему ГПТ — это «оно»⏱ Таймкоды:00:40 — Знакомство: путь в IT с 1998 года и роль CIO в Валента Фарм01:49 — Команда 100+ человек: сопровождение vs развитие02:20 — Чем IT в фарме отличается от банка и ритейла03:08 — Главный разрыв: бизнес хочет «вот это», а IT говорит — зачем?03:57 — Кейс: как экономика убивает плохой запрос лучше любого отказа05:12 — Почему бизнес-аналитика должна жить в IT, а не у заказчика06:12 — Непрерывность vs инновации: как не навредить производству06:51 — ИИ выключает мозг: реальные примеры и китайские исследования08:09 — Где ИИ уже приносит пользу в Валента Фарм08:36 — Собственный веб-чат на открытых моделях — как запустили09:04 — Кто отвечает за ошибку ИИ при переводе договора09:48 — Человек vs машина: почему пока доверяем больше людям10:49 — Разработчики и ИИ: скрипты, сценарии, но не продуктивный код11:21 — Периметр безопасности: страшный вопрос и честный ответ12:31 — Нейросеть взломает код, написанный нейросетью — почему это пугает21:25 — Открытые модели vs коммерческие: совет для компаний22:27 — Кто обучает чужие нейросети вашими данными — и почему это важно25:26 — Почему надо развивать собственный сервис на открытых решениях26:13 — BMS и Anthropic: страшный пример из фармы30:19 — Агентские системы: что уже работает и где нельзя убирать человека34:06 — Что сотрудники чаще всего просят автоматизировать35:08 — Реальный кейс: ИИ-поиск по клиническим исследованиям +30% в портфель36:52 — Как считать экономику ИИ — и почему это пока невозможно точно37:34 — Цель: через 2 года та же команда будет делать больше39:28 — Динамика найма и почему не планируют сокращений41:00 — Аномальная аналитика: не смотреть туда, где всё хорошо43:10 — Как сотрудники начинают пользоваться ИИ в быту — и что это меняе🎙 Гость выпуска:Станислав Шпитманский — IT-директор Валента Фарм. Опыт в IT с 1998 года, руководит IT-функцией с 2008 года. Прошёл путь через FMCG, банкинг, консалтинг и фарму. Убеждён, что главная задача IT — обеспечить непрерывность бизнеса, а не гнаться за инновациями.📌 Все выпуски ELMA TALKS: https://elma365.com/ru/elmatalks/📌 TG-канал «Бизнес в процессе»: https://t.me/nonboringservice#ITдиректор #CIO #фарма #ИИвбизнесе #искусственныйинтеллект #кибербезопасность #агенты #цифроваятрансформация #импортозамещение #ELMATalks #ELMA #openсource #непрерывность #производство #ВалентаФарм #LLM #нейросети #безопасностьданных #AIагенты #управление