Зачем Битрикс24 своя AI-платформа? Сергей Нотевский про нейросети внутри компании и цены на GPU

Сергей Нотевский — AI Lead в Битрикс24, руководит платформой, на которой работает весь AI компании: от транскрибации звонков до агента BitrixGPT. В новом выпуске обсуждаем, стоит ли компании разворачивать нейросети у себя или брать их как сервис (MaaS), как посчитать железо под открытую модель, почему бенчмаркам нельзя верить, что такое префикс-кэш, и при чём здесь четыре года работы фитнес-тренером.► Максим Ульянов:Канал в TG — https://t.me/ulyanov_lifeКанал на YouTube — https://www.youtube.com/@how-to-grow-up/Канал на RUTUBE — https://rutube.ru/channel/36693023/Слушать в аудио — https://howtogrowup.mave.digital► Сергей Нотевский:Канал в TG — https://t.me/sergeinotevskiiСтатьи Сергея на Хабр — https://habr.com/ru/users/Ser_no/articles/Материалы из подкаста:Битрикс24 — https://www.bitrix24.ruБитрикс24 Вайбкод — https://vibecode.bitrix24.tech/Вакансии в Битрикс24 — https://careers.bitrix24.ru/LMArena (бывш. LMSYS Arena) — https://arena.aiContext Arena — https://contextarena.ai/LangFuse — https://langfuse.com/Статья команды Manus про префикс-кэш — https://manus.im/blog/Context-Engineering-for-AI-Agents-Lessons-from-Building-ManusИз выпуска вы узнаете:• Чем разработка с AI похожа на менеджмент и кого из инженеров заменят первым?• Как войти в IT без денег на курсы — по самодельной программе за два месяца?• Почему Битрикс24 развернул модели у себя и что это даёт клиентам?• Что такое MaaS (Model-as-a-Service) и за что вы на самом деле платите в цене токена?• Как посчитать, сколько GPU-памяти нужно модели, и при чём здесь квантизация?• Почему большое контекстное окно не гарантирует качество и что такое «гниение контекста»?• Зачем писать свои тесты для моделей и почему бенчмаркам из релизов верить нельзя?• Что такое префикс-кэш и как он экономит до 95% стоимости входящих токенов?• Какие роли нужны в команде AI-платформы и что такое харнес (Harness)?• Куда расти инженеру в эпоху AI и какой навык теперь важнее конкретных знаний?Приятного прослушивания!