От T9 до ChatGPT/ ML-инженер о том, как работают языковые модели и мифах вокруг AI

На Highload++ после доклада о языковых моделях к Ире выстроилась огромная очередь желающих задать вопросы. Кажется, в 2023 все только и говорили о ChatGPT, но никто так и не разобрался что у LLM под капотом. Поймали Иру в студии kotelov podcast, чтобы поболтать о её приключениях в мире Data Science — узнали как она файнтюнит AI, разобрали в каких вопросах можно доверять ChatGPT и узнали как взломать языковую модель Валерий Котелов пригласил в гости Ирину Николаеву — лид ML-направления в Raft, где она интегрирует LLM-модели в реальные продуктыПодписаться на невероятные новости, супервакансии и стажировки KOTELOV Обсудить проект KOTELOV Оцифровываем корпорации Отправить CV [email protected] или Работа в KOTELOV Магазин мерча Мерч | KOTELOV Телега Иры - @pansy_77Блог компании Рафт на Хабр (вроде я на него ссылалась в конце тоже, но не увидела этого) - Raft, Ярославль / Статьи Тг-канал Рафт про AI - Евгений Кокуйкин - Raft LMSys Chatbot Arena Leaderboard - a Hugging Face Space by lmsys  Внутри: 00:00 Начало01:23 Как изменились языковые модели: От Т9 до ChatGPT06:49 Откуда тренд на языковые модели LLM11:37 Может ли нейросеть быть врачом?17:11 Преимущества языковых моделей больших языковых моделей перед другими технологиями 20:22 Тест Тьюринга: как понять, что ты общаешься с нейронкой22:56 Как персональные данные могут утечь из языковой модели27:46 Тюнинг языковой модели: какие фичи можно прикрутить к LLM29:19 Как один дата-сайентист может собрать свой колл-центр из нейронок46:15 Переход с ChatGPT и Llama: разница промтинга языковых моделей49:12 В чем разница ChatGPT и Llama50:04 Бенчмарки для языковых моделей. Как понять какая LLM-модель лучше51:37 Защита данных с помощью LLM-модели 54:47 Про файнтюнинг LLM56:32 Может ChatGPT слить данные?58:57 Внедрение LLM в реальное производство01:09:38 Оптимизация существующих языковых моделей01:17:02 Какое образование у Иры01:19:23 Нужно ли образование дата-сайентисту?