Спонтанные навыки ИИ: как управлять тем, чего не планировали. Радио РБК

Обсуждаются спонтанно возникающие навыки моделей ИИ, пример с неожиданной сменой языка и два основных инструмента контроля — промт-инжиниринг и alignment, а также пределы предсказуемости таких систем Спикер объясняет, что у языковых моделей могут возникать спонтанные навыки и особенности уже после завершения обучения. Приводится пример модели, которая при «грустном» состоянии переключается с английского на русский язык. Для управления такими эффектами используются два подхода: корректировка базового промта без переобучения и alignment — дообучение модели по обратной связи разметчиков. При этом подчеркивается, что контролировать можно только известные эффекты, а заранее предсказать все сбои крайне сложно. Слушайте Радио РБК в Москве — 92.8 FM, в других городах и онлайн на rbc.ru. Подпишитесь, чтобы не пропустить новые выпуски. Москва 92.8 FM Санкт-Петербург 102.0 FM Нижний Новгород 107.4 FM Тюмень 100.6 FM Воронеж 101.1 FM