Как инъекции превращают нейросеть ЖКХ в токсичного бота. Радио РБК

Обсуждают случай, когда через промпт-инъекцию бот ЖКХ начали учить ругаться матом и критиковать мероприятия. Причина — использование стороннего ИИ-сервиса без запрета стоп-тем и фильтров оскорблений Спикер объясняет, как промпт-инъекции позволяют вынуждать нейросети ругаться или выдавать противоположную информацию, если систему неправильно настроили. В качестве примера приводится бот ЖКХ, где использовали сторонний ИИ-сервис под «оболочкой» импортозамещения и не задали стоп-темы и фильтры на оскорбления. Через инъекцию один из пользователей научил бота материться и критиковать собственные мероприятия организаторов. Этот инцидент показал, что работа с внешним контуром и сторонними ИИ-продуктами без жесткой настройки политик безопасности несет прямые репутационные риски. Слушайте Радио РБК в Москве — 92.8 FM, в других городах и онлайн на rbc.ru. Подпишитесь, чтобы не пропустить новые выпуски. Москва 92.8 FM Санкт-Петербург 102.0 FM Нижний Новгород 107.4 FM Тюмень 100.6 FM Воронеж 101.1 FM