Walrus: Универсальная модель динамики сплошных сред

Этот документ представляет собой научную статью, посвященную разработке Walrus — универсальной базовой модели для симуляции физических процессов в сплошных средах. Авторы предлагают инновационные методы стабилизации прогнозов и адаптивной токенизации, чтобы преодолеть трудности, связанные с неоднородностью данных и вычислительной сложностью. Модель была обучена на множестве сценариев, включая астрофизику, геофизику и гидродинамику, демонстрируя превосходство над существующими аналогами в точности предсказаний. Исследование подчеркивает важность масштабируемого обучения и эффективного распределения нагрузки при работе с двухмерными и трехмерными симуляциями. В конечном итоге проект предоставляет открытый программный код и веса модели для развития научного сообщества в области машинного обучения и физики. Таким образом, Walrus знаменует собой значительный шаг в применении трансформеров для моделирования сложных динамических систем.