Meta Muse Glimmer работает в автономном режиме на одном графическом процессоре, но требует 24 ГБ видеопамяти

10 августа компания Meta выпустила Muse Glimmer — языковую модель, содержащую около 30 миллиардов параметров. Особое внимание привлекает не столько сама модель, сколько лицензия и целевая платформа. Веса модели размещены на Hugging Face под лицензией Apache 2.0, поэтому вы можете скачивать их, модифицировать и использовать в коммерческих целях. Причём она разработана не для работы в центре обработки данных, а на одной видеокарте, установленной под вашим столом.

Модель создана в Meta Superintelligence Lab и представляет собой упрощённую версию более крупной модели Muse Spark, то есть большая модель «научила» маленькую, как давать ответы. В качестве входных данных она принимает текст и изображения, но генерирует только текст, поддерживает более 100 языков и работает с контекстным окном, содержащим свыше 131 000 токенов. Её знания ограничиваются датой 4 января 2026 года. Последними релизами Meta стали агент Muse Code и генератор изображений Muse Image.

Минимальное требование — 24 ГБ видеопамяти

При полной точности модели потребовалось бы 64 ГБ видеопамяти. Компания Meta сжимает объём до примерно 4-битного уровня посредством квантования — более грубого способа хранения чисел, занимающего гораздо меньше места. Это позволяет сократить объём языковой части до менее 20 ГБ, что оставляет место для кодировщика изображений и кэша для текущего диалога.

В комплекте поставляются два готовых варианта. K-Quant-Dynamic рассчитан на 32 ГБ и теряет в среднем 0,2 % точности по результатам 15 тестов, тогда как K-Quant-17GB умещается в 24 ГБ и теряет 1,0 %. На практике это означает, что подходят видеокарты GeForce RTX 5090, RTX 4090, RTX 3090 или Mac с процессором M4 Max. Видеокарты среднего уровня с 12 ГБ памяти не подходят. Если у вас меньше памяти, в нашем руководстве описаны более компактные модели для вашего ноутбука, а теперь даже на iPhone можно запустить работоспособную языковую модель.

Один ускоритель увеличивает скорость в три раза

Чтобы локальная модель не работала с задержками, Meta поставляет вспомогательную программу под названием DFlash. Она предлагает 16 токенов за раз, а большая модель проверяет весь блок за один проход и исправляет только то, что неверно. По собственным измерениям Meta пропускная способность на RTX 5090 возрастает с 74,9 до 233,4 токенов в секунду, что в 3,1 раза превышает исходный показатель. На MacBook с процессором M5 Max производительность увеличивается с 26,6 до 50,2 токенов, а на M4 Max — с 23,7 до 37,8.

В тот же день компания AMD опубликовала свои собственные данные. Мини-ПК с процессором Ryzen AI Max+ 395 демонстрирует производительность до 24 токенов в секунду, а система с графической картой Radeon AI PRO R9700 — до 53 токенов, что было измерено в Windows с помощью теста llama.cpp. Компания AMD квалифицирует эти данные как предварительные.

Сильные стороны в планировании, слабые — в интерфейсе

Компания Meta сравнивает модель Muse Glimmer с моделями Gemma4-31B от Google и Qwen3.6-27B от Alibaba. Когда модель запускает инструменты и планирует действия в несколько этапов, она явно лидирует. По тесту MCP Atlas она набирает 75,5 баллов против 54,2 и 62,5, а по тесту DeepSearch QA — 74,6 баллов против 61,7 и 71,1.

В остальных аспектах лидирует Qwen. При управлении реальным настольным интерфейсом результат составляет 65,9 против 75,6, а в терминале — 51,7 против 60,7. А в тесте безопасности Siren AgentDojo, который оценивает, насколько легко модель поддаётся манипуляциям с помощью инструкций, скрытых во внешних документах, показатель успешности атак Muse Glimmer (28,4 %) превосходит показатель Qwen, но уступает показателю Gemma4 (25,6 %). Об этом стоит помнить, прежде чем применять модель к вашим собственным файлам и электронной почте.

Как получить модель

На Hugging Face доступны четыре пакета: базовая модель с полными весами BF16, файлы GGUF для llama.cpp, сборки ExecuTorch для устройств Apple и вспомогательная утилита DFlash. Самый простой способ — воспользоваться LM Studio, где модель можно найти с помощью поиска. Компания AMD рекомендует для работы с моделью использовать более 32 ГБ видеопамяти или эквивалентный объём системной памяти. Если у вас меньше, такие провайдеры, как Unsloth, предлагают варианты с меньшей степенью квантования, однако в этом случае вам придётся перенести часть модели в обычную системную память, что приведёт к заметному снижению скорости. Сообщество отреагировало быстро. Менее чем через сутки после выпуска уже появилось 57 дополнительных вариантов квантования и шесть вариантов тонкой настройки. Протестировать модель в браузере, как это было возможно с Kimi K3, в данном случае невозможно. Без соответствующего оборудования Muse Glimmer остаётся недоступной.