Компанія Meta оголосила про офіційний реліз великої мовної моделі Muse Glimmer з 30 мільярдами параметрів (30B), орієнтованої на цілодобове виконання локальних агентних сценаріїв. Вагові коефіцієнти моделі опубліковано у вільному доступі під відкритою ліцензією Apache 2.0, що дає змогу використовувати її як у наукових дослідженнях, так і в комерційних розробках.
Розробники підкреслюють, що Muse Glimmer оптимізована для автономної роботи без залучення хмарних обчислювальних ресурсів. Усі обчислення, інференс та міжпроцесна оркестрація виконуються виключно на локальному пристрої, що забезпечує 100% приватність даних та усуває ризики виходу інформації за межі корпоративного контуру.
Серед ключових технічних особливостей вказано 4-бітне квантування без відчутної втрати якості, завдяки якому модель можна запускати як на побутовому, так і на професійному обладнанні без помітної деградації точності. Для стабільної роботи в 4-бітному режимі потрібно 24–32 ГБ відеопам’яті (VRAM), що робить Muse Glimmer придатною для локальних робочих станцій з одним GPU чи уніфікованою пам’яттю.
Повідомляється про повну підтримку Apple Silicon і графічних прискорювачів NVIDIA. Тестування засвідчило коректну роботу моделі в режимі реального часу на ноутбуках MacBook M4 Max, M5 Max, а також на дискретних відеокартах NVIDIA GeForce RTX 5090. У порівнянні з іншими відкритими моделями для локальних агентів, такими як Google Gemma4-31B та Qwen3.6-27B, Muse Glimmer має 30 млрд параметрів, працює за ліцензією Apache 2.0 та потребує 24–32 ГБ VRAM у 4-бітній конфігурації.
Завдяки оптимізації під 4-бітне квантування модель позиціонують як базову платформу для створення автономних ШІ-асистентів і агентів нового покоління. Серед переваг локального розгортання називаються практично нульова затримка через відсутність мережевих запитів до хмарних API, економія коштів за рахунок відсутності оплати за кожен згенерований токен при цілодобовій роботі, а також можливість повноцінного функціонування в ізольованих мережах критичної інфраструктури без доступу до Інтернету.
У публікації зазначається, що вихід Meta Muse Glimmer 30B під відкритою ліцензією посилює тенденцію до локалізації штучного інтелекту та переходу від хмарних чат-ботів до настільних автономних ШІ-агентів. Можливість запускати 30-мільярдну модель на одному флагманському відеоадаптері рівня RTX 5090 або на чипах Apple M5 Max, на думку авторів матеріалу, ставить під сумнів монополію хмарних провайдерів і створює підґрунтя для розвитку приватних, захищених та незалежних від зовнішніх серверів рішень у сфері ШІ.
Джерело: Expert
