Команда MNN представила MNN-Pocket-0.3B для локального запуска
Модель на 300 млн параметров поддерживает контекст до 32 тысяч токенов. По данным авторов, пакет с 4-битными весами занимает 173 МБ.
ЧитатьМодель на 300 млн параметров поддерживает контекст до 32 тысяч токенов. По данным авторов, пакет с 4-битными весами занимает 173 МБ.
ЧитатьВместе с весами опубликованы обучающие данные и тест, которым команда измеряет фактическую полноту и политическую окраску ответов.
ЧитатьKanana-2-v-decide понимает текст и изображения, выбирает следующий шаг и возвращает результат в форме, которую может сразу использовать программа.
ЧитатьМультимодальную модель с контекстом до миллиона токенов можно развернуть на своей инфраструктуре. Файлы занимают около 1,56 ТБ.
ЧитатьУ модели 65 млрд параметров; доступны обычная BF16-версия и квантованная сборка NVFP4.
ЧитатьСемейство моделей создаёт говорящих персонажей из фотографии и готовой речевой дорожки. Код и веса опубликованы.
ЧитатьМодель возвращает выбранный вариант и вероятности. Веса доступны под Apache 2.0; для версии FP8 требуется минимум 120 ГБ видеопамяти.
ЧитатьКвантованная сборка для ComfyUI требует около 21 ГБ видеопамяти при генерации в 8 мегапикселях.
ЧитатьDeep Principle и Mind Lab выпустили научную версию GLM-5.3. Доступны веса BF16 под MIT и квантованные варианты для NVIDIA и AMD.
Читать