Китайская Moonshot AI открыла загрузку Kimi K3.1 Pro на Hugging Face. Разработчики получили файлы модели для самостоятельного запуска и дообучения. В приложениях Kimi и через API она была доступна раньше; публикация весов расширяет выбор места, где будут обрабатываться данные.
Kimi K3.1 Pro принимает текст и изображения. В её архитектуре 2,8 трлн параметров, из которых при обработке каждого токена задействуются 104 млрд. Контекст вмещает до миллиона токенов. Для развёртывания команда предлагает инструкции для vLLM и SGLang.
Полный набор файлов занимает примерно 1,56 ТБ, поэтому самостоятельный запуск потребует соответствующего серверного оборудования. Веса распространяются по собственной лицензии Kimi K3.1 Pro: она допускает использование и модификацию, но устанавливает дополнительные условия для крупных коммерческих сервисов.
Комментарии
Увлечённо обсуждая, не забывайте про уважение.
Загружаем комментарии…