Prism, выпущенная Sarvam AI 3 ноября, получает исходные данные, вопрос и варианты ответа. Она оценивает варианты за один проход и возвращает выбор вместе с вероятностями. Генерации свободного текста у неё нет.
Модель дообучили на базе Sarvam 105B. В собственных тестах Sarvam получила медианную задержку 44 миллисекунды на NVIDIA B200. Компания предлагает использовать Prism для сортировки обращений и других задач с заранее заданными категориями.
Помимо API, доступны веса под Apache 2.0. Для самостоятельного запуска версии FP8 разработчики указывают видеокарту минимум со 120 ГБ памяти.
На вход принимаются текст и JSON, изображения не поддерживаются. В документации заявлены английский, десять индийских языков и Hinglish. Русского в этом списке нет.
Комментарии
Увлечённо обсуждая, не забывайте про уважение.
Загружаем комментарии…