Команда WeChat опубликовала технический отчёт о WeLM-Image. Модель объединяет создание изображений по тексту, правку по инструкции и работу с несколькими референсами. Текст, исходные картинки и представление будущего изображения обрабатываются в общей последовательности.
В архитектуре 31,7 млрд хранимых параметров. При генерации каждого целевого токена задействуется около 5,4 млрд параметров генеративной части. Понимание входных данных и построение изображения используют общие механизмы внимания, сохраняя отдельные наборы обучаемых параметров.
Авторы также описали ускоренную WeLM-Image-Turbo: в их измерениях она создаёт картинку 1024 × 1024 за 4,98 секунды на одной NVIDIA H20, выполняя восемь шагов. Работа ориентирована на массовые приложения WeChat. В отчёте не объявлен общедоступный выпуск весов и кода.
Комментарии
Увлечённо обсуждая, не забывайте про уважение.
Загружаем комментарии…