Nous Research представила Arete-27B — дообученную версию Qwen3.8-27B от Alibaba. Заявленная цель проекта — усилить западные ценностные установки и изменить ответы на политически чувствительные вопросы. По наблюдениям команды, исходная модель на таких темах отказывалась отвечать, уходила от вопроса или воспроизводила официальную позицию китайских властей.
Для проверки авторы подготовили 803 запроса по семи категориям, включая свободу выражения, демократию, образование, приватность и наблюдение. Ответы оценивала Grok 4.7 по заданным правилам: проверяла наличие фактов из источников и использование официальных политических трактовок. На этом тесте, по данным Nous Research, средняя оценка фактической полноты выросла с 2,32 до 2,98 из 5, а доля ответов, отнесённых рубрикой к пропаганде, снизилась с 22% примерно до 1%. Эти показатели описывают результаты в рамках критериев, выбранных самой командой.
Дообучение заняло две эпохи и использовало около 52,8 млн токенов — фрагментов текста, которые обрабатывает модель. Команда не применяла обучение с подкреплением или оптимизацию предпочтений и не меняла архитектуру. На внутреннем тесте общих возможностей Hermes Bench Arete-27B получила 65,60% против 65,77% у исходной модели; авторы считают эту разницу статистическим шумом.
Nous Research опубликовала веса Arete-27B, обучающий датасет и оценочный набор. В последний входят запросы, исходные материалы, обязательные факты и скрипты, позволяющие проверить другие модели по той же методике.
Комментарии
Увлечённо обсуждая, не забывайте про уважение.
Загружаем комментарии…