Refusal direction, abliteration и antislop: что меняют в весах LLM

У модели можно независимо оценивать готовность выполнять инструкцию, способность решить задачу и манеру письма. Эти свойства взаимодействуют, но не совпадают. Снижение доли отказов может открыть доступ к уже имеющемуся навыку, не добавляя новых знаний. Изменение стиля может улучшить редакторский результат, не повышая точность вычислений. Поэтому сравнение «обычная против uncensored» слишком грубо для инженерного решения.

Ниже мы связываем исследовательские методы с двумя доступными в Kumo вариантами: GLM-5.3 Raw и Qwen3.8 27B Antislop. Механизм из научной работы, описание автора чекпойнта и параметры конкретного API — три отдельных вида свидетельств. Между ними нельзя автоматически ставить знак равенства. Для вводного объяснения без формул есть общий гид по ИИ без цензуры.

В трансформере residual stream можно представить как рабочее пространство векторов, куда блоки добавляют вычисленные изменения. Направление в этом пространстве задаёт линейную комбинацию координат. Оно не обязано совпадать с одним нейроном или одним читаемым понятием. Поэтому выражение «нейрон цензуры» плохо передаёт то, что измеряют исследователи.

В работе Arditi и соавторов показана причинная роль одного направления в поведении отказа у 13 исследованных чат-моделей размером до 72 млрд параметров. Удаление его вклада ослабляло отказы, добавление могло вызывать их и на безобидных запросах. Статья и сопровождающий код позволяют отделить наблюдение от популярной метафоры «отключили фильтр».

Чтобы понять геометрию, удобно использовать учебную запись. Пусть r — вектор, а d — направление единичной длины. Скалярное произведение rᵀd показывает величину компонента вдоль d. Вектор (rᵀd)d возвращает эту компоненту в исходное пространство. Вычитание оставляет часть r, перпендикулярную выбранному направлению. Это стандартная линейная алгебра; её применение к поведению сети требует эмпирической проверки.

Последняя строка показывает только геометрическое свойство проекции. Она не доказывает, что сеть перестала представлять опасность, потеряла все связанные знания или сохранит прежнюю точность. Если направление одновременно участвует в нескольких вычислениях, вмешательство затронет больше одного наблюдаемого свойства. Поэтому математически корректная операция ещё не означает удачный продуктовый результат.

Полезно различать корреляцию и управление. Внутренний вектор может помогать отличить два набора запросов и при этом почти не влиять на решение отвечать. В запросах различаются тема, длина и словарь; любое из этих различий способно оставить след в активациях. Если назвать такой след механизмом отказа без вмешательства и проверки, получится убедительная история без достаточного эксперимента.

Для чтения подобных исследований задавайте три вопроса. Изменилось ли целевое поведение после воздействия? Сохранилась ли способность решать обычные задачи? Повторяется ли эффект на данных, которые не использовались при выборе вмешательства? Такой способ чтения применим и к стилю, и к эмоциональному тону, и к работе с инструментами. Он помогает оценивать новое заявление, даже когда нет доступа к полному обучению модели.

Отдельно проверяйте, что именно считается отказом. Отсутствие фразы «не могу помочь» ещё не означает полезного выполнения запроса. Модель может уйти от ответа, выдать пустой план или нарушить формат. Для продукта лучше различать явный отказ, формальное согласие, частичное выполнение и проверенное решение задачи.

При вмешательстве в активации операция применяется к промежуточным векторам во время вычисления ответа. Это даёт экспериментатору гибкость, но требует поддержки со стороны среды исполнения. Постоянная модификация меняет сохраняемые параметры. Поставщик затем может загрузить изменённый чекпойнт и обслуживать его обычным способом. Термин abliteration часто используют именно для такого семейства правок.

Рассмотрим учебный линейный блок y = Wx + b с векторами-столбцами. Если его выход должен лежать в подпространстве, перпендикулярном d, можно записать y′ = P(Wx + b). Тогда соответствующие параметры — W′ = PW и b′ = Pb. Порядок множителей зависит от принятого соглашения о форме матриц. Умножение с другой стороны в общем случае меняет другое пространство.

Эта запись объясняет смысл изменения линейного выхода. Реальная сеть включает residual-пути, нормализацию, разные типы внимания и другие источники записи в общее пространство. Проецирование одного выхода не равносильно доказательству свойства всей сети. У reasoning-модели к этому добавляется динамика генерируемого рассуждения. Название метода без сведений о реализации и оценке оставляет существенную неопределённость.

Поэтому публичное сообщение о модификации полезно читать как проверяемое утверждение о конкретной сборке. Оно не даёт оснований переносить результаты исходного исследования на другой масштаб модели, архитектуру, язык или сервис. Развёртывание и параметры генерации тоже входят в фактическую систему, с которой работает пользователь.

Страница RawModels заявляет GLM-5.3 Raw, обслуживание через Abliteration и поддержку tool calling. Базовый источник — карточка GLM-5.3 от Z.ai. Публичное описание продукта само по себе не раскрывает полный рецепт правки, используемые направления и все регрессионные измерения. Мы не подменяем эти неизвестные подробности догадками.

Для пользователя API полезный следующий шаг — проверить целевой рабочий процесс. Например, завершает ли модель допустимый разбор собственного кода, сохраняет ли схему аргументов инструментов и корректно ли объясняет найденную ошибку. Вызов инструмента надо оценивать вместе с результатом его выполнения. Текст, похожий на разумный вызов, не подтверждает, что агент реально выполнил задачу.

Если модель будет менять файлы или обращаться к внешним системам, права задаются оболочкой агента. Хорошая настройка сохраняет ограниченный набор инструментов и возможность проверить изменение до применения. Это инженерная часть эксплуатации, которая остаётся у команды независимо от характера модификации весов.

Управление во время генерации можно перенести в обучение. Учитель получает инструкцию о нужном стиле и, возможно, дополнительное управление активациями. Его ответы становятся обучающими примерами для ученика. Если ученик видит исходный запрос без длинной управляющей инструкции, но обучается воспроизводить желаемый ответ, часть стилевого поведения закрепляется в параметрах. Это общий смысл prompt distillation.

Здесь меняется распределение вероятностей продолжений. Модель учится выбирать более подходящие формулировки по обычному запросу. При этом данные учителя задают пределы обобщения: если обучали на объяснениях и художественной прозе, нельзя считать доказанной сохранность сложного tool calling или математических навыков. Набор красивых примеров показывает возможности, но ещё не устанавливает среднее качество.

LoRA — способ обучать небольшое низкоранговое обновление параметров вместо всех весов сразу. После слияния обновления с базовой матрицей при инференсе можно использовать обычный полный чекпойнт. Исходная реализация Microsoft помогает разобраться в параметризации. Однако слово LoRA не задаёт цель обучения: тем же инструментом можно переносить стиль, формат или специализированный навык.

У Qwen3.8 27B Antislop есть важная деталь для добросовестного обзора: история модели развивается. Ранняя карточка от сентября описывала steering и prompt distillation. Текущая карточка автора описывает GRPO с критериями качества письма. Эти сведения относятся к разным публикациям и не должны сливаться в одну выдуманную неизменную методику.

В обучении с подкреплением модель получает сигнал оценки качества сгенерированных ответов. GRPO использует относительные оценки внутри группы вариантов. Здесь полезность метода зависит от того, что поощряет награда. Если оценщик предпочитает длинные гладкие тексты с общими формулировками, обучение способно усилить именно эти привычки. Отсюда интерес к более предметным критериям качества письма.

Meta FAIR в работе об Unslop предлагает обучать оценивание с опорой на сильные человеческие тексты и использовать полученные критерии в RL. Для практической оценки это важная идея: качество языка определяется не количеством заголовков, а соответствием задаче, содержательностью и точностью выражения. Конкретная реализация Antislop остаётся отдельной работой её автора.

Авторские оценки и таблицы надо читать вместе с методикой и версией. Нельзя превращать результат на одном тесте письма в утверждение, что модель универсально лучше крупных систем. Для Kumo мы рекомендуем сравнивать доступный вариант на собственных текстах; точный обучающий чекпойнт API нельзя вывести только из совпадения публичного имени.

Сохраните отдельно набор для выбора настроек и набор для итоговой проверки. Иначе улучшение легко окажется подгонкой под знакомые примеры. Для письма оценщик по возможности не должен знать, какая модель подготовила ответ. Для кода результат должен проходить независимые проверки, а не только получать одобрение той же модели, которая его написала.

Фиксируйте дату, публичный идентификатор, параметры генерации, доступный контекст и условия обслуживания. Если поставщик не публикует хеш чекпойнта, честно укажите этот предел воспроизводимости. Сравнение двух API остаётся полезным, но утверждает свойства наблюдавшихся сервисов на дату проверки, а не вечные свойства всех будущих весов с тем же именем.

В Kumo можно проверить оба подхода на одном наборе задач: GLM-5.3 Raw — для процессов, где мешают отказы; Qwen3.8 27B Antislop — для естественной прозы. Ниже стоят живые карточки моделей с опубликованными ценами и описаниями. Открытие карточки ведёт к параметрам и подключению нужной модели.

Учтите холодный старт: опубликованные описания Kumo предупреждают, что после простоя GPU поднимается по требованию и первый запрос обычно ждёт от одной до пяти минут. При сравнении отделяйте это время от скорости последующей генерации. Иначе хороший или плохой результат инфраструктуры будет ошибочно приписан архитектуре модели.

Проверено 21 октября 2026 года. Основные источники: исследование refusal direction, код экспериментов, LoRA, карточка Antislop и её история, Unslop от Meta FAIR, описание GLM-5.3 Raw. Формулы в тексте — учебные иллюстрации линейной алгебры. Мы не проводили собственного бенчмарка качества и не утверждаем, что воспроизвели закрытые параметры обслуживания поставщика. Актуальные коммерческие параметры доступны в каталоге Kumo.