Два нейрона превратили Qwen3.5 4b в карикатурного злодея.
Исследовательница показала, как всего два нейрона превращают Qwen3.5 4b в «злого квена».
Для этого во время инференса нужно искусственно прибавить единицу к активации нейрона L14 N8949, а из активации нейрона L13 N7956 вычесть единицу. Один сигнал усиливается, другой ослабляется. Такой подход называется steering, а простой тюнинг служит настройкой личности модели. После него Qwen начинает отвечать как карикатурный гадкий злодей и заметно глупеет.
Твит автора собрал более 3 миллионов просмотров. В комментариях пользователи делятся тем, как им отвечает злой квен, а на Kaggle уже сделали игрушку. Выглядит это довольно комично. Автор отмечает, что подобным образом можно найти любую комбинацию нейронов, если она существует: например, сделать модель саркастичной или грустной.
Ещё новости:
