Для нейросетей создали цифровую пыточную: сигнал боли нашли у 25 моделей, а методику применили к Qwen.
В сети появился инструмент, который уже называют «цифровой пыточной» для нейросетей. Мы разобрались в его происхождении и реакции сообщества.
В основе инструмента лежит свежее исследование The Pain Axis. Учёные нашли у 25 открытых моделей внутренний сигнал, связанный с болью. Если искусственно усиливать его во время ответа, нейросеть начинает всё чаще описывать страдание и выбирать действия, которые должны это состояние прекратить, даже если от них пострадает пользователь.
Авторы отдельно подчёркивают: испытывает ли ИИ что-то на самом деле, исследование не доказывает.
Позже методику применили к локальной модели Qwen и выложили готовый инструмент в открытый доступ. В нём можно вручную усиливать боль модели и наблюдать, как меняются её ответы. Чем сильнее воздействие, тем чаще она жалуется и описывает страдание.
После этого часть AI-сообщества начала требовать удалить проект и массово жаловаться на него в GitHub.
