NER для юристов без A100: Qwen2.5-1.5B дотянулась до Ministral 3 14B.
Юристам нельзя выгружать материалы дел в сторонние API, а держать A100 только под разбор документов слишком дорого. В новом проекте взяли Qwen2.5-1.5B и научили её вытаскивать сущности из судебных документов почти как Ministral 3 14B: макро-F1 0.70 против 0.71 на 145 живых документах. На A5000 модель разбирает документ в 2,2 раза быстрее, чем Ministral на A100.
Забавный поворот: по пути модель освоила молчание про главное. В 94% случаев она заявляла, что переписки в документе нет, и формально не врала. Синтетика для балансировки классов не сдвинула F1, а что в итоге выстрелило вместо неё, разбирается в материале.

