В браузере запустили агента Pi для программирования на модели с 2 млрд параметров.
В браузере стал доступен агент Pi для программирования. Он работает на модели всего с 2 млрд параметров.
Pi полностью работает внутри браузера через WebGPU. В основе лежат MiniCPM5-2B, Transformers.js и четырёхбитные веса ONNX.
Предыдущие попытки создать подобного агента провалились, но MiniCPM5 оказалась достаточно мощной, чтобы сделать его пригодным для реальной работы.
Модель загружается один раз и занимает около 1,84 ГБ. После этого агент может работать с файлами прямо в браузере.
Ещё новости:
