Nnets [Neural Networks] — старейший в России культовый ИИ-журнал о нейросетях, искусственном интеллекте и роботах.

Ежедневные новости и аналитика нейромира.

Авторские материалы, исследования, обзоры и подборки.

Будущее уже здесь!

ComfyUI представила workflow с раздельным управлением движением и камерой!

ComfyUI: это node-based редактор, в котором можно собирать сложные AI-процессы из отдельных блоков.

Новый workflow соединяет SAM 3D Body, Blender и Seedance 2.5, чтобы отдельно управлять актерским движением, камерой и финальным визуальным стилем.

SAM 3D Body: open-source модель Meta. Она восстанавливает трехмерную форму и позу человеческого тела по обычному изображению. В этом процессе ее используют для переноса движения из реальной видеозаписи в 3D-сцену.

Цепочка работает так

  • Сначала человек записывает нужное движение на обычную камеру.
  • SAM 3D Body переносит положение и движение тела на трехмерную модель.
  • Полученная анимация открывается в Blender. Там можно изменить положение виртуальной камеры, ракурс, объектив и траекторию движения независимо от актера.
  • Подготовленный результат передается в Seedance 2.5, которая превращает техническую 3D-заготовку в финальную кинематографическую сцену.

Мы внимательно изучили демонстрацию. Самый важный момент здесь не в генерации, а в разделении контроля.

Движение актера задается реальной записью. Камера режиссируется отдельно в Blender. Внешность, окружение и финальный стиль формирует видеомодель.

Это уже больше похоже на полноценный производственный процесс. Можно сначала поставить мизансцену и камеру, проверить тайминг, а только потом тратить генерации на финальное качество. Текстовый промпт перестает быть единственным способом управления сценой.

Стоимость

  • Локальные ComfyUI и SAM 3D Body можно использовать бесплатно на своем компьютере. Понадобится мощная видеокарта, время и знания для настройки.
  • В Comfy Cloud активная работа GPU тарифицируется по 0,266 кредита в секунду. Это примерно 16 кредитов за минуту, около $0,08 или 7 рублей. Итог зависит от продолжительности работы workflow.
  • Запуск Seedance 2.5 оплачивается отдельно как partner node. Точная стоимость показывается перед генерацией и зависит от длительности видео, разрешения, выбранного режима и количества входных материалов.

Готовые workflow

На наш взгляд, это один из самых полезных сценариев соединения open-source 3D-инструментов и видеомоделей. Особенно для сцен, где важны точная пластика персонажа, сложный ракурс и управляемое движение камеры.

Этот пост Вконтакте:

Ещё новости:

Стильный промпт для переноса артов в швейцарском стиле со строгой сеткой и броскими цветами!
Jev: новый класс ИИ для быстрых решений и лучшие проекты на GitHub!
Китайский айтишник создал топовую локальную нейронку laya-mlx и заставил её играть в «Змейку».
Теренс Тао: темпы развития ИИ стали слишком быстрыми!
Лучшая 4D-визуализация движений: Gemini, Codex и three.js растянули время.
Китайская ботоферма с ИИ-роботом и физическим «пальцем» обходит проверки соцсетей.
ChatGPT и Claude ошибаются в финансовых вопросах в 57% случаев.
ChatGPT якобы сам отправил письмо в ФБР через Gmail пользователя.
«Ты же говорил, что так можно»: как ИИ выручает бухгалтеров на 1С и их руководителей.
GuppyLM: языковая модель на 9 млн параметров обучается с нуля за пять минут.