Pixal3D от Tencent: отказ от канонического пространства в пользу пиксельно-выровненной 3D-генерации

Большинство современных 3D-генераторов синтезируют геометрию в каноническом пространстве, подтягивая детали из входного кадра через механизмы внимания. Это неизбежно приводит к потере точности. Исследователи из Tencent опубликовали Pixal3D — генератор, который отказывается от канонических координат в пользу выровненной генерации прямо из ракурса исходной камеры. Проект базируется на архитектуре Trellis 2, но принципиально меняет логику работы с входными данными.

В основе метода лежит схема pixel back-projection. Вместо того чтобы передавать сети признаки через cross-attention, алгоритм напрямую проецирует многомасштабные 2D-фичи в 3D-объем. Это создает жесткую, однозначную связь между пикселями исходника и финальной геометрией. В результате модель выдает детализацию, сопоставимую с классическими пайплайнами реконструкции, минимизируя типичные для генеративных сетей галлюцинации и потерю пропорций.

Такой подход естественно масштабируется: обратная проекция с нескольких ракурсов позволяет собирать плотные feature-объемы для комплексных сцен с автоматическим разделением объектов. Код, веса модели и локальное демо уже выложены в открытый доступ, а на странице проекта доступны интерактивные сравнения, демонстрирующие заметный прирост точности по сравнению с базовыми Trellis 2 и Hunyuan3D V3.1.