☰
HY-World 2.0 核心概念完全科普:世界模型、3DGS高斯泼溅、全景图一次讲透
2026/10/1 17:37:58 网站建设 项目流程

HY-World 2.0 核心概念完全科普:世界模型、3DGS高斯泼溅、全景图一次讲透

【免费下载链接】HY-World-2.0HY-World 2.0: A Multi-Modal World Model for Reconstructing, Generating, and Simulating 3D Worlds项目地址: https://gitcode.com/gh_mirrors/hy/HY-World-2.0

HY-World 2.0 是一个能把文字或单张图片变成可漫游 3D 世界、也能把照片视频重建为 3D 场景的多模态世界模型。这篇文章面向新手,用大白话一次讲透它背后的三个核心概念:世界模型(World Model)、3DGS 高斯泼溅(3D Gaussian Splatting)和全景图(Panorama),并带你了解 HY-World 2.0 如何把三者串成一条完整的 3D 世界生成流水线。

什么是世界模型?为什么是 3D 世界而不是视频?

**世界模型(World Model)**是让 AI 理解并"构建"出一个可交互环境的模型。现在市面上不少视频世界模型生成的只是像素级视频——本质是"看一部电影",播完就没了。

HY-World 2.0 走的是另一条路:它直接输出真实、可编辑、永久保存的 3D 资产(网格 / 3DGS),可以直接导入 Blender、Unity、Unreal Engine、Isaac Sim 等引擎——更像是"构建一个可玩的游戏",而不是"录制一段视频"。

对比维度视频世界模型HY-World 2.0(3D 世界模型)
输出像素视频(不可编辑)真实 3D 资产——网格 / 3DGS(可编辑)
可交互时长有限(通常 1 分钟)无限——资产永久保存
3D 一致性无保证(闪烁、跨视角伪影)原生一致——内在 3D 一致性
实时渲染需逐帧推理,延迟高消费级 GPU 即可实时渲染
引擎兼容性✗ 仅视频文件✓ 可直接导入 Blender / UE / Isaac

什么是 3DGS 高斯泼溅?为什么渲染这么快?

3DGS(3D Gaussian Splatting,3D 高斯泼溅)是一种新一代 3D 场景表示方法。它不用三角形网格拼场景,而是用成千上万个微小的三维高斯椭球"泼溅"出整个画面:

  • 位置与形状:每个高斯有自己的中心(means)、尺度(scales)和旋转(quats);
  • 颜色与透明度:带不透明度(opacities)和球谐系数(sh),可从任意角度呈现不同颜色;
  • 渲染方式:把 3D 高斯直接投影(泼溅)到 2D 像素上并排序合成,GPU 友好,消费级显卡就能实时渲染。

HY-World 2.0 生成的世界最终就保存为标准gaussians.ply格式的高斯点云,任何支持 3DGS 的查看器都能打开。项目内置了带自适应剪枝的 gsplat 渲染后端,源码位于 hyworld2/worldgen/third_party/gsplat_maskgaussian/,训练器为 world_gs_trainer.py。

得益于 3DGS 的实时渲染特性,你可以在生成的世界里第一人称漫游或第三人称角色探索,甚至带有基于物理的碰撞效果:

什么是全景图?3D 世界的"种子"从这里开始

**全景图(Panorama)**是一张 360° 无死角的图片,通常采用等距柱状投影(2:1 比例),把场景的前后左右、上下天顶全部拍进一张图里。

在 HY-World 2.0 中,全景图是整个 3D 世界的起点:

  1. 你用文字描述(如"一间中世纪风格的图书馆")或上传一张照片;
  2. HY-Pano 2.0把它扩展成一张完整的 360° 全景图;
  3. 后续模块沿着规划好的相机轨迹,从这张"种子图"一步步扩展出纵深、补全细节,最终组合成可漫游的 3D 世界。

HY-Pano 2.0 提供两种后端:基于 HunyuanImage-3 的完整推理流程(见 hyworld2/panogen/pipeline.py)和轻量级 Qwen-Image-Edit LoRA 后端(见 hyworld2/panogen/pipeline_with_qwen_image.py),完整参数说明在 hyworld2/panogen/README_zh_CN.md。

下图就是 HY-Pano 2.0 生成的一张 360° 全景图——注意画面边缘会"无缝环绕",这正是全景图的典型特征:

四阶段流水线:世界模型如何把一张全景图变成完整世界

HY-World 2.0 的世界生成由四个模块接力完成,架构如下图所示:

阶段模块做什么
1️⃣ 全景生成HY-Pano 2.0文字 / 单图 → 360° 全景图
2️⃣ 轨迹规划WorldNav用视觉语言模型(VLM)+ 导航网格规划相机行走路线,绕开障碍物
3️⃣ 世界扩展WorldStereo 2.0沿轨迹用扩散模型生成逼真关键帧,靠"记忆"机制保证前后视角不穿帮
4️⃣ 世界组合WorldMirror 2.0 + 3DGS 训练预测深度、法线、相机参数,训练出最终的 3DGS 世界并导出网格

对应的运行脚本分别是 traj_generate.py、traj_render.py、video_gen.py 和 world_gs_trainer.py,完整命令参考 hyworld2/worldgen/README.md。

世界重建:拍张照片,一次性生成 3D 数字孪生

除了"凭空生成",HY-World 2.0 的另一大能力是世界重建:由WorldMirror 2.0驱动,它是一个统一的前馈模型,只需一次前向传播,就能从多角度照片或随手拍的视频同时预测出:

  • 📷 逐视图深度图与表面法线
  • 📍 世界坐标系下的稠密 3D 点云
  • 🎥相机位姿与内参
  • ✨3DGS 高斯属性(直接得到可实时渲染的场景)

也就是说,绕着房间拍一段视频,就能得到一个"数字孪生"——这正是 3D 高斯泼溅在重建场景中的威力:

你可以用 Python API 直接调用(入口在 hyworld2/worldrecon/pipeline.py),也可以启动交互式 Gradio 网页应用,在浏览器里上传照片直接可视化 3DGS、点云、深度和法线(见 gradio_app.py)。输出文件结构、相机/深度先验注入等细节都在 DOCUMENTATION_zh.md 中。仓库的 examples/worldrecon/ 目录下还准备了卧室、地标、公园等真实场景的示例输入,方便上手体验。

新手快速上手 HY-World 2.0:三步跑起来

  1. 克隆仓库:

    git clone https://gitcode.com/gh_mirrors/hy/HY-World-2.0 cd HY-World-2.0
  2. 安装依赖(推荐 CUDA 12.8 + Python 3.11):

    conda create -n hyworld2 python=3.11.15 && conda activate hyworld2 pip install -r requirements.txt

    世界生成的额外组件与编译步骤见 hyworld2/worldgen/README.md,全景生成环境见 hyworld2/panogen/README_zh_CN.md。

  3. 启动演示:跑 Gradio 应用即可在浏览器中体验世界重建:

    python -m hyworld2.worldrecon.gradio_app

总结

  • 世界模型:HY-World 2.0 生成的是永久可编辑的 3D 世界,而非转瞬即逝的视频;
  • 3DGS 高斯泼溅:用数百万个带颜色的小椭球实时渲染 3D 场景,是它又快又稳的关键;
  • 全景图:由 HY-Pano 2.0 生成的 360° 种子图,是整条世界生成流水线的起点;
  • 两大能力——世界生成(文字/图片 → 3D 世界)与世界重建(照片/视频 → 3D 数字孪生)——让普通人也能"造世界" 🌍

更多示例素材可浏览 examples/worldgen/ 与 examples/worldrecon/,技术细节建议结合官方技术报告阅读。

【免费下载链接】HY-World-2.0HY-World 2.0: A Multi-Modal World Model for Reconstructing, Generating, and Simulating 3D Worlds项目地址: https://gitcode.com/gh_mirrors/hy/HY-World-2.0

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询