企业官网建设流程全解析

如何快速上手InternLumina-U2：NVIDIA GPU与Ascend NPU双Checkpoint部署教程

【免费下载链接】InternLumina-U2Intern Lumina U2 是一个统一多模态模型，将语言、图像、视频和 3D 纳入 单一框架，用一个模型覆盖文本问答、文生图、图像理解、图像编辑、 视频理解和 3D 理解。它采用 16B 参数 MoE，其中激活参数为 1B（16B-A1B）， 将高效稀疏主干与基于 AToken 构建的 8 码本全离散视觉表示相结合。项目地址: https://ai.gitcode.com/hf_mirrors/internlm/InternLumina-U2

InternLumina-U2 是一个统一多模态大模型：语言、图像、视频、3D 全部纳入单一框架，一个模型覆盖文本问答、文生图、图像理解、图像编辑、视频理解与 3D 理解。它采用 16B 参数的 MoE 架构（激活参数仅 1B，即 16B-A1B），并基于 AToken 构建了 8 码本的全离散视觉表示，兼顾能力与推理效率。

本仓库同时托管了同一架构、在不同硬件栈上训练的两份 Checkpoint——nvidia/与ascend/，本文将带你完成 InternLumina-U2 部署，从选型、拉取到跑通首次推理。🚀

双 Checkpoint 怎么选：nvidia 还是 ascend？

⚠️重要提示：两份 Checkpoint 分别在不同硬件上独立训练，权重并不相同，不可混用。请按你手上的推理硬件选择对应目录。

仓库结构速览：部署前先看这些文件

两个目录的文件组织完全一致，以nvidia/为例：

快速部署 InternLumina-U2：三步跑通

第一步：获取仓库

git clone https://gitcode.com/InternLM/InternLumina-U2

第二步：选择硬件环境

• NVIDIA GPU：准备 CUDA 环境（PyTorch + 匹配驱动）。权重以 bfloat16 存储约 31.5 GiB，单卡 80GB 显存可直载；显存不足时可结合 parallel_plan.py 提供的专家并行方案做多卡切分，或启用卸载（offload）策略。
• Ascend NPU：配置好 CANN 运行环境与对应版本的 PyTorch 适配组件，确保 NPU 可用后再执行推理。

第三步：指向 Checkpoint 执行推理

官方推理入口为infer_1024_sft.sh，运行前只需把CHECKPOINT指向你选择的子目录：

# NVIDIA GPU 环境 CHECKPOINT=nvidia bash infer_1024_sft.sh # Ascend NPU 环境 CHECKPOINT=ascend bash infer_1024_sft.sh

这样即可分别加载 GPU 版或 NPU 版 Checkpoint 完成首次推理。🎯

InternLumina-U2 关键参数速查（16B-A1B MoE）

从 nvidia/config.json 可以读出这份 MoE 模型的"身份证"：

"总参数 16B、激活仅 1B"的稀疏设计意味着：能力接近稠密大模型，而推理开销显著更低——这正是双硬件 Checkpoint 都保持16B-A1B规格的原因。

常见问题 FAQ

Q1：两份 Checkpoint 可以互换或混用吗？不可以。二者架构相同但权重不同，分别对应各自硬件栈的训练结果，CHECKPOINT必须与实际推理硬件匹配。

Q2：显存/卡数不够怎么办？查看 parallel_plan.py 中的专家并行计划，按Shard(0)对专家投影做切分，即可在多卡上水平扩展；NPU 侧同理依赖 Ascend 的多卡并行能力。

Q3：支持哪些任务？一个模型覆盖文本问答、文生图、图像理解、图像编辑、视频理解、3D 理解六大方向，无需在多个专用模型间切换。

Q4：授权协议是什么？Apache 2.0，详见 README.md。

小结

InternLumina-U2 用一份仓库、两套硬件专属 Checkpoint 的方式，让 GPU 与 NPU 用户都能快速完成部署：确认硬件 → 选择nvidia/或ascend/→ 设置CHECKPOINT运行infer_1024_sft.sh。掌握以上流程，你已经在半小时内跑通了这条 16B-A1B 统一多模态模型的完整推理链路。

【免费下载链接】InternLumina-U2Intern Lumina U2 是一个统一多模态模型，将语言、图像、视频和 3D 纳入 单一框架，用一个模型覆盖文本问答、文生图、图像理解、图像编辑、 视频理解和 3D 理解。它采用 16B 参数 MoE，其中激活参数为 1B（16B-A1B）， 将高效稀疏主干与基于 AToken 构建的 8 码本全离散视觉表示相结合。项目地址: https://ai.gitcode.com/hf_mirrors/internlm/InternLumina-U2