MOSS-Image 需要多少显存?

MOSS-Image 由两大部分组成:一个 5B 的扩散模型(bf16 版 10.2 GB,int8 版 5.4 GB),和一个 Qwen3.5 9B 文本编码器(bf16 版 19.3 GB,int8 版 9.8 GB,w4a8 版 7.3 GB)。两者都用 bf16 加载,单是权重就约 30 GB。改用 int8 主模型、压缩版文本编码器并启用模型卸载(将暂时不用的组件移至内存)后,可降低显存需求,但能否运行仍取决于显卡、系统内存和所用工作流。官方目前只支持 NVIDIA CUDA。

各版本文件大小一览

组件 bf16 int8 w4a8
扩散模型(SFT 或 Base) 10.2 GB 5.4 GB —
文本编码器(Qwen3.5 9B) 19.3 GB 9.8 GB 7.3 GB
VAE 0.34 GB(小号版 0.25 GB) — —

以上是 Comfy-Org 仓库中的文件大小,并非实测的显存峰值。实际占用还取决于分辨率,以及运行时是否把部分组件移出显卡。

按显存选配置(估算)

以上配置是我们依据文件大小做的估算,并非实测,拿到实测数据后会更新。

官方的三种内存模式

官方 Gradio 界面的高级设置里提供三种模式:

显存不足时,可尝试选择 Sequential 或降低图片尺寸。

小显存与量化方案(社区)

以上均为社区版本,并非官方发布,画质可能与完整模型有差异。

Mac 能跑 MOSS-Image 吗?

官方暂不支持,官方流程要求 CUDA。有社区用户在 GitHub 上提交了 Apple Silicon(MPS)适配方案,并在 32 GB 统一内存的 M1 Max 上跑通了 SFT 推理。这不能证明 16 GB Mac 也能运行;我们尚未完成 Mac 实测。

没有合适的显卡?

前往 MOSS-Image AI 首页,用浏览器在线生成图片。运算在云端完成,无需自备显卡,符合条件的访客可免费体验一张标准图,具体限制见免费使用指南。

少步数版本主要用于加快生成,并不保证降低显存峰值。模型文件见 Comfy-Org 仓库,内存模式见官方文档。

常见问题

为什么文本编码器比图像模型还大?

MOSS-Image 用一个 9B 的 Qwen3.5 语言模型来理解最长 4,096 tokens 的提示词,文本编码器负责理解提示词,并不保证生成文字完全准确。

图片越大,显存占用越高吗?

是的。官方建议显存不足时,换用更省显存的模式或降低图片尺寸。

int8 比 bf16 差很多吗?

官方暂无对比数据。建议用自己的提示词实测,尤其是含小字的画面。

训练 LoRA 需要多少显存?

社区工具 KohakuMossTrainer 称,开启省显存选项后,最低 6 GB 显存即可训练适配器。

AMD 显卡能用吗?

官方流程目前只列出 NVIDIA CUDA。

把想法变成一张图

写下想法,直接生成图片,再按需修改文字或排版。

开始创作