使用指南
MOSS-Image 需要多少显存?
MOSS-Image 由两大部分组成:一个 5B 的扩散模型(bf16 版 10.2 GB,int8 版 5.4 GB),和一个 Qwen3.5 9B 文本编码器(bf16 版 19.3 GB,int8 版 9.8 GB,w4a8 版 7.3 GB)。两者都用 bf16 加载,单是权重就约 30 GB。改用 int8 主模型、压缩版文本编码器并启用模型卸载(将暂时不用的组件移至内存)后,可降低显存需求,但能否运行仍取决于显卡、系统内存和所用工作流。官方目前只支持 NVIDIA CUDA。
各版本文件大小一览
| 组件 | bf16 | int8 | w4a8 |
|---|---|---|---|
| 扩散模型(SFT 或 Base) | 10.2 GB | 5.4 GB | — |
| 文本编码器(Qwen3.5 9B) | 19.3 GB | 9.8 GB | 7.3 GB |
| VAE | 0.34 GB(小号版 0.25 GB) | — | — |
以上是 Comfy-Org 仓库中的文件大小,并非实测的显存峰值。实际占用还取决于分辨率,以及运行时是否把部分组件移出显卡。
按显存选配置(估算)
- 24 GB 及以上:bf16 扩散模型,文本编码器用 int8,或在文本编码完成后将编码器移至内存。
- 12–16 GB:int8 扩散模型加 w4a8 文本编码器,并启用模型卸载。
- 12 GB 以下:使用官方的“Sequential”内存模式或社区 GGUF 版本,出图会比较慢。
以上配置是我们依据文件大小做的估算,并非实测,拿到实测数据后会更新。
官方的三种内存模式
官方 Gradio 界面的高级设置里提供三种模式:
- GPU resident(常驻显存):整个模型常驻显存,速度最快,显存占用最高。
- Component(按组件卸载):根据生成进度,在内存与显存之间调入、移出模型组件。
- Sequential(逐层卸载,显存不足时使用):进一步减少显存占用,但生成速度较慢。
显存不足时,可尝试选择 Sequential 或降低图片尺寸。
小显存与量化方案(社区)
- GGUF:realrebelai/MOSS-Image_GGUFs(含 GGUF 与 W4A8),以及 leejet/MOSS-Image-SFT-GGUF(配合 stable-diffusion.cpp 使用)。
- 少步数版本:lodestones/MOSS-Image-SFT-8-steps-dmd(8 步、无需 CFG),以及 akhaliq/MOSS-Image-SFT-4-steps(4 步、CFG 1,作为 LoRA 搭配标准 Euler 采样器)。
以上均为社区版本,并非官方发布,画质可能与完整模型有差异。
Mac 能跑 MOSS-Image 吗?
官方暂不支持,官方流程要求 CUDA。有社区用户在 GitHub 上提交了 Apple Silicon(MPS)适配方案,并在 32 GB 统一内存的 M1 Max 上跑通了 SFT 推理。这不能证明 16 GB Mac 也能运行;我们尚未完成 Mac 实测。
没有合适的显卡?
前往 MOSS-Image AI 首页,用浏览器在线生成图片。运算在云端完成,无需自备显卡,符合条件的访客可免费体验一张标准图,具体限制见免费使用指南。
少步数版本主要用于加快生成,并不保证降低显存峰值。模型文件见 Comfy-Org 仓库,内存模式见官方文档。
常见问题
为什么文本编码器比图像模型还大?
MOSS-Image 用一个 9B 的 Qwen3.5 语言模型来理解最长 4,096 tokens 的提示词,文本编码器负责理解提示词,并不保证生成文字完全准确。
图片越大,显存占用越高吗?
是的。官方建议显存不足时,换用更省显存的模式或降低图片尺寸。
int8 比 bf16 差很多吗?
官方暂无对比数据。建议用自己的提示词实测,尤其是含小字的画面。
训练 LoRA 需要多少显存?
社区工具 KohakuMossTrainer 称,开启省显存选项后,最低 6 GB 显存即可训练适配器。
AMD 显卡能用吗?
官方流程目前只列出 NVIDIA CUDA。
把想法变成一张图
写下想法,直接生成图片,再按需修改文字或排版。