部署配方 · Allen Institute for AI(Ai2)
MolmoAct
与我们实测时执行的命令、版本号一字不差。把 <hardware> 换成显卡 id(rtx-4090 / rtx-5090 / a800-80g)。 通用步骤(镜像、磁盘、nohup)见配方总览。
1 · 环境
transformers 4.57.1 · torch 系统 2.5.1(5090 需 2.8) · accelerate · qwen-vl-utils · einops
python -m venv --system-site-packages /root/envs/qwen
/root/envs/qwen/bin/pip install transformers==4.57.1 accelerate einops 2 · 权重
- allenai/MolmoAct-7B-D-0812 · 30 GB · 32 个文件;镜像上要 40 分钟以上,务必单独串行下
export HF_ENDPOINT=https://hf-mirror.com HF_HOME=/root/autodl-tmp/hf HF_HUB_DISABLE_XET=1
python -c "from huggingface_hub import snapshot_download as s; s('allenai/MolmoAct-7B-D-0812')"
{T.run}
{r.run}
{r['load_' + L] && {T.load} · {r['load_' + L]}
}
{T.pit}
| {T.sym} | {T.fix} |
|---|---|
| {p[L]} | {p['fix_' + L]} |
{T.meas}
{T.src}
| {T.hwc} | {T.prec} | {T.p50} | {T.p95} | {T.vram} | {T.n} | {T.date} |
|---|---|---|---|---|---|---|
| {x.h.name} | {x.prec} | {fmtMs(x.p50)} | {fmtMs(x.p95)} | {x.vram != null ? x.vram + ' GB' : '—'} | {x.n} | {x.date} |
{T.nomeas}
