部署配方 · Declare Lab（新加坡科技设计大学）

NORA

与我们实测时执行的命令、版本号一字不差。把 <hardware> 换成显卡 id（rtx-4090 / rtx-5090 / a800-80g）。通用步骤（镜像、磁盘、nohup）见配方总览。

1 · 环境

transformers 4.57.1 · torch 系统 2.5.1（5090 需 2.8） · accelerate · qwen-vl-utils · einops

python -m venv --system-site-packages /root/envs/qwen
/root/envs/qwen/bin/pip install transformers==4.57.1 accelerate qwen-vl-utils einops

2 · 权重

declare-lab/nora · 7.5 GB · Qwen2.5-VL 3B 底座

export HF_ENDPOINT=https://hf-mirror.com HF_HOME=/root/autodl-tmp/hf HF_HUB_DISABLE_XET=1
python -c "from huggingface_hub import snapshot_download as s; s('declare-lab/nora')"

{T.run}

{r.run}

{r['load_' + L] &&

{T.load} · {r['load_' + L]}

}

{T.pit}

{(r.pitfalls || []).map((p: any) => ())}

{T.sym}	{T.fix}
{p[L]}	{p['fix_' + L]}

{T.meas}

{T.src}

{rows.length ?

{rows.map((x) => ())}

{T.hwc}	{T.prec}	{T.p50}	{T.p95}	{T.vram}	{T.n}	{T.date}
{x.h.name}	{x.prec}	{fmtMs(x.p50)}	{fmtMs(x.p95)}	{x.vram != null ? x.vram + ' GB' : '—'}	{x.n}	{x.date}

{T.nomeas}

}