太痛苦了

疑难杂症

这两天部署碰到了一堆乱七八糟的问题，包括但不限于

1. lab的服务器套了一层虚拟机，貌似物理机重启之后conda环境就会被清掉。。。
2. GPU从总线掉了一个，4块3090少了一块，本就不充足的算力更加雪上加霜。
3. nvcc -V看到的cuda版本和pip调用的cuda版本不同，无法编译flash-attn
4. 下载预编译的flash-attn安装但遇到了version `GLIBC_2.34‘ not found

参考了博客version `GLIBC_2.34‘ not found简单有效解决方法

部署中用到的一些东西

pip install "huggingface_hub[cli]"  //安装这玩意用命令行下载huggingface model

export HF_ENDPOINT=https://hf-mirror.com
//设定huggingface镜像，不然掏空流量
//使用形式如下
huggingface-cli download NSFW-API/NSFW_Wan_1.3b wan_1.3B_exp_e14.safetensors --local-dir ./NSFW_Wan_1.3b

终于跑起来了！

python generate.py --task t2v-1.3B --size 832*480 --ckpt_dir ./NSFW_Wan_1.3b --offload_model True --t5_cpu --sample_shift 8 --sample_guide_scale 6 --prompt "Adorable nudes.A playful, horny young Babygirl with long white hair and large breasts taking a selfie in her bedroom. She's wearing a lace bra and pulling down her panties to reveal her shaved pussy. Soft, natural lighting, amateur style. "

我只是想跑点NSFW而已(