太痛苦了
疑难杂症
这两天部署碰到了一堆乱七八糟的问题，包括但不限于
- lab的服务器套了一层虚拟机，貌似物理机重启之后conda环境就会被清掉。。。
- GPU从总线掉了一个，4块3090少了一块，本就不充足的算力更加雪上加霜。
- nvcc -V看到的cuda版本和pip调用的cuda版本不同，无法编译flash-attn
- 下载预编译的flash-attn安装但遇到了version `GLIBC_2.34‘ not found
参考了博客version `GLIBC_2.34‘ not found简单有效解决方法
部署中用到的一些东西
pip install "huggingface_hub[cli]" //安装这玩意用命令行下载huggingface model
export HF_ENDPOINT=https://hf-mirror.com //设定huggingface镜像，不然掏空流量 //使用形式如下 huggingface-cli download NSFW-API/NSFW_Wan_1.3b wan_1.3B_exp_e14.safetensors --local-dir ./NSFW_Wan_1.3b
终于跑起来了！
python generate.py --task t2v-1.3B --size 832*480 --ckpt_dir ./NSFW_Wan_1.3b --offload_model True --t5_cpu --sample_shift 8 --sample_guide_scale 6 --prompt "Adorable nudes.A playful, horny young Babygirl with long white hair and large breasts taking a selfie in her bedroom. She's wearing a lace bra and pulling down her panties to reveal her shaved pussy. Soft, natural lighting, amateur style. "
我只是想跑点NSFW而已(
