4× V100 32GB SXM2 NVLink 的“128GB 显存池化”靠谱吗？

最近看到一个二手/定制 AI 服务器方案：

• 4× Tesla V100 SXM2 32GB
• NVLink 互联
• 卖家宣传为 128GB 显存池化，类似一张 128GB 大显存卡
• 用于本地大模型、RAG 、企业私有 AI 助手
• 定制水冷，1650W 电源

想请教几个重点问题：

1. 这种 NVLink 方案在实际 LLM 推理中，真的能像一张 128GB 显存卡一样用吗？ 还是仍然需要 vLLM / llama.cpp / accelerate / tensor parallel 等框架切分？
2. V100 现在跑 Qwen / DeepSeek / Kimi / GLM 这类模型，限制大不大？比如 BF16 、FlashAttention 、vLLM 、量化模型兼容性。
3. 如果主要用途是企业 RAG 、本地知识库、多用户小规模推理服务，这种 4× V100 32GB 还值得买吗？ 还是 RTX 4090 / 5090 / 3090 多卡更合适？
4. 买之前应该让卖家跑哪些测试？目前想到：
   • nvidia-smi
   • nvidia-smi topo -m
   • ECC error 检查
   • NVLink 是否启用
   • 70B 模型实际 tokens/sec
   • 30 分钟以上满载温度测试

有实际用过 V100 SXM2 NVLink 多卡方案的朋友，麻烦给点建议。主要想确认这个“128GB 显存池化”是不是实际可用，还是更多是营销说法。