大模型推理服务器是否一定要高端 GPU？
发布时间：2026-09-19
|
浏览量：0
不一定。模型量化后，B10、A10 甚至 T4 都可承载推理，按需选择，不用上 H100 等高成本卡。
相关问题
相关问题
相关问题
相关问题
相关问题
以上问题没有解答您的疑问？
免费咨询专家