RT,几个人一起出资租好点的算力然后部署开源大模型( Qwen,h3,deepseek 等),做成一个接口访问是不是比订阅更划算?
没办法高效调度和满载利用的话是不可能划算的
@ktyang 5 ,6 个人这样规模的是不是应该可以应付?
怎么解决高峰时段大家都想用的问题呢?
@azuis 这个问题或许只能实际部署下试试
登录后可发帖和回复
没办法高效调度和满载利用的话是不可能划算的