一张计算卡如果空载而不在工作,那么就浪费了那段赚钱的时间。
有没有可能像充电一样把空载的计算卡那段时间的算力存起来呢?
随便想想。
产能只能通过产品来承载,比如机器的加工能力,可以通过库存的形式提前储备在仓库里。补货的时候快速出货就行了。
算力好像没这种库存的形式,这是服务性质,服务一般都是通过扩大承载能力或者让用户排队来优化产能。比如医院和消防。
想随时随地都能享受服务,那要冗余非常多的算力才行,现在 LLM 服务可以看作中美两班倒来消耗算力,只要有各种都有海外的服务,也不算亏 https://i.imgur.com/agAJ0Rd.png
如果空调能把制冷力存起来,显卡就也能把算力存起来
挖矿就是
登录后可发帖和回复
产能只能通过产品来承载,比如机器的加工能力,可以通过库存的形式提前储备在仓库里。补货的时候快速出货就行了。
算力好像没这种库存的形式,这是服务性质,服务一般都是通过扩大承载能力或者让用户排队来优化产能。比如医院和消防。
想随时随地都能享受服务,那要冗余非常多的算力才行,现在 LLM 服务可以看作中美两班倒来消耗算力,只要有各种都有海外的服务,也不算亏 https://i.imgur.com/agAJ0Rd.png