标签： 弹性伸缩

AI资讯

Meta 工程博客：把闲置推理算力变成广告推荐增益，RMA 与 SBM 两个弹性杠杆如何运作

Meta 工程团队发布博客，介绍其广告推荐系统如何利用推理集群中的「机会性闲置算力」（opportunistic capacity）来提升推荐质量，而不影响基线服务的延迟与可靠性。文章指出推理集群存在一个普遍矛盾：整体算力紧张，但局部仍…