AI资讯
Meta 工程博客:把闲置推理算力变成广告推荐增益,RMA 与 SBM 两个弹性杠杆如何运作
Meta 工程团队发布博客,介绍其广告推荐系统如何利用推理集群中的「机会性闲置算力」(opportunistic capacity)来提升推荐质量,而不影响基线服务的延迟与可靠性。文章指出推理集群存在一个普遍矛盾:整体算力紧张,但局部仍…
标签
共 2 篇资讯
Meta 工程团队发布博客,介绍其广告推荐系统如何利用推理集群中的「机会性闲置算力」(opportunistic capacity)来提升推荐质量,而不影响基线服务的延迟与可靠性。文章指出推理集群存在一个普遍矛盾:整体算力紧张,但局部仍…
Meta Engineering 发布文章,介绍其广告排序系统在序列建模上的两项架构突破:一是多阶段序列模型,把重量级的离线用户建模与轻量级的在线排序解耦,离线模型以异步方式处理长达数千长度的用户行为序列并缓存用户级 embedding…