B站大数据集群混部实践（上）- 资源超配篇
Source :
mp.weixin.qq.com
Author :
陈昱康卜凡吴剑亮
在过去一年的时间里，B站离线平台资源调度侧的主要挑战有两个方面: 1) 随着业务的不断增长，离线集群规模快速膨胀，用户对资源的需求在持续增大，主集群长期处于Pending较高的状态，资源需求超过交付量 2) 出于降本增效的考虑，消解Pending的方法不能仅靠物理机的增加了，而是需要在物理机整体数量不变的基础上通过超卖来提升集群整体的资源利用率。 为了应对上述挑战，调度侧在向内与向外两个方向上进行了积极的探索。“向内”聚焦于单台物理机，通过超配的方式不断提高单台物理机的利用率，使得单台节点能够处理更多的任务；“向外”与云平台部门合作，共同探索混部技术的落地，到目前为止，已经完成了离线超配，离在线混部、在离线混部等集群建设以及潮汐混部的技术实现，使得不同集群间的资源能够被更充分地调动。 为此我们自研了组件Amiya，旨在解决大数据集群资源缺口问题，自上线后较好的完成了Yarn离线集群以及在离线混部集群资源超配的工作。以离线主集群为例，目前5000多台NodeManager所在的节点已完成了Amiya的部署。在Amiya开启后，为Yarn额外提供了约683TB的可申请Memory
