得物消息中心每天推送数亿消息给得物用户,每天引导数百万的有效用户点击,为得物App提供了强大,高效且低成本的用户触达渠道。这么庞大的系统,如何去监控系统的稳定性,保证故障尽早发现,及时响应至关重要。为此,我们搭建了得物消息中心SLA体系,相关架构如图:
本期话题就是整理自“内部技术沙龙SmartCode--之毕玄《技术成长之路》”,内容包括如何提升技术基本能力、如何做好架构师角色、如何做好技术Leader这样的角色;正文不仅对本次分享进行了梳理,还把大家关注的QA也放在了文末,希望这篇文章能够给你带来一定的启发。
B站基于Elastic Stack的日志系统(Billions) 从2017建设以来, 已经服务了超过5年,目前规模超过500台机器,每日写入日志量超过700TB。 ELK体系是业界最常用的日志技术栈,在传输上以结合规范key的JSON作为传输格式,易于多种语言实现和解析,并支持动态结构化字段。存储上ElasticSearch支持全文检索,能够快速从杂乱的日志信息中搜寻到关键字。展示上Kibana具有美观、易用等特性。 随着业务系统的高速发展,日志系统的规模也随之快速扩展,我们遇到了一系列的问题,同时可观测业界随着OpenTelemetry规范的成熟,推动着我们重新考量,迈入下一代日志系统。
Lancer是B站的实时流式传输平台,承载全站服务端、客户端的数据上报/采集、传输、集成工作,秒级延迟,作为数仓入口是B站数据平台的生命线。目前每日峰值 5000w/s rps, 3PB/天, 4K+条流的数据同步能力。
B站每天都会接收数十万的视频投稿,在这大量的视频中,有一些稿件会成为热门视频。这些热门视频吸引了大部分用户的关注和播放,同时也会消耗很大部分的带宽资源。因此当作品热度上升之后,B站会对视频进行重新转码,此时会使用更高复杂度的转码系统方案如(画质可控的场景自适应转码系统),在保持画质不变的前提下,更好的去除数据冗余,以提高压缩比,降低码率,避免带宽资源的浪费。为了进一步提升转码系统性能,我们研发了一套视觉无损的深度学习前处理系统。该系统可以在原有场景自适应转码系统的基础上,带来15%左右的码率节省,与此同时,保持画面质量不变。
UC Berkeley认为Serverless架构的出现过程类似于40多年前从汇编语言转向高级语言的过程,在未来Serverless架构的使用会飙升,或许服务器式云计算并不会消失,但是将促进BaaS发展,以更好地为Serverless架构提供支持。