本文分享了作者对一个架构模糊,拥有67万行代码、46个module的超级应用重构过程中面临的一些问题,还探讨了重构的价值以及技术方案,最后对综合效果进行了分析。
亚运史上首次推出的数字火炬手,突破地域、身份等多重限制,让你我这样的普通人也可以参与到火炬传递的活动中来。全球有接近1亿的亚运数字火炬手,彼此间构建起了一个庞大的火炬传递体系。这背后就离不开蚂蚁的互动技术,以及背后的技术开源技术产品 Galacean。 Galacean 的核心开发同学戏称自己又一次参加了一个上亿项目。“上一次还是蚂蚁森林搜集的 10g 能量,以及过年在五福里赚的两块六。”这次,作为蚂蚁集团数字火炬手项目的前端技术人员,人人都能成为数字火炬手的背后,是他和同事写下的20万行代码,数百台不同型号手机的上万次测试,以及创造的两万亿种数字火炬手形象。
通过对权益玩法平台现有业务应用的Serverless化改造,权益团队在双十一期间完美地支撑了业务需求,在研发效率、运维保障等方面都体现出了很高的价值和收益。
作者从7月份开始做AIGC相关的项目有了一些感触和经验总结分享给大家,生成图片的质量提升一方面来自于AIGC领域大模型和开源插件的飞速发展,一方面来自对于生成路线和参数的理解加深。
从技术新人到一个成熟的技术leader,需要经历几个身份迭代?每一次身份的转换都需要怎样的思维升级?本文将从技术新人、潜力干将、架构师、技术leader四种身份的思维升级依次展开。
灵感艺术家项目,旨在通过AIGC绘图能力,联合商家打造低门槛+高趣味性的宣传海报设计大赛,本文分享我们的方案和优化方向。建议对AIGC感兴趣的工程、算法方向的同学阅读。
终端技术已经从过去原生技术发展到原生技术和前端技术融合的大终端技术阶段,对于用户体验的不断追求始终离不开底层原生技术和内核技术的升级和突破。为了更好的支撑终端技术的快速发展,一方面需要不断对底层技术做突破,另一方面也需要在AI/AR等新方向上的内核技术做探索,通过对这些底层的基础能力不断地升级突破,势必会创造出更多的技术红利。 本次D2特设的原生技术&内核的专场,为大家挖掘底层技术的创新&突破的实践和思考。
RTP 系统(即 Rank Service),是一个面向搜索和推荐的 ranking 需求,支持多种模型的在线 inference 服务。在过去的几年里,我们对于RTP业务的GPU性能优化已经做了不少尝试,包括kernel fusion,CUDA Graph等。在此基础上,今年我们又在RTP上集成了Multi Stream[01],改变了TensorFlow的单流机制,让多流的执行并行,作为增加GPU并行度的另一种选择。 RTP执行的backend是TensorFlow。TensorFlow作为调度算子的框架应用在推荐业务的推理场景中,对GPU是比较不友好的。这是因为TensorFlow总是倾向于用大量的operator构建一个graph,每个operator在GPU上又会调用一个或者多个kernel;而同时,TensorFlow本身是一个单流模型,在一个进程内只有一个Stream group(包含一个Compute Stream,一个H2D Stream,一个D2H Stream和一个D2D Stream),kernel间的执行很难并行,可以说调度的效率是偏低的。