4年前在《AutoDiff理解》 之第一篇“自动求导技术在深度学习中的应用”[1]中打算写一个关于autodiff的系列文章，因为工作和学习上比较忙碌（Lan Duo :P），就一直拖到了现在。刚好最近又在学习OPEN MLSYS[2]，借此机会将静态图中的autodiff笔记也一并写完吧。如有谬误请联系指出。

46 技术 lddgo 分享于 2024-02-05

GC 全称 Garbage Collection，垃圾收集，是一种自动管理堆内存的机制，负责管理堆内存上对象的释放。在没有 GC 时，需要开发者手动管理内存，想要保证完全正确的管理内存需要开发者花费相当大的精力。所以为了让程序员把更多的精力集中在实际问题上，GC 诞生了。Dart 作为 Flutter 的主要编程语言，在内存管理上也使用了 GC。 而在 Pink（仓储作业系统）的线上稳定性问题中，有一个和 GC 相关的疑难杂症，问题堆栈发生在 GC 标记过程，但是导致问题的根源并不在这里，因为 GC 流程相当复杂，无法确定问题到底出在哪个环节。于是，就对 DartVM 的 GC 流程进行了一次完整的梳理，从 GC 整个流程逐步排查。

194 技术 lddgo 分享于 2024-02-05

本文主要以一个Java工程师视角，阐述如何从零(无任何二三方依赖)构建一个极简(麻雀虽小五脏俱全)现代深度学习框架（类比AI的操作系统）。

41 技术 lddgo 分享于 2024-02-04

老乡，内核 3.10 的机器可以跑 eBPF 了！

33 技术 lddgo 分享于 2024-02-04

《携程技术2023年度合辑》，送给爱学习的你

55 技术 lddgo 分享于 2024-02-04

LoRA(Low-rank Adapter)在大模型（如GPT-3，LLama, Qwen等）中，是一种重要的微调技术。该技术通过在不改变预训练模型参数的同时，添加低阶矩阵，学习新的、特定于任务的参数。这种微调方式不仅维持了模型的高效性能，也显著提升了模型训练和部署的效率。然而当对base model进行规模化多任务微调时，相关部署成本可能会显著增加。基于实际应用场景，成本和效率考虑，我们在RTP-LLM框架上实现了两种LoRA方法：静态LoRA和动态LoRA。

40 技术 lddgo 分享于 2024-02-02

useEffect是React提供给我们的一个“逃生舱”，是React 的纯函数式世界通往命令式世界的“逃生通道”，选择合适的时机使用useEffect会让我们的代码既优雅又高效，反之会造成不必要的负担。

51 技术 lddgo 分享于 2024-02-02

本博文解析了在 Istio 服务网格中服务端获取客户端源 IP 的挑战，并提供了解决方案。将探讨以下问题： • 数据包传输中源 IP 丢失的原因； • 如何确定客户端源 IP； • 在南北向和东西向请求中传递源 IP 的策略； • 针对 HTTP 和 TCP 协议的处理方法。

49 技术 lddgo 分享于 2024-02-02

会员购是B站2017年推出的IP消费体验服务平台，在售商品以手办、漫画、JK制服等贴合平台生态的商品为主。随着业务发展，会员购从最开始的预售，现货拓展到全款预售，盲盒，众筹等多种售卖方式，销售渠道也遍布 猫耳（现已下线），QQ小程序，漫画等多个业务渠道，再加上不断增加的营销活动玩法，每年几次大促活动的爆发式流量，对于会员购交易系统来说，无疑是一个巨大的挑战。

58 技术 lddgo 分享于 2024-02-02

回望 2023 年，ChatGPT 的突然爆火，让 AI 无疑成为最为值得注目的新兴领域之一，我们也一起见证了生成式 AI 的寒武纪大爆发。这一年来，国内外的生成式 AI 、大模型和相关产品以令人眼花缭乱的速度更新迭代，新的创业浪潮风起云涌。在这 AI 浪潮下，也让我们有了新的开发思考，探索着在各个环节中“前端 & AI”的应用场景。勇于探索的前端开发者们已经开始挥舞着 AI 的“魔法棒”，譬如代码生成、辅助 CR、低代码、测试、业务提效等各类开发环节都被赋予了新的活力和可能性。

63 技术 lddgo 分享于 2024-02-02