在1月24日举办的腾讯科技向善创新节2024“大模型安全与伦理专题论坛”上，腾讯发布了大模型安全白皮书《大模型安全与伦理研究报告2024：以负责任AI引领大模型创新》，并邀请业界专家进行圆桌研讨。 白皮书由腾讯朱雀实验室、腾讯研究院、腾讯混元大模型、清华大学深圳国际研究生院、浙江大学区块链与数据安全全国重点实验室联合研究撰写，对大模型发展中的安全机遇与挑战、大模型安全框架和实践做法、AI伦理和价值对齐进行了系统性梳理，并展望了大模型安全与伦理未来趋势。

39 技术 lddgo 分享于 2024-02-05

工作过程中遇到的调度、内存、文件、网络等可以参考。

52 技术 lddgo 分享于 2024-02-05

4年前在《AutoDiff理解》 之第一篇“自动求导技术在深度学习中的应用”[1]中打算写一个关于autodiff的系列文章，因为工作和学习上比较忙碌（Lan Duo :P），就一直拖到了现在。刚好最近又在学习OPEN MLSYS[2]，借此机会将静态图中的autodiff笔记也一并写完吧。如有谬误请联系指出。

45 技术 lddgo 分享于 2024-02-05

GC 全称 Garbage Collection，垃圾收集，是一种自动管理堆内存的机制，负责管理堆内存上对象的释放。在没有 GC 时，需要开发者手动管理内存，想要保证完全正确的管理内存需要开发者花费相当大的精力。所以为了让程序员把更多的精力集中在实际问题上，GC 诞生了。Dart 作为 Flutter 的主要编程语言，在内存管理上也使用了 GC。 而在 Pink（仓储作业系统）的线上稳定性问题中，有一个和 GC 相关的疑难杂症，问题堆栈发生在 GC 标记过程，但是导致问题的根源并不在这里，因为 GC 流程相当复杂，无法确定问题到底出在哪个环节。于是，就对 DartVM 的 GC 流程进行了一次完整的梳理，从 GC 整个流程逐步排查。

190 技术 lddgo 分享于 2024-02-05

本文主要以一个Java工程师视角，阐述如何从零(无任何二三方依赖)构建一个极简(麻雀虽小五脏俱全)现代深度学习框架（类比AI的操作系统）。

40 技术 lddgo 分享于 2024-02-04

老乡，内核 3.10 的机器可以跑 eBPF 了！

32 技术 lddgo 分享于 2024-02-04

《携程技术2023年度合辑》，送给爱学习的你

54 技术 lddgo 分享于 2024-02-04

LoRA(Low-rank Adapter)在大模型（如GPT-3，LLama, Qwen等）中，是一种重要的微调技术。该技术通过在不改变预训练模型参数的同时，添加低阶矩阵，学习新的、特定于任务的参数。这种微调方式不仅维持了模型的高效性能，也显著提升了模型训练和部署的效率。然而当对base model进行规模化多任务微调时，相关部署成本可能会显著增加。基于实际应用场景，成本和效率考虑，我们在RTP-LLM框架上实现了两种LoRA方法：静态LoRA和动态LoRA。

40 技术 lddgo 分享于 2024-02-02

useEffect是React提供给我们的一个“逃生舱”，是React 的纯函数式世界通往命令式世界的“逃生通道”，选择合适的时机使用useEffect会让我们的代码既优雅又高效，反之会造成不必要的负担。

46 技术 lddgo 分享于 2024-02-02

本博文解析了在 Istio 服务网格中服务端获取客户端源 IP 的挑战，并提供了解决方案。将探讨以下问题： • 数据包传输中源 IP 丢失的原因； • 如何确定客户端源 IP； • 在南北向和东西向请求中传递源 IP 的策略； • 针对 HTTP 和 TCP 协议的处理方法。

47 技术 lddgo 分享于 2024-02-02