tantan的博客

Notes, ideas, and observations

发表于 分类于 ， 本文字数： 2k 阅读时长 ≈ 7 分钟

dlmalloc 是一个 C 语言实现的流行的内存分配器实现，由纽约州立大学 Oswego 分校计算机系教授 Doug Lea 在 1980 年代编写，许多人称之为 Doug Lea 的 malloc，或者简称 dlmalloc。

关于 Doug Lea

Doug Lea 是计算机科学领域的知名学者，尤其在内存管理和并发编程方面有着深厚的造诣。他的研究工作对操作系统、编程语言和计算机体系结构等领域产生了深远的影响。

Doug Lea 曾经是 JCP（Java Community Process）委员会委员，参与了 JSR 166（Java Concurrency Utilities）的设计和实现。他的工作为 Java 的并发编程模型奠定了基础。

发表于 更新于 分类于 本文字数： 14k 阅读时长 ≈ 51 分钟

今天来读经典。

Dynamo 是 Amazon 在 2007 年发表于 SOSP 的 K-V 存储系统。作为电商领域的巨头, Amazon 较早面临巨大业务规模带来的技术挑战。 Dynamo 的技术方案在当时的分布式系统中是非常前沿的, 其设计思想和实现细节对后来的 NoSQL 系统产生了深远的影响。

发表于 更新于 分类于 本文字数： 1.2k 阅读时长 ≈ 4 分钟

Horovod 是 Uber 于 2017 年发布的一个易于使用的高性能的分布式深度训练框架，支持 TensorFlow，Keras，PyTorch 和 MXNet。

（博主注: 2017 年 Google 刚刚提出 Transformer，2018 年 BERT 发布，2019 年 GPT-2 发布，2020 年 GPT-3 发布。回头看这篇 2017 年的论文仅供学习。）

发表于 更新于 分类于 ， 本文字数： 692 阅读时长 ≈ 3 分钟

不知不觉 2025 年已经过去了两个多月，感觉再不写这篇总结就要忘记了。

那么事不宜迟，现在让我们回顾一下 2024 年。

发表于 更新于 分类于 本文字数： 3.7k 阅读时长 ≈ 13 分钟

沐神投稿在 OSDI '14 的论文，提出了第三代 Parameter Server 框架。

沐神在 B 站有亲自讲解这篇论文的视频，可以参考: 参数服务器（Parameter Server）逐段精读【论文精读】。

发表于 更新于 分类于 本文字数： 408 阅读时长 ≈ 1 分钟

#1. 非模板函数优先

如果有非模版函数，优先调用非模版函数。

0%