系统软件工程师 @ Tencent,主要做 大模型推理基础设施与分布式存储,也做过图数据库、查询引擎和推荐系统。
- 🧊 数据怎么存、怎么搬、怎么复用:KV Cache 分层存储、跨节点前缀复用、RDMA 单边 READ 与零拷贝。
- 🔌 让 Agent 在远端完成开发:多主机工作区、远程文件编辑与搜索、终端、Git diff,以及构建和测试。
- ✍️ 在 gitpull.cn 写工程师手账,也写生活与随想。
喜欢沿着一条查询、一次请求,从语法树和执行计划,一路追到磁盘 I/O 与网卡 DMA。
🔌 dsh-remote · 给 Agent 一个完整的远程工作区
把 SSH 主机变成 DeepSeek Harness 的日常开发工作区:多主机、多项目独立并行,直接浏览和编辑远端文件、递归搜索、使用终端和查看 Git 差异。Agent 在所属远程工作区中读写文件、运行命令、构建与测试;支持 IDE 三栏布局。
🧊 PeerCache · 去中心化的 L3 KV Cache 后端
面向 SGLang HiCache 的跨节点 KV 缓存复用:点对点存储、RDMA 零拷贝读取,无独立的中心 master / metadata 服务。提供 DHT 与 slotmap 两种寻址方式,以及 L4 磁盘持久化层。
跨主机 RDMA GET 实测:单网卡 46.0 GB/s,约为裸 ib_read_bw 的 94%;整机 8 网卡、多进程聚合 413.1 GB/s。配置与测量条件见性能基线。
🧠 dsh-memory · 跨会话记忆库
让 DeepSeek Harness 的 Agent 记住偏好、项目事实与工程决策:支持记忆写入、检索、删除,每轮提示注入,以及浏览器管理页面。
已合并的上游代码贡献
问题排查与技术讨论
- SGLang:排查 prefetch abort 下的 KV Cache 生命周期与 use-after-free 问题。问题报告 #31445 已关闭;修复提案 #31296 已关闭、未合并。
- DeepSeek Smallpond:Ray 多机集群调度问题 #24 · 计算节点调度机制讨论 #7。
- dsh-remote:给 DeepSeek Harness 的多机远程工作区
- 用 AI 做好软件项目:上下文工程实践指南
- PeerCache:一个去中心化的 RDMA 零拷贝 KV 缓存后端
- 大模型推理的 PD 分离:原理、动机与 Mooncake 的实现
- Smallpond 源码走读
🛠️ 其他作品与早期折腾
- 📖 GitBlog:一个无后端、支持在浏览器里编辑和发布的 GitHub 博客,也是 gitpull.cn 的源码。
- 📚 WeChat-applets:微信小程序「小鸡背单词」。
- 🐍 Py-Compiler:用 Python 写的编译器,从词法分析到汇编代码生成。
- 📖 flybook:用 Node.js 从零搭建的简书风格博客框架。
- ✨ CET4-Mouse-click-effects:点击随机弹出四级单词的网页鼠标特效。
- 💌 CPTI:手机上就能玩的恋爱人格小测验。





