技术博客

探索技术，分享知识

32 日志 17 分类 109 标签

首页
归档
分类
标签
关于
搜索

文章目录
站点概览

GitHub

近期文章

[AI Infra] 2.9 Tokenization与词嵌入
[AI Infra] 2.2 Transformer全貌及代码实现
[AI Infra] 2.8 从Transformer到LLM自回归生成深入理解
[AI Infra] 2.7 Transformer Decoder Block完整解析
[AI Infra] 2.6 LayerNorm与残差连接深入理解
[AI Infra] 2.5 Transformer位置编码深入理解
[AI Infra] 2.4 Transformer前馈网络FFN深入理解
[AI Infra] 2.3 Self-Attention机制深入理解
[AI Infra] 1.1 通信拓扑入门
[AI Infra] 3.0 PyTorch框架入门
[AI Infra] 2.1 AI Infra工程师为什么必须懂Transformer
[AI Infra] 2.0 Transformer架构-快速入门篇
[AI Infra] 1.0 编程语言入门
[AI Infra] 1.2 集群通信网络与NCCL
[AI Infra] GPU架构与存储体系
[AI Infra] Nsight Compute性能分析实战指南
[AI Infra] Nsight Systems性能分析实战指南
[AI Infra] 大模型推理与部署入门
[AI Infra] 分布式训练入门
[AI Infra] CUDA编程入门指南
[AI Infra] AI Infra学习路线
[AI Infra] Thread Block Cluster 架构特性
[AI Infra] 高效CUDA编程速查
[编程技能包] 使用uv构建Python命令行工具：从代码到全局命令
[路飞玩AI] 从零构建Claude多智能体协作系统
[编程技能包] 构建并发布Python包到PyPI完整指南
[路飞玩AI] 如何创建自定义Agent Skills
[编程技能包] Next.js入门指南：从零构建现代Web应用
[路飞玩AI] ClaudeCode使用指南
[路飞玩AI] OpenCode入门使用指南
[编程技能包] C++入门教程
[路飞玩AI] Agent框架设计与实现

Megatron-LM 标签

03-26

分布式训练入门

© 2026 zhengshengning

由 Hexo & NexT.Gemini 强力驱动

0%

草帽路飞的技术博客

首页 AI Infra 路飞玩AI 编程技能包关于 GitHub