研究 Triton 编译器就一行 import triton凭啥值得 4 天写 4 篇 本文是《刨根问底 Triton 编译器》系列第 2 周 / Day 02 的总结篇。想研究 Triton 编译器一定逃不过import triton就一行代码看着没啥可它背后是搭台 → 认卡 → 真身露馅 → 里应外合四幕戏——我为此写了 1 篇正文 3 篇番外。文章结构️ 本文看什么 一句话1️⃣ 为啥写 4 篇一个研究编译器的大目标落到一行最小切口2️⃣ 一行四幕import triton背后到底发生了啥自成一体的干货3️⃣ 我干了啥拆分 / 扒源码 / 配图 / 立比喻4️⃣ 总结 导览一行import的全家桶附 4 篇深挖入口 引导语你可能觉得夸张研究 Triton 编译器最后扒的居然是import triton这么一行可这行代码你写过无数次却未必答得上来——“它背后到底发生了啥”为了把这一行讲透俺一口气写了4 篇1 篇正文 3 篇番外。这篇总结不绕弯直接干两件事① 把这一行代码的门道讲清没看过原篇也能读懂② 交代我为了它做了哪些工作看完你就懂这 4 篇为啥不是凑数。1、 为啥盯上这一行目标其实很大研究一个活的编译器——不是会用它而是搞清它到底怎么干活。可这么大的目标从哪下手俺选了一段代码能讲述10周作为最小的那个切口import triton。理由很直白它是每个 Triton 用户都会写的一行却几乎没人深想过它它是 Triton 的第一张面孔 Python 包的入口——切口越小越能挖到根。就这一行import triton藏着四幕戏搭台 → 认卡 → 真身 → 里应外合。下面一幕一幕说清。2、 一行 import triton到底发生了啥 2.1 第一幕·搭台import triton≈ 执行triton/__init__.py导个包这个动作Python 其实走了三步定位包 → 执行入口 → 加载完成。定位包先查内存缓存sys.modules没命中就沿sys.path找最后在site-packages命中带__init__.py的目录——有它才算正经包。执行入口import triton真正跑的就是triton/__init__.py——它既是包的身份证也是包的main 函数。加载完成文件里的导入从上到下跑一遍名字挂到包对象上官方还留了句# Note: import order is significant here.——顺序不能乱。源码级逐行拆解含__init__.py精简骨架 拆解派/故事党双视角见系列《W2-Day02你以为 import triton 只是导个包》。 2.2 第二幕·认卡它咋知道你是 N 卡还是 A 卡装完 TritonNVIDIA 机器能跑、AMD 机器也能跑——它怎么认出来的一套招厨师 → 写菜单 → 去点菜招厨师安装时pip install那一刻把支持的后端登记进entry_pointsnvidia/amd写菜单import 时import时按entry_points动态加载后端模块、注册进backends字典去点菜首次调用第一次用 GPU 时现场考核各驱动is_active()录用第一个能用的。三阶段源码全记录见系列《W2-Day02 番外上装了 Triton它咋就认出你是 N 卡还是 A 卡》。 2.3 第三幕·真身Python 只是壳干活的是 C 芯你以为 Triton 是个纯 Python 库错——Python 包只是壳真身是 C 芯triton._C.libtriton。后端代码第一行就写着from triton._C.libtriton import ir, passes, llvm, nvidiaC 源头main.cc里一句PYBIND11_MODULE(libtriton, m)用 pybind11 把它包装成 Python 能直接调用的扩展它由一条pip install造出来setuptools 转包 → CMake Ninja 编译 → 落进python/triton/_C/肚子里是一整棵模块树ir/passes/interpreter/llvm/nvidia/amd……真身是谁、怎么造、里面装了啥的完整版见系列《W2-Day02 番外中你写的 Triton真身居然不是 Python》。 2.4 第四幕·里应外合壳负责喊、芯负责干壳Python自己不干重活只负责编排——调哪个 pass、按什么顺序真干活建 IR、跑 pass、生成码的是芯C。而且这颗芯登场得比你想的早它不是等后端compiler.py才加载而是import一开始runtime → autotuner → knobs就被拉进了进程。壳怎么用芯、芯何时入场的源码实测见系列《W2-Day02 番外下Triton 的芯啥时候溜进来的》。四幕连起来一次import triton的全过程就齐了 芯 libtriton 后端注册 壳 python/triton 你(磨刀砍柴Debug) 芯 libtriton 后端注册 壳 python/triton 你(磨刀砍柴Debug) 第一幕·搭台 第二幕·认卡 第三幕·真身 第四幕·里应外合import triton1定位包 → 执行 __init__.py → 加载完成2按 entry_points 发现并注册 nvidia / amd3一行 import接上 C 芯 _C.libtriton4壳编排、芯干活要 pm、挂 pass5✅ 一次 import壳与芯全部就位6看到没搭台那几步之间壳顺手把两件事也办了登记好你的显卡认卡、把 C 芯拉进进程真身 里应外合。所谓导个包其实是一次完整的开机。幕一句话 搭台定位包 → 执行入口 → 加载完成 认卡招厨师 → 写菜单 → 去点菜 真身libtriton是谁、怎么造、装了啥 里应外合壳怎么喊、芯怎么干、芯何时入场3、 为了讲清它我做了哪些工作✂️ 拆1 正文 3 番外 扒源码v3.7.1 逐行实测 配图22 张 mermaid️ 立比喻舞台 / 餐厅 / 壳·芯✅ 打磨可跳读 发布检查① 拆一篇正文跑主线搭台三步三桩悬案各成一篇番外番外全标 可跳读不打断主线。② 扒源码v3.7.1 逐行实测翻遍约14 个文件——__init__.py、runtime/driver.py、backends/__init__.py、third_party/nvidia/backend/compiler.py、python/src/main.cc、setup.py、CMakeLists.txt、knobs.py……每处关键代码都标了真实文件 行号main.cc:50、setup.py:850、CMakeLists.txt:301、knobs.py:15懂行的随手可查。③ 配图约22 张 mermaid——时序图管流程、flowchart/graph 管结构图图对文。④ 立比喻三套跨篇统一的比喻—— 搭台舞台、️ 招厨师→写菜单→去点菜餐厅、 壳 vs 芯里应外合别串台。⑤ 打磨深浅分层 。4、 四篇导览想深挖篇定位一句话看点 正文《你以为 import triton 只是导个包》主线 · 必读三步搭台 拆解派/故事党双视角 番外上《装了 Triton它咋就认出你是 N 卡还是 A 卡》后端发现招厨师 → 写菜单 → 去点菜 番外中《你写的 Triton真身居然不是 Python》C 真身libtriton亮相、造芯、模块树 番外下《Triton 的芯啥时候溜进来的》壳芯配合壳负责喊、芯负责干按顺序读最顺时间紧的正文必读番外按需跳。 总结一行 import 的全家桶1️⃣一行代码四幕戏import triton背后是搭台 → 认卡 → 真身 → 里应外合。2️⃣我做了这些工作拆成 1 正文 3 番外、v3.7.1 逐行扒源码、配约 22 张 mermaid、立 3 套跨篇统一的比喻。3️⃣合起来是一条线一次import把包定位、后端发现、C 芯加载全串上了。说到底就一句大实话研究 Triton 编译器最后扒的居然是一行import triton——因为它压根不是导个包而是 Triton 在你眼皮底下搭好舞台、认好你的卡、接上那颗 C 芯的一整套开机。看完这篇你会知道import triton背后有四幕戏值得 1 正文 3 番外去拆。下一站真身就位了那triton.jit装饰时为啥静悄悄——狸猫换太子编译还没发生。《刨根问底Triton》系列文章连载中…
研究 Triton 编译器就一行 import triton凭啥值得 4 天写 4 篇 本文是《刨根问底 Triton 编译器》系列第 2 周 / Day 02 的总结篇。想研究 Triton 编译器一定逃不过import triton就一行代码看着没啥可它背后是搭台 → 认卡 → 真身露馅 → 里应外合四幕戏——我为此写了 1 篇正文 3 篇番外。文章结构️ 本文看什么 一句话1️⃣ 为啥写 4 篇一个研究编译器的大目标落到一行最小切口2️⃣ 一行四幕import triton背后到底发生了啥自成一体的干货3️⃣ 我干了啥拆分 / 扒源码 / 配图 / 立比喻4️⃣ 总结 导览一行import的全家桶附 4 篇深挖入口 引导语你可能觉得夸张研究 Triton 编译器最后扒的居然是import triton这么一行可这行代码你写过无数次却未必答得上来——“它背后到底发生了啥”为了把这一行讲透俺一口气写了4 篇1 篇正文 3 篇番外。这篇总结不绕弯直接干两件事① 把这一行代码的门道讲清没看过原篇也能读懂② 交代我为了它做了哪些工作看完你就懂这 4 篇为啥不是凑数。1、 为啥盯上这一行目标其实很大研究一个活的编译器——不是会用它而是搞清它到底怎么干活。可这么大的目标从哪下手俺选了一段代码能讲述10周作为最小的那个切口import triton。理由很直白它是每个 Triton 用户都会写的一行却几乎没人深想过它它是 Triton 的第一张面孔 Python 包的入口——切口越小越能挖到根。就这一行import triton藏着四幕戏搭台 → 认卡 → 真身 → 里应外合。下面一幕一幕说清。2、 一行 import triton到底发生了啥 2.1 第一幕·搭台import triton≈ 执行triton/__init__.py导个包这个动作Python 其实走了三步定位包 → 执行入口 → 加载完成。定位包先查内存缓存sys.modules没命中就沿sys.path找最后在site-packages命中带__init__.py的目录——有它才算正经包。执行入口import triton真正跑的就是triton/__init__.py——它既是包的身份证也是包的main 函数。加载完成文件里的导入从上到下跑一遍名字挂到包对象上官方还留了句# Note: import order is significant here.——顺序不能乱。源码级逐行拆解含__init__.py精简骨架 拆解派/故事党双视角见系列《W2-Day02你以为 import triton 只是导个包》。 2.2 第二幕·认卡它咋知道你是 N 卡还是 A 卡装完 TritonNVIDIA 机器能跑、AMD 机器也能跑——它怎么认出来的一套招厨师 → 写菜单 → 去点菜招厨师安装时pip install那一刻把支持的后端登记进entry_pointsnvidia/amd写菜单import 时import时按entry_points动态加载后端模块、注册进backends字典去点菜首次调用第一次用 GPU 时现场考核各驱动is_active()录用第一个能用的。三阶段源码全记录见系列《W2-Day02 番外上装了 Triton它咋就认出你是 N 卡还是 A 卡》。 2.3 第三幕·真身Python 只是壳干活的是 C 芯你以为 Triton 是个纯 Python 库错——Python 包只是壳真身是 C 芯triton._C.libtriton。后端代码第一行就写着from triton._C.libtriton import ir, passes, llvm, nvidiaC 源头main.cc里一句PYBIND11_MODULE(libtriton, m)用 pybind11 把它包装成 Python 能直接调用的扩展它由一条pip install造出来setuptools 转包 → CMake Ninja 编译 → 落进python/triton/_C/肚子里是一整棵模块树ir/passes/interpreter/llvm/nvidia/amd……真身是谁、怎么造、里面装了啥的完整版见系列《W2-Day02 番外中你写的 Triton真身居然不是 Python》。 2.4 第四幕·里应外合壳负责喊、芯负责干壳Python自己不干重活只负责编排——调哪个 pass、按什么顺序真干活建 IR、跑 pass、生成码的是芯C。而且这颗芯登场得比你想的早它不是等后端compiler.py才加载而是import一开始runtime → autotuner → knobs就被拉进了进程。壳怎么用芯、芯何时入场的源码实测见系列《W2-Day02 番外下Triton 的芯啥时候溜进来的》。四幕连起来一次import triton的全过程就齐了 芯 libtriton 后端注册 壳 python/triton 你(磨刀砍柴Debug) 芯 libtriton 后端注册 壳 python/triton 你(磨刀砍柴Debug) 第一幕·搭台 第二幕·认卡 第三幕·真身 第四幕·里应外合import triton1定位包 → 执行 __init__.py → 加载完成2按 entry_points 发现并注册 nvidia / amd3一行 import接上 C 芯 _C.libtriton4壳编排、芯干活要 pm、挂 pass5✅ 一次 import壳与芯全部就位6看到没搭台那几步之间壳顺手把两件事也办了登记好你的显卡认卡、把 C 芯拉进进程真身 里应外合。所谓导个包其实是一次完整的开机。幕一句话 搭台定位包 → 执行入口 → 加载完成 认卡招厨师 → 写菜单 → 去点菜 真身libtriton是谁、怎么造、装了啥 里应外合壳怎么喊、芯怎么干、芯何时入场3、 为了讲清它我做了哪些工作✂️ 拆1 正文 3 番外 扒源码v3.7.1 逐行实测 配图22 张 mermaid️ 立比喻舞台 / 餐厅 / 壳·芯✅ 打磨可跳读 发布检查① 拆一篇正文跑主线搭台三步三桩悬案各成一篇番外番外全标 可跳读不打断主线。② 扒源码v3.7.1 逐行实测翻遍约14 个文件——__init__.py、runtime/driver.py、backends/__init__.py、third_party/nvidia/backend/compiler.py、python/src/main.cc、setup.py、CMakeLists.txt、knobs.py……每处关键代码都标了真实文件 行号main.cc:50、setup.py:850、CMakeLists.txt:301、knobs.py:15懂行的随手可查。③ 配图约22 张 mermaid——时序图管流程、flowchart/graph 管结构图图对文。④ 立比喻三套跨篇统一的比喻—— 搭台舞台、️ 招厨师→写菜单→去点菜餐厅、 壳 vs 芯里应外合别串台。⑤ 打磨深浅分层 。4、 四篇导览想深挖篇定位一句话看点 正文《你以为 import triton 只是导个包》主线 · 必读三步搭台 拆解派/故事党双视角 番外上《装了 Triton它咋就认出你是 N 卡还是 A 卡》后端发现招厨师 → 写菜单 → 去点菜 番外中《你写的 Triton真身居然不是 Python》C 真身libtriton亮相、造芯、模块树 番外下《Triton 的芯啥时候溜进来的》壳芯配合壳负责喊、芯负责干按顺序读最顺时间紧的正文必读番外按需跳。 总结一行 import 的全家桶1️⃣一行代码四幕戏import triton背后是搭台 → 认卡 → 真身 → 里应外合。2️⃣我做了这些工作拆成 1 正文 3 番外、v3.7.1 逐行扒源码、配约 22 张 mermaid、立 3 套跨篇统一的比喻。3️⃣合起来是一条线一次import把包定位、后端发现、C 芯加载全串上了。说到底就一句大实话研究 Triton 编译器最后扒的居然是一行import triton——因为它压根不是导个包而是 Triton 在你眼皮底下搭好舞台、认好你的卡、接上那颗 C 芯的一整套开机。看完这篇你会知道import triton背后有四幕戏值得 1 正文 3 番外去拆。下一站真身就位了那triton.jit装饰时为啥静悄悄——狸猫换太子编译还没发生。《刨根问底Triton》系列文章连载中…
