写CUDA到底难在哪？
- 发表时间：2025-06-21 18:45:16
- 来源：
对GPU进行性能优化时，cudagraph是绕不开的话题。
不仅是GPU，大部分的xpu都会提供类似graph mode的优化，相比于每次分别由CPU进行kernel launch的eager mode，graph mode通常都会有较大性能提升，然而也经常容易出现各种各样的奇怪问题。
NVIDIA有一个简单的 博客 介绍，其中只使用了stream capture的形式来构造cudagraph，而且本质上就是多个kernel前后提交，根本无法展示cudagraph的复杂性。
本文尝试从底层原理出发，根据文档 和 …。
推荐资讯
- 2025-06-27 22:35:17如何看待小米 YU7 3 分钟大定突破 20 万辆，锁单 12.2 万辆？小米汽车做对了什么？
- 2025-06-28 00:30:16Flutter 为什么没有一款好用的UI框架？
- 2025-06-27 23:30:16什么是人生的最顶级享受？
- 2025-06-27 22:50:16如何设计一条 prompt 让 LLM 陷入死循环?
- 2025-06-27 23:25:1663 岁演员马景涛直播时突然晕倒、后脑勺磕地，合作方称其突发低血糖，为什么会这样？如何急救？
- 2025-06-28 00:00:16上班族的你都用过什么方法来拯救你的腰？
- 2025-06-28 00:00:16我国自主研发新一代 CPU 龙芯 3C6000 发布，不依赖国外授权技术和境外供应链，有何技术亮点？
- 2025-06-28 00:05:15小鹏G7预售价23.58万，何小鹏称其为「全球首款L3级算力的AI汽车」，何为L3级算力？竞争力如何？
- 2025-06-28 00:00:16大家是怎么看待Apple music？
- 2025-06-27 23:35:16扫黑风暴为什么他们费老大劲杀这么多人不如直接把督导组干掉？
推荐产品
-
现在已经有5K、6K、8K分辨率显示器，那么8K之后是什么？
8K之后是16K，但个人认为16K可能遥遥无期，毕竟8K都还 -
为什么是 9 月 3 日阅兵而不是 10 月 1 日国庆阅兵？
1、等不了了，十一国庆大阅兵是十年一次，下次在2029年，还 -
最近离了，90后有多少是离异的?
刷到了，那我就说说我自己吧。 我98年的，她93年的 16岁 -
为什么中国主机带宽比美国贵5倍（原来错误的10000倍），比如阿里云？
阿里腾讯抖音都非常想自建骨干网城域网，在每个城市最后几公里十
新闻动态
最新资讯