GPU性能-矩阵乘法

Thursday, February 13, 2025

Acronyms 2 理论：计算和内存瓶颈分析 2.1 计算量评估 2.2 内存访问量评估（Bytes） 2.3 Arithmetic Intensity 3 GPU GEMM优化办法 3.1 Tile the Output 3.2 Tensor Core 3.2 Typical Tile Dimensions in cuBLAS 3.4 tile size的影响…

快速诊断GPU性能瓶颈

Tuesday, February 11, 2025

GPU性能瓶颈主要分为3类：Latency Bound, Math Bound, Memory Bound。 1 诊断步骤： 1.1 评估硬件参数 GPU SM数量，比如 A100～108， V100～80 GPU 算…

爱情万岁 蔡明亮

Monday, December 2, 2024

是一个很特别的电影标题，一不小心就会以为是贺岁档；但是导演是蔡明亮总会让人放心很多。电影的主题是很贴合当下心境的主题——孤独的年轻人和漂泊的…

And Your Bird Can Sing

Friday, October 18, 2024

函馆在北海道的最南角，不如札幌那么核心，基础设施也似乎来自上个世纪。白天在书店，晚上在无尽的喝酒、打台球、打乒乓，最后喝到烂醉去街上和好友一…

手写信

Saturday, September 21, 2024

是看到比较意外一部！情感描写很细腻，场景设置也是很多熟悉的日本。影片背景的高中时期大概是一个考大学的压力和对自我情感爱欲的探索结合的时候，片…

Landing Copenhagen

Thursday, September 12, 2024

2024.8.27 转眼已经到了丹麦，已经是看到的第二个日落了。坐在hty的书桌前，打扫了一整天，上午又在搞电话卡；下午吃了些东西之后去游泳了半个小时，熟悉的…

菊次郎的夏天

Wednesday, July 3, 2024

回去的地铁上，Saturn问我有没有离职后的旅行出游计划，我想了一下，自觉还是没有很多计划的。土耳其中东，泰国东南亚，都是很想去的地方；可是…

俺の彼女

Sunday, April 7, 2024

一些韩老师关系初期的随笔 虽然自己有很多“前任”，但是在一起的时候，似乎除了朋友们主动说“小胡的女朋友“之类的称呼，自己都不会直接以女朋友来介…

清明小记

Friday, April 5, 2024

#1 猫猫突然开始刨地板，韩老师一阵紧张——这意味着地板上有什么东西，比如拉到地板上，或者吃到到地板上了。猫猫会想把特别的臭的东西埋起来，掩盖气…

伊豆之旅

Tuesday, February 13, 2024

2.10 去大连 是中午的飞机，于是起床之后收拾收拾就前往机场了。这次还是带上了推荐系统的书，感觉不管是cw分析还是后面面试都会有一些帮助——虽然不是…