嗨，我是 Ruiyi Zhan
RSS Feed电子科技大学计算机学院研究生，在 NDSL HPC 组做事。这里放长期笔记：高性能计算、大模型训练与推理系统，以及那些想讲清楚就得推一遍的数学。
最近更新
🕶️ 从位置编码到实际训练框架和模型架构中的多模态位置编码
更新于:从 Self-Attention 为什么缺位置信息讲起，逐步推到 Sinusoidal、RoPE、二维与三维 M-RoPE，以及 Qwen2-VL / Qwen3-VL 里的频率分配、Interleaving 和 YaRN。