
理解现代 LLM 中的位置嵌入:从 GPT-2 到 RoPE 与 2026 年架构
Ahead of AI · 论文、原理、架构 ·
- 因果掩码本身提供隐式顺序信息,但无法区分位置间隔大小
- GPT-2 将可学习位置向量加到 token 嵌入上,RoPE 则在注意力内部注
- 文章附小型 PyTorch 实现,并汇总 2026 开源模型的位置编码选择
为什么值得看:把位置编码这一常被跳过的基础构件讲透,附实现与现代架构对照,适合作为长期查阅的原理参考。
海外 AI 文章、播客与资讯,挑值得以后回头再读的,附中文要点和推荐理由。

Ahead of AI · 论文、原理、架构 ·
为什么值得看:把位置编码这一常被跳过的基础构件讲透,附实现与现代架构对照,适合作为长期查阅的原理参考。

Latent Space 与 AI 数据公司 Handshake AI 的联合深度访谈:其 AI 训练业务约一年内做到 10 亿美元年化毛收入。节目分金融、生命科学、编码与安全四段现场演示:ATLAS-Finance 模拟投行任务中,agent 把客户邮件里的 goodwill 数字直接搬进 Python 相减而出错;VIALS 基准用凝胶电泳和脑组织切片考模型识图;安全段则追踪 agent 的工具调用与文件访问。团队还讲了前沿实验室如何采购与评估数据集、rubric 与专家判断的差距,以及评分器的惩罚陷阱与部分给分设计。
Fursoy Slice-1 是一个从零开始用 SystemVerilog 编写的 64 位乱序超标量 RISC-V 处理器,具备 Sv39 虚拟内存、M/S/U 特权级分离、非阻塞 L1 缓存与硬件 PTW,在 Verilator 中成功启动主线 Linux 6.6.50 和 BusyBox 用户空间,并给出逐周期的 8 类 CPI 分解遥测(IPC 0.848)。作者还基于 Nangate 45nm 标准单元对 8 个核心模块做了 500 MHz 综合与 STA 收敛评估。
Simon Willison 用 Claude 辅助,把同一个 parse_number() 函数(把 -$1,234.56、'12.5%' 这类字符串转成可求和、可排序的数值)分别用 C 和 Rust 写成四个 SQLite 扩展,并对比性能、代码复杂度和产物体积。优化后的 C 版本每行 16–19 ns,约为 Rust 版本的两倍快,远快于 SQL replace();C 扩展仅 14 KB,Rust 版本为 298–321 KB。普通 C 版本因依赖 strtod() 在小数上偏慢,改用 Clinger 快速路径后追平,所有版本在 800 万次模糊测试中结果一致。

Latent Space Podcast72
论文、原理、架构 · 值得收藏:这是一手实操课程,把推理模型的评测、推理时扩展、RL 和蒸馏都落实到可运行的代码上,适合想真正搞懂原理而不是只读结论的工程师长期参考。
新项目早期发现 · 值得收藏:把复杂架构压缩成可逐行阅读的单文件实现,并给出一手训练日志、消融实验和完整复现步骤,适合用来真正读懂 DeepSeek-V3 的组件细节。
新用法、实测、工具发现 · 值得收藏:一个完整的一手实测案例,展示了如何把论文方法落地成可运行系统,以及用 AI 编码助手边跑边改、热更新多设备客户端的工程做法,对做 Agent 和工具类项目的人有参考价值。
模型与研究进展解读 · 值得收藏:对做模型评测和选型的人,这篇提供了关于基准设计取舍、开源与闭源差距成因的长期可参考判断。
工程访谈 · 值得收藏:由虚拟细胞一线研究者解释该领域评测失效的原因和下一步方向,对关注 AI for Science 的读者有长期参考价值。
模型与研究进展解读 · 值得收藏:这是一篇少见的、作者公开复盘并修正自己关于开放权重与安全风险判断的文章,提供了讨论 AI 网络安全风险时可复用的分析框架:能力阈值、攻击链环节与威胁行为者动机。
工程访谈 · 值得收藏:提供了一套可复用的“速度 vs 冗长度”实测方法(同时看均值、中位数和端到端时延),但样本仅 30 题且未评答案正确率,结论需谨慎参考。
新用法、实测、工具发现 · 值得收藏:作者亲自跑视频实测并横向对比三家决策模型的接口、定价和输出格式,对需要做结构化判断的工程选型有直接参考价值。
新用法、实测、工具发现 · 值得收藏:一次具体的提示词实测,展示了用 LLM 做 3D 建模与动画、并结合 OpenStreetMap 数据快速产出可视化小工具的做法。
新项目早期发现 · 值得收藏:同时给出论文、逐模型基准和可复现 demo,是了解「决策/分类式推理」这一加速方向时值得回头查的参考实现与数据来源。
工程访谈 · 值得收藏:一条内容同时给出架构、训练时长、精度方案和多家独立评测数据,是观察开源权重模型训练效率与评测口径的实用样本。
模型与研究进展解读 · 值得收藏:提供了一套可复用的开放模型采用度测量框架和一组可回溯的基准数据,适合长期跟踪开放模型生态的人反复参考。