Recent Posts
从 Transformer 到 Mamba：LLM 的底层原理与下一代架构
GPT、Claude、DeepSeek 为什么底层架构如出一辙？Transformer 的 Self-Attention 如何工作？为什么 LLM 只能逐字生成？Mamba 能否替代 Transformer？本文从原理到工程，拆解 LLM 的核心机制与演进方向。
KV Cache：Transformer 推理的「记忆体」
为什么大模型聊到后来越来越贵？为什么不同模型的推理成本差几十倍？答案藏在 KV Cache 里——这个把 Transformer 从 O(n²) 拯救到 O(n) 的关键机制，如何在 GPU 显存中被高效管理？
LLM 重构语音合成：大模型时代的 TTS 范式
2024年，LLM 开始'接管'语音合成。从 VALL-E 到 GPT-4o Voice，TTS 不再是独立任务，而是大模型多模态能力的一部分。流式合成和全双工对话正在重新定义语音交互的边界。
生产级 AI Agent 的驭手工程：控制面与上下文战场
从 7 模块控制面到上下文窗口的硬核工程--为什么模型只是引擎，驭手才是底盘和刹车，以及如何管理 LLM 最珍贵的战略资源。