导言
最近我对应该长期研究什么技术产生了迷茫。我不喜欢人员管理：每个人的诉求和心思不同，统一理解、共情和换位思考会持续消耗精力。我更希望别人因为我的技术判断、工程能力和解决方案付费。
但“越底层越关键”“越难越值钱”“卖价越高工资越高”都不是可靠规律。AI 应用背后横跨算法、训练系统、推理服务、框架、操作系统、驱动、芯片、封装和晶圆制造；每一层的交易单位、商业模式、资本强度和劳动议价方式完全不同。本文用截至 2026 年 7 月 29 日可公开核验的价格、收入和工资数据，回答两个问题：钱在技术栈中如何流动，以及我应该站在哪个位置积累长期能力。
导言
科技初创公司的 offer 往往把现金、成长和期权包装成一个总数，但三者面对的是完全不同的风险。本文先澄清国内初创公司融资、退出与失败数据的统计边界，再梳理智谱、MiniMax、月之暗面、阶跃星辰和上海人工智能实验室的融资、模型与上市事件，并以科大讯飞星火 X1、智谱、MiniMax、商汤和第四范式的公开披露区分研发工资与算力单位成本，最后拆解一份 月薪 68,000 元、两年 160 万元期权、模型 Infra 优化、11-10-6 的阶跃星辰 offer。结论不把媒体估值、内部价格或上市计划冒充现金，而是给出可复查的事实、主观情景区间和签约前问题清单。
导言
找工作时，工资、通勤、城市成本、稳定性、技术成长和市场热度都很重要。最让人困扰的却不是指标多，而是不知道各项应该多重要，也不知道许多事实究竟是什么。给每项随手打一个 1–10 分，会制造精确感；把所有问题都调研到底，又可能永远无法做决定。
更合适的做法不是在“粗糙打分”和“无限调研”之间二选一，而是建立一套分层流程：先用底线淘汰不可接受项，再用区间和情景保留未知，用敏感性分析定位会改变选择的变量，只深入调查这些变量，并在新增信息不再值得其成本时停止。
导言
Kimi K3 是一个面向长时程智能体任务的原生多模态混合专家模型：总参数量 2.78T，每个词元激活 104.2B 参数，训练上下文最长 100 万词元。它把 Kimi Delta Attention（KDA）、Block Attention Residuals（AttnRes）和 Stable LatentMoE 放进同一套训练系统，并进一步连接原生多模态预训练、分档推理投入强化学习、量化感知后训练与大规模并行基础设施。
本文按照论文的段落和小段落顺序进行逐句翻译，保留全部 16 幅图、5 张表、编号公式、交叉引用和技术附录。为帮助第一次接触相关概念的读者，额外说明均放在明确标记的“小白提示”中，不与原论文观点混写。
导言
W8A8、W8A4、W16A8 看似只差两个数字，实际可能对应完全不同的对象、尺度粒度、在线流程和硬件 kernel；FP8 与 MXFP8 都是八位元素，却又因块尺度而具有不同的数据布局。更容易误解的是，量化位宽、检查点大小和最低运行显存是三个不同问题。
本文先建立一套可复用的阅读方法，再用物理结构、实现逻辑、流程、时序和张量数据流解释常见路径，最后核对截至 2026-07-28 的 Qwen3.5、Kimi K3 和 GLM-5.2 开放权重。所有“多大”均来自当前 Hugging Face 仓库中 .safetensors 文件的实际字节和，而不是用参数量乘标称位宽反推。
导言
训练万亿参数模型时，几千甚至上万张 NPU/GPU 不是各算各的。每一步训练都会反复交换梯度、激活和专家 token，网络就像一座每秒要分拣海量包裹的城市：包裹搬得慢，昂贵的计算卡只能停下来等路。
UB-Mesh 的关键想法不是发明一条“无限快”的网线，而是承认通信具有局部性：把最频繁、最大量的通信放到近处的短链路，把较少的远程通信留给远层网络，再让路由、集合通信和容错都理解这张不对称的地图。
导言
本文逐段精翻并解释 xDeepServe 团队的论文 Huawei Cloud Model-as-a-Service on the CloudMatrix384 SuperPod。全文以 arXiv v6 为准，把摘要、正文、结论与贡献者段落编号为 P001–P129，并完整收录论文的 20 幅原图。除忠实翻译外，本文还从物理拓扑、因果链、运行流程、组件时序与张量流五个视角解释 XCCL、FlowServe、Transformerless 和可靠性机制。原论文采用 CC BY 4.0 许可；本文对图像做了裁切，对文字做了中文翻译、结构化重排与解释性扩写，改动不代表原作者观点。
导言
一台加速卡跑不下、几百张卡又容易互相等待时，问题就不再只是“算力够不够”，而是谁负责算、谁负责搬、状态放在哪里、下一步在等什么。本文以知乎学习笔记为线索，回到原始论文逐项核验，用“超级厨房”“专家快递”和“共享图书馆”三个直觉，解释 CloudMatrix384 服务 DeepSeek-R1 的四个关键机制。
导言
MPI、RDMA 和内存语义都能搬运数据，但它们让应用表达的是不同对象：MPI Point-to-Point 表达 rank、tag 和消息，RDMA Verbs 表达 QP、WQE 和完成记录，内存语义则尽量让应用只表达 地址、长度、读写方向和数据依赖。
后一种方式的收益不是“凭空消灭通信”，也不是“任何场景都比 RDMA 带宽高”。它真正改变的是通信契约：把外围队列事务下沉为更接近计算流水的地址访问与 tile 可见性，使 Scale-Up 域内的短操作、细粒度生产消费和异步流水更容易表达。
导言
小 batch LLM 推理并不总是被矩阵乘法本身限制。数十到数百个 kernel 的启动边界、kernel 尾部气泡、中间张量写回 HBM，以及 MoE 的 Dispatch/Combine 通信，都可能让计算单元等数据、让内存等指令、让互联等计算。MegaKernel 的核心不是“把代码写得更大”，而是把 host 侧的算子调度下沉为 GPU 内部的任务系统。
本文沿三条路线展开：Hazy Research 的手写整模型 MegaKernel、MPK 的编译器与常驻运行时、DeepSeek MegaMoE 的 expert-wave 通信计算流水。结论是：这类优化用更强的静态专用化和片上资源约束，换取更少的启动边界与更细的就绪事件；收益必须与寄存器、共享内存、HBM、互联、功耗和动态路由一起核算。