AMD

177: 详解Kimi K3：强到冲击Anthropic估值的模型什么样？

2026年8月3日 · 1:55:18

《晚点聊》由曼祺主持，邀请RadixArk与SGLang创始成员赵晨阳、华盛顿大学博士生曾致远，从Infra与算法两条线拆解Kimi K3：这款近3T参数的开放权重模型以混合注意力架构逼近并部分超越Claude Opus 4.8等闭源前沿，同时引发对Anthropic估值的冲击与开源安全辩论。节目指出，K3用KDA线性注意力与MLA全局注意力按3:1混合，靠循环状态压缩历史，在百万上下文下获得6.3倍解码加速；其Quantile Balancing以分位数估计替代固定步长调整，支撑896个路由专家中选16个的极端稀疏负载均衡，Per-head Muon则通过逐注意力头正交化提升大规模训练稳定性。后训练部分，K3先用MOPD多教师在线蒸馏合并9个领域专家模型，既降低合版压力又提升迭代速度；在Kimi CodeBench 2.0上，K3得分仅低最强模型4分，成本却只有对方的38%。嘉宾还拆解了Attention Residuals如何让深层模型选择性读取浅层信息，以及Kernel Development Agent如何让早期checkpoint自主优化内核，甚至为国产GPGPU写Kernel。讨论也点明，K3开放了权重、MuonEP、Flash KDA和agent-inv，但未开源RL环境、知识图谱任务系统与原始专家checkpoint——权重是一次训练的产物，环境才是能反复产生下一代权重的'流水线'，构成开源模型真正的护城河。最后，嘉宾判断开源模型短期内仍难超越闭源，因为OpenAI与Anthropic内部最强模型通常比已发布版本领先半代到一代，但KDA这类线性注意力混合架构已证明'条条大路通罗马'。

115: 华为发布超节点，如何搅动AI算力市场？与魔形智能徐凌杰聊芯片层新变化

2025年5月11日 · 1:28:13

本期《晚点聊》邀请魔形智能CEO徐凌杰（曾任英伟达、AMD、三星GPU架构师，壁仞科技联合创始人）解读华为CloudMatrix 384超节点，核心观点是：它本质是12个机柜、384张昇腾910组成的'横向扩展'（Scale out）集群，而非英伟达NVL72那种单机柜'纵向扩展'（Scale up），以数量换总算力——集群总算力300P，比NVL72提升67%，内存容量三倍以上、带宽两倍以上，但功耗约为后者四倍。徐凌杰认为，华为在成为英伟达之前已是'Mellanox'，网络与交换积累是其能做多卡互联的原因；但国内厂商普遍缺乏NVSwitch类产品，超节点趋势短期不冲击英伟达，压力主要给到其他国产AI芯片商。他还拆解了AI算力结构：GPU之外互联、交换机、光模块同样关键，芯片成本已从晶圆主导变为显存主导，HBM占五到六成；并透露魔形智能在H20上优化DeepSeek满血版已实现API业务盈利。英伟达已为可能被禁的H20计提55亿美元损失，不排除通过恢复被屏蔽计算单元'变废为宝'；华为在阿里发布Qwen3当天即宣布开箱即用支持。他判断英伟达最大威胁是客户集中（Google TPU、Amazon自研芯片），其已成立'半定制'部门防御；下一代算力变量或来自存算一体、类脑计算（脉冲神经网络）以及电力与散热等可持续发展约束。

100: 硅谷怎么看 DeepSeek ？与 Fusion Fund 张璐聊开源、Agent和“除了AI”

2025年1月29日 · 1:16:20

在《晚点聊》第100期中，程曼祺与Fusion Fund创始合伙人张璐讨论了DeepSeek开源推理模型R1引发的硅谷热议，张璐称其出圈是开源生态的胜利，并相信开源更有利于初创企业。张璐强调，R1以约557万美元训练成本（仅计算GPU hours）在多项基准上比肩甚至超越o1，其跳过监督微调、直接进行无监督强化学习的创新，也证明Scaling Law仍有巨大空间。她认为这类降低AI训练和部署成本的开源成果，会促使更多行业采用大模型，长期提升AI用量与算力需求，因此并非利空英伟达；对于Meta，短期虽有公关压力，但作为美国AI开源生态的主要玩家，将长期受益于开源繁荣。谈及Agent，张璐试用了OpenAI的Operator，指出它目前速度慢且会编造信息，但前景美好；她认为美国B端客户更看重准确性和专业度，所以垂直领域智能体在医疗、金融、保险、太空科技都大有可为，同时她也提到Agent可能带来隐私问题，但年轻人更愿意向AI倾诉。除AI外，张璐介绍硅谷还关注Tech Bio（科技与生物）和太空科技，Fusion Fund已投资SpaceX，并看好AI与这些领域的结合，她还提到SpaceX周边形成了数百家太空科技初创生态。

90: 当每个国家都想要自己的大模型？与云启陈昱聊主权 AI

2024年11月20日 · 48:16

云启资本合伙人陈昱做客《晚点聊》，与主持人程曼祺深入探讨“主权AI”——各国政府自建大模型和AI基础设施的全球浪潮。节目指出，英伟达CEO黄仁勋正大力推动这一概念，英伟达预计其主权AI业务收入今年将从0增长至近100亿美元。陈昱认为主权AI本质是需求真实的to G市场，机会遍布算力中心、芯片、AI基础软件及模型出海，例如他已投资壁仞联创徐凌杰的新项目，专注底层算力软件优化。节目还梳理了中国智算中心建设现状：截至2024年5月底，中国大陆已有280多座智算中心，140个项目的投资总额达4300亿元，可统计算力规模为36.93万P，并指出地方政府招商引资是重要驱动力。针对风险，陈昱警示过度投资导致算力过剩、GPU快速换代造成浪费，以及国内to G业务账期过长。对话最后也触及主权AI对普通人的影响，既可能带来更智能的政务服务，也可能使政府管控更密集，引发AI伦理忧思。

49: 3nm 是谎言？光刻工厂真能造芯片？与汪波聊芯片行业那些流传的误解

2023年10月25日 · 1:02:50

本期《晚点聊》邀请《芯片简史》作者、北大深研院教师汪波，澄清芯片行业流传的误读：制程数字只是命名标签，3nm芯片里没有任何真实3nm尺寸；7nm与3nm相隔两代，因EUV光刻机这道坎，实际差距可能超过四年，苹果3nm芯片性能仅提升约15%，手机体验差距更小。汪波指出摩尔定律并非物理定律，而是从成本出发、靠“我要赚大钱”欲望维系的行业号召，1975年由每年翻倍修正为两年，如今已放缓到三年甚至更久；冯·诺依曼架构下的内存墙，也让CPU的峰值性能常因数据搬运而空耗。回顾历史，英特尔原本主营DRAM，1971年发明CPU时只有2250个晶体管，曾差点被格鲁夫放弃，后来在日韩DRAM冲击下转为以CPU为主业；GPU1999年诞生，凭并行计算在AI时代爆发，但不会取代CPU，谷歌TPU和各类NPU等更专用芯片也难以撼动英伟达CUDA生态。汪波以美国空军1965年买下全美20%芯片、日本“超大规模集成电路”计划为例，说明政府扶持与市场自由都不可或缺，而中国半导体需在设备、EDA、人才等全链条推进。他总结，芯片比原子弹更复杂，因为它还要经受市场考验，应在敬畏技术规律的同时保持耐心，把“弯道超车”的期待转化为具体发明。