晚点晚点聊 LateTalk2026年6月16日· 1:39:15

169: 访谈Cerebras早期投资人周楠:英伟达挑战者?Scaling Law的萌芽、被遗忘的百度美研

周楠现任高通创投投资人,曾主导百度对Cerebras Systems的早期投资;本期节目她回顾了这家被视作英伟达挑战者的AI算力公司从9年前非共识投资到近期IPO、市值一度接近1000亿美元的历程,并解释OpenAI为何与它签下至少200亿美元订单。她讲到自己在百度硅谷人工智能实验室期间,与Greg等研究员一起对尚未流片的Cerebras做尽调,用当时全球最大的语言模型验证其晶圆级引擎(WSE)架构能否把三个多月的训练时间大幅缩短;Sam Altman在百度投资前已于2016年个人入股Cerebras。她也回溯了Scaling Law萌芽于DeepSpeech 2论文,Dario是经Greg招入百度,后来出走创办Anthropic;百度因地缘政治未能成立独立AI基金,遗憾错过OpenAI、Databricks等deal list。她还分析了WSE架构的优劣、推理需求爆发让Cerebras低延迟高吞吐方案更有价值,以及推理优化和Infra层创业机会、当下VC募大钱投winner、物理AI可能比预期更早到来等趋势。

  1. 0:00开场
  2. 3:26挑战者
  3. 11:16大订单
  4. 18:27上下限
  5. 23:28投资起点
  6. 37:06尽调
  7. 46:18投决
  8. 53:35至暗时刻
  9. 1:00:02百度美研
  10. 1:18:30新机会
  11. 1:31:11物理AI
  12. 1:35:49尾声

PodHood 提供支持

文字稿

开场0:00

周楠0:06

Sam Altman 其实是 Cerebras 最早的投资人。Sam Altman 在百度投之前 , 百度是 2017 年投的 ,在 2016 年的时候 Sam Altman 就已经投了这家公司 。

那个时候 Andrew Ng Haojiao 的业务非常强 ,而且那个时候百度应该是个为数不多的 AI lab, 就是给了充足的预算 , 让你去买 GPU 去训练 AI 模型 。

巴洛当时能够进百度 ,其实是一个他职业生涯中很重要的一个环节 。其实巴洛是 Greg 招进去的 ,Greg Diamonds 当时就是认识了巴洛之后, 觉得这个人是个人才 , 就是他对 AI 的一些构想非常的深 。

即使他没有 AI 的这个 background,因为巴洛当时是数学和物理还有生物的一个 background,他不是一个 computer science 或者 AI 的这种科班出身的一个研究员 。

曼祺1:00

欢迎收听 《 晚点聊 》, 我是曼祺 。 今天的嘉宾是目前任职于高通创投 Qualcomm Ventures 的投资人周楠 。他是 5 月中旬 IPO 的 Cerebras Systems 的早期投资人之一 。

这是一家提供新架构 AI 算力的芯片与系统公司 , 被外界视作英伟达的补充 , 甚至是挑战者 。9 年前完成这笔投资时, 周楠刚从投行加入百度的硅谷人工智能实验室 , 那时吴恩达是负责人,Anthropic 的创始人 Dario 也曾在那儿实习 。

今天这期节目 , 我们从 Cerebras 的 IPO 切入 , 聊了 AI 算力的趋势 , 为什么 OpenAI 会和它签下百亿美元的大订单 ,也通过回顾这段投资过程 , 回到了 10 年前 Scaling Law 在硅谷萌芽的阶段和当时百度美研的状态 。

那是一段在现在的地缘环境下鲜少被人提及的故事 ,但它值得在 AI 历史中有一席之地 。 我们正式进入本期节目吧 。

今天非常高兴邀请到了在美国的一位投资人, 周楠 , 做客 《 晚点聊 》, 来分享最近刚刚上市的一家公司 Cerebras 的情况 。

同时我们也延展聊一聊就是算力层的一些变化 。 楠你可以和我们的听友简单的打个招呼 , 简单自我介绍一下 。

周楠2:18

好的 , 大家好 , 我是周楠 。 首先谢谢曼祺的邀请 , 谢谢 《 晚点 》 的邀请 。 我呢 , 主要这 10 年都是在美国硅谷这边做人工智能的投资 。

那么我的人工智能的投资职业生涯非常巧的就是始于 10 年前的百度美国研究院 。 我当时在百度美国研究院就是经历了整个 AI 的 1.0 时代的起飞 , 和当时的百度的 Chief Science Officer 吴恩达 ,他当时是百度美国研究院的这个 Head。

我们跟他一起当时就是做很多关于 AI 的 ,不管是算力层面 、 数据层面还是应用层面上的一些调研 。在百度工作了 3 年之后呢 , 我又加入了高通创投 。在高通这 6 年呢 , 主要是集中在 AI 端侧的投资 , 还有包括一些 AI 在端侧芯片的应用啊等等一些延展 。

所以一共加起来我在 AI 投资领域差不多是 10 年的时间 。 确实是整个就是目睹了这个 AI 从 1.0 到 2.0 到 3.0 时代的这么一个变迁 , 然后也目睹了整个当时 Scaling Law 在百度美国研究院诞生 , 到当时我们对它的一些推测 , 到后面这个 ChatGPT 的爆发 。

所以是挺有感触的这 10 年 。

挑战者3:26

曼祺3:27

OK, 那今天正好我们聊的这个切入口就是 Cerebras 这家刚刚上市的芯片公司 。 它也是你 10 年前开始投资时候做的第一个项目 ,而且它和你刚说的那个过程都是很相关的 。

正好我们可以来回顾一下 。 我觉得可以先简单的跟大家介绍一下, 就是 Cerebras 是一家什么样的公司吧 。 就它是 5 月中旬上市的 , 然后目前大概是接近 500 亿美元的市值 。

周楠3:51

对 ,Cerebras 其实是当时真的是非常巧的是我当时刚刚开始我的投资生涯的时候 ,10 年前在百度美国研究院我自己 source 来 , 然后做尽调 ,build 了投资的 conviction, 到最后完成投资的第一个项目 , 应该算是我们做的百度的一个当时 code 的 C0C round 的 C 轮的一个项目 。

那么 10 年前投这家公司的时候 , 它真的是在完全是一个共识形成之前的一个投资 。 那这家公司简单来说呢 , 它是一个为 AI 的训练和推理整个重新设计了一个架构的这么一个公司 , 需要架构的公司 。

它当时在创立之初就是想要去建造一个专门为深度学习的训练而打造的一个计算系统 , 所以是颠覆了当时的所有的一个市场上大家知道的架构 ,也跟英伟达的架构非常不一样 。

它的一个核心创新就是 Wafer Scale Architecture, 这可能你在照口述也看到了 。 它就是把一整片晶圆做成了一个巨大的 AI 的计算引擎 , 然后在这个晶圆上有 84 个芯片无缝互连 。GPU 架构它是一个一个芯片这样子在一个晶圆上 ,但是这个是整个一个这么多的芯片无缝互连在一个晶圆上 。

它不只是一个芯片公司 , 它也是做一个完整的系统 , 包括芯片 、 服务器啊 、 散热 、 电源呢 , 还有 compiler 编译器 、 软件栈等等。

它的这个路线是很激进的 , 它是要把一个晶圆变成一个超级大的一个计算引擎 。 而且呢 , 它是要解决什么问题呢 ?

就是让大量的这个计算单元和这个内存在同一个硅片上靠得更近 , 从而去降低它的通信和数据的搬运成本 。

这就是它和传统的 GPU 最根本的一个不同 。 从今天的市场看 Cerebras 的话 , 它也不是说单单是一个硬件一个芯片 ,而是它是在一个英伟达之外非常具有颠覆性的一个架构的这么一个系统 。

曼祺5:43

OK, 对 , 那我刚才描述可能不太准确 。 就简单来说它是个芯片公司 ,但更准确来说它应该算是寻找一种新的 AI 算力方法的公司 。

周楠5:52

对 ,是的 ,是的 。

曼祺5:53

它是构建一个软硬结合的系统 。

周楠5:55

对 ,是的 。

曼祺5:56

确实现在就是它上市之后一度这个冲得非常高 , 就市值是接近 1,000 亿美元 。

周楠6:02

对 。

曼祺6:02

现在就对这个公司有一种叙事 , 就是会把它定义成是英伟达的挑战者 。 你作为他们的投资人, 你怎么看这种定位 ?

周楠6:10

我觉得这个定位非常的有意思啊 。 我们刚刚去定下投这家公司的时候 , 就是我刚刚加入百度美国研究院的时候呢 , 那个时候因为有很多的 AI researcher,他们在训练模型嘛 。

就当时有几个 researcher 第一天就跟我说 ,Nan, 就是以后的模型它的 size 会越来越大 , 需要的芯片就是它的数据也会越来越多 , 然后要让这个模型迭代得很快的话 , 你也需要一个非常强大的芯片 。

那个时候的共识就是 AI researcher 都在用英伟达 。 当时他们给我的第一个 lectature 就是不能就只依赖于英伟达这一颗芯片 ,因为未来会出现非常非常大的一个模型 。

这个未来是多少年当时并不知道 ,但是如果说这个时候不去找这颗芯片的话 , 那么在 10 年以后 、5 年以后 、10 年以后就会形成英伟达独大的一个局面 。

而且英伟达当时就是在 10 年前的时候 , 它并不是对深度学习最友好的一个芯片 ,因为它 96% 的那个叫做 dye area 不是专门用优化深度学习的 ,因为它更多的是给游戏啊 、 给图形显卡 。

曼祺7:09

图形 。

周楠7:10

对 , 来发明的 。 所以如果当时就是说涉及到其他的非图形的模型的话 , 它并不是最优的解 。 所以那个时候我当时就种下一个种子 , 就是我要找一个不同架构的芯片去能够 ,但不是说要去跟英伟达抗衡 ,而是说更加的能够用于去训练这个深度学习 。

所以当时的起始点就是为了找一个所谓的比英伟达可能更好用 , 或者是未来为了让英伟达不垄断的一个这么一个替代品 , 或者是一个第二解决方案吧 。

所以这个是当时投资的一个起点 。 那么回到现在啊 , 就是英伟达当然已经是这个 fine training 的 company, 然后是这个大语言模型时代下的王者 。

然后如果今天再问这个问题 ,Cerebras 虽然已经成功上市了 , 那它是不是英伟达的挑战者 , 然后离这一步还有多远呢 ?

我觉得今天看这个事情的话呢 ,Cerebras 应该说它是英伟达在一些特定 workload 上的挑战者 , 比如说 inferencing, 就是推理上的一个挑战者 ,但它不能说是英伟达全站生态的一个全面的替代者 。

因为英伟达的护城河并不只是说它这些芯片 ,而是它的 CUDA, 还有包括它的开发者生态啊 、 网络啊 、 系统啊 、 软件啊 、 客户信任和供应链等等这一整个一系列的一个生态 , 这个是它的最强的护城河 。

所以我觉得就是对于 Cerebras 来说呢 , 它的机会就在于说 , 当某些 AI 的这个 workload, 尤其是推理上的这个 workload, 受限于这个内存的宽带 , 还有包括像通信延迟以及推理响应的速度的时候 , 它是一个非常优秀的一个架构的一个选择 。

因为它的 inferencing 速度就是比就是说它的照口数还更高 , 就是比现在的一些解决方案要快很多 。

曼祺8:54

对 , 你刚说到 10 年前的大家的那种想法 , 我想到就回忆到那个阶段 , 确实其实在全球范围都有类似的创业思路 , 比如说寒武纪也是那前后成立的 。

周楠9:07

对 。

曼祺9:07

因为那会儿有一个创业潮 , 就是做 ASIC 嘛 , 就是专用的这种集成电路 。

周楠9:12

是的 ,是的 。

曼祺9:13

认为那个是可以面向深度学习做更好的优化的 。 但确实后面这 10 年的发展过程来说的话 ,ASIC 并没有撼动通用 GPU 的地位 。

通用 GPU 我觉得它的发展也是超出大家预期的 ,因为 10 年前其实英伟达显然不是现在这样一个这么受关注的巨头 。

我们后面就展开聊你当时在百度美研的一些情况的时候 , 我觉得也可以回顾到这个过程 。

周楠9:38

对 。

曼祺9:38

然后回到 Cerebras 的近况的话 ,其实大概两三年前它的估值也只有数十亿美元 , 然后到它最近上市是到了数百亿美元 , 甚至逼近 1,000 亿美元 。

你觉得这是市场情绪变了 , 还是说这个公司自己的业务或者说技术真的发生了很大的变化 ?

周楠9:57

我觉得是市场对于这个产品的需求变了 , 还有包括说市场到了一定程度的阶段 。 就是我觉得这个变化点可能有几个阶段吧 。

确实在两三年前的时候 ,GPT moment 的刚刚到来的时候 , 就是那个时候 ChatGPT 到来的时候 ,AI compute 其实已经变成了一个全球非常稀缺的战略资源 。

但是那个时候大家要解决的问题是模型的训练 , 就是这个模型的能力和智力水平需要不断的迭代 。

所以那个时候英伟达还是叙事的主体 。在两年前的时候呢 ,AI 的推理 ,AI 的 inferencing, 它不像现在需求量这么大 。

因为现在你会看到一半以上的对于 GPU 的需求都是用在推理上的 。 然后包括今年像这个 AI agent 的这种爆发 , 更加去激发了这个对于推理芯片的需求 。

所以就是当这个推理的需求现在在尤其是今年, 从去年开始到今年有一个大规模的一个爆发之后呢 , 那 Cerebras 它的这个 value proposition 中的这个低延迟 , 就 low latency 和高吞吐 high throughput 的这种解决方案就变得更有价值 、 更稀缺 。

所以这个时候就是 Cerebras 在这个节点上的一个爆发点 。 那它作为一个目前非常优秀的一个解决方案 , 那估值有这样一个很大的提升 , 我觉得也是一个水到渠成的一件事情 。

大订单11:16

曼祺11:17

然后 26 年 1 月有一个比较明显的利好 , 就是 OpenAI 和它签了一个很大的订单 , 至少是 200 亿美元的合同 。

然后他们也做了一些交易设计 , 绑定了很深度的合作关系 。 你可以展开讲一讲吗 ? 就是为什么 OpenAI 会对 Cerebras 的这个方案感兴趣 ,以及他们大概是怎么来合作的 。

如果你能分享一些内部情节 , 可以讲讲 , 包括比如他们接触了多久之类的 。

周楠11:41

对 , 我觉得首先就是你如果看到一些公开市场的信息 , 你会看到 Sam Altman 其实是 Cerebras 最早的投资人。Sam Altman 在百度投之前 , 百度是 2017 年投的 ,在 2016 年的时候 ,Sam Altman 就已经投了这家公司 。

就说明当时 Sam Altman 在成立 OpenAI 的时候 ,他也预测到了一些同样的事情 , 就是当未来的这个 AI 的模型做得很大 ,有很大应用场景的时候 , 你不能只依赖英伟达一家芯片 。

所以这个可以解释为什么 Sam Altman 在那个时候就去投了 Cerebras。

曼祺12:15

好 ,他这个时间点确实是卡着的 ,因为 2015 年 12 月左右 , 就 15 年底是 OpenAI 成立嘛 。

周楠12:21

是的 ,是的 。

曼祺12:21

那 16 年投的 , 那相当于成立没多久之后投的 。

周楠12:24

他就是成立没多久以后投的 。 我觉得他在那个时候就已经有相当的对于算力市场的一个 vision 了 。 那再回到 OpenAI 当下, 当下它已经是一个就是在 AI 领域的一个霸主地位了哈 。

那我觉得它对 Cerebras 感兴趣非常合理 。 一个是说 OpenAI 它并不是说啊我需要一个便宜点的 GPU,而是说目前这个 AI compute,AI 的算力 , 它就是模型继续 scale 的一个瓶颈 。

就是现在算力稀缺是 number one, 就是一个核心的一个大瓶颈 。 第二呢 , 就是 OpenAI 我觉得这个逻辑很清晰 , 就不管是 OpenAI 还是 Anthropic 还是其他的这种 frontier lab, 你都不能依赖单一路线 。

就是你即使 Nvidia 很强 , 我现在就是训练模型还是推理都在用 Nvidia, 任何一家模型公司我觉得都需要去有一个 diversified 的一个 supply。

就是你不能就依赖这一个芯片提供商 , 对不对 ? 就是你需要有一些供应链的考虑 , 需要有一些战略自主性的考虑 。

所以就是它去找一个可替代方案是我觉得是必然要发生的事情 。 然后就不只是 OpenAI 了 , 我可以预见到就是你看像 Anthropic 它有跟 TPU 前对吧 ,Anthropic 它也在去找寻一些其他的算力的替代方案 。

这个我觉得每一个 frontier lab 都在干这件事情 。

曼祺13:41

对 。

周楠13:41

然后同时呢 , 就是很明显的就是推理是越来越重要的 。 推理呢在这个时候就决定了用户的产品体验 ,以及包括其他 developer 用这些模型的一个商业毛利 。

就是你需要这个推理做到低延迟 , 然后高吞吐 , 然后 cost per token 也是越来越优化 。 所以就是说 Cerebras 它确实能在这些方面都提供非常明显的优势 。

那对于这个 frontier lab 就是有非常明显的这个吸引力 。 所以我觉得模型公司它不只是说要去买算力 ,而且它要去找到一个英伟达的一个 option B 替代方案 。

曼祺14:18

Cerebras 是 Sam Altman 个人投的 , 还是 OpenAI 投的 ? 你觉得这个在美国这算关键交易吗 ?

周楠14:24

这个是他个人投的 ,Sam Altman 当年个人投的 。

曼祺14:27

个人投的 。

周楠14:28

对 , 对 , 对 。 这不算关键交易 。 因为 Sam Altman 他其实投了很多公司 ,他投了一些硬件啊 , 包括他投的一个硬件公司也被 OpenAI 最后买了 。

曼祺14:36

对 , 你说这个事我知道 。 当时我觉得也有些人会吐槽吧 , 就是觉得 Sam Altman 有很多这种资本运作啊 。

周楠14:42

是 , 这个就是脚踏实地就好 。 因为他也不是说一个特别大的一个股东 。

曼祺14:46

对 , 你刚刚说到他和一些前沿的 AI lab 合作 ,其实最近就 6 月初的时候 ,他们也宣布和 Amazon AWS, 就是和云厂商也有更多合作 。

但另一方面 Cerebras 自己也有它的云业务 。 这个是一种什么样的布局和思路啊 ?

周楠15:01

Cerebras 它现在也开始做自己的一个云平台了 。 这个也让我不禁回想到 10 年前我们当时投的时候 , 那个时候 Cerebras 它的客户是就是当时能够有能力训练深度学习模型的人那些平台 。

包括我知道那个时候像 Cerebras 也跟 Google 谈啊 ,也跟 Microsoft 谈 ,也跟 Amazon 谈啊 , 就这种大的平台才能够去训练 , 才有 data center, 才能够训练大的模型 , 当然也包括百度对吧 。

现在我觉得它去构架自己的云平台就是原因很明显 ,因为它的客户越来越多了 , 就不只是这些大的这个 frontier lab,也有很多的应用场景 ,也有一些做应用的一些客户 。

那么对于硬件公司来讲 , 就是纵观这个生态 , 就因为我在高通做这么多年, 就是我发现硬件公司一个很大的挑战就是所谓的叫做 adoption friction。

怎么解释这个东西呢 ? 就是你说让客户去买一套全新的硬件 , 就是新的一个计算的方案 、 解决方案 , 部署到自己的这个数据中心 , 然后呢 ,因为你是买了一个新的硬件系统 , 你还要去改修改这个软件站等等 , 这个周期会很长很长 。

那 Cerebras Cloud 呢 , 它通过去做自己的 Cloud, 就可以把这个整个非常复杂的底层系统给它封装起来 。 因为它有这个 Cloud, 那客户就直接可以直接就使用 API, 可以立刻就是说 plug in Cerebras 的产品到自己的这个不管是模型的训练也好啊 , 还是应用也好 ,API 应用也好 , 都可以让这个 Cerebras 立刻用起来 。

所以我觉得就是说对于 Cerebras 的这样的客户端的一个 adoption 的速度来讲 , 它去 build 这个云也是有相当的一个战略意义的 。

曼祺16:36

其实我当时看到它有云业务的时候 , 我有一个比较阴暗的揣测 。 就或者说我觉得这个对公司来说它有一种风险和诱惑吧 。

就是我 build 一层云之后 ,其实我底层用什么算力 ,有时候对客户 、 对市场来说可能都没有那么重要了 。 因为我下面用别的算力 ,其实我也可以从这个云平台获得收入嘛 。

但是最近我看这个创始人就 Andrew Feldman,他在 Bloomberg 的 Tech 峰会上非常强势的表态 , 我们会和所有人合作 , 除了英伟达 。

周楠17:05

对 。

曼祺17:05

那就至少他公开层面他是自己说我是不会去用英伟达的芯片或者和他们合作的 。 这个表态也挺有意思 。

周楠17:13

我不知道你有没有观察到 , 就是说英伟达 , 英伟达它当然有很多就是很强的生态和云厂商的这些渠道了 , 对吧 ?

它自己就 。

曼祺17:22

对 , 它自己就 。

周楠17:23

Core wave。

曼祺17:24

对 , 孵化了像 Core wave 啊 , 然后跟像 Nebius 这样的 NeoCloud 的紧密合作 。其实这些 NeoCloud 它们也有很强的痛点 , 就是它的算力其实也不够 。

它们要为了服务它们的客户 ,GPU 已经成了一个很大的 constraint。 那所以对于 Cerebras 来讲 ,因为在一个算力是成为 constraint 的情况下, 那它去做一个云也是一个对于它业务的一个延展 。

就是它会让它的业务具有更强的一个护城河 。 然后呢 , 加上它如果有云的这个业务的话 , 那它会给客户提供我觉得更多的 、 更整套的一个解决方案 。

就比如说 , 如果我是一个 new model, 就是我一个做模型的一个公司 , 那如果我去找这个英伟达以及周边的这个 Cloud company, 可是我还是不能解决我的算力问题啊 。

那如果我有一个 Cerebras 这样方案 , 再加上云 , 那这样我就是有一个 one stop solution, 我就是可以直接去用 Cerebras 的云去做推理 , 去运行我的这个推理的这个 workload。

那其实这是一个非常省事的一件事情 。 但我只是从一个商业 、 从一个产品逻辑上的角度上去这样讲啊 。

上下限18:27

曼祺18:29

总结来说 , 你现在能看到 Cerebras 这个公司的上限和下限是什么呀 ? 就比如说你觉得它保底能做到什么 , 然后如果它发展更好能到什么状态 ?

周楠18:39

它的上限其实很高 。 因为你看现在就是说 AI compute 的这个需求是非常非常大的 。 所以我觉得这个在推理上的这个上限可能真的是无止境的 。

我觉得它如果后面到比如说 500 billion, 我是不会吃惊的 。 那么它的下限就是说它的这个 Wafer Scale 的这样的一个解决方案是不是能够持续的 scale。

因为它目前的客户不得不说 , 就是你看它的一个照股市上的一个风险披露 , 就是它的客户还是比较集中的 。

它现在几个大客户 , 就包括像 G42 啊 , 这种几个比较大的客户 , 还是就不像说像其他的芯片厂商这么的 diversified。

所以它需要在它的客户层面上去有更多的让它的这个使用的范围能够被迅速的 scale。 所以它的这个解决方案呢 ,是不是能够在一个大规模的情况下去迅速的 scale, 我觉得可能是它需要去关注的一个方向 。

我觉得它现在又有 data center, 然后目前它的这个 Wafer 的这个解决方案已经不是问题了啊 。 但是就是说你是不是能够持续的在一个稳定的环境下去交付运营 ,并且让客户用起来 , 这个我觉得是他们需要去需要去注意的 。

曼祺19:54

这里正好可以补充讲讲 , 就是它用的这种新方案 Wafer Scale, 就一个晶圆上做得特别大 , 它去规模化交付的阻碍或者说难点是什么呀 ?

周楠20:05

我们可以讲讲就是 Wafer Scale Engine 的一个好处跟代价吧 。 我们现在可以讲讲就是说这个 Wafer Scale 它跟传统的芯片制造有什么样的不一样的地方哈 。

我尝试用一个比较容易理解的方式来解释一下 ,因为它真的非常 technical。 就是传统的芯片制造其实是在一片晶圆上你做很多很多的小的芯片 , 然后你把它切开 , 然后再把它封装 , 然后再把很多的 GPU 通过这种 PCB 啊 、NVLink 啊这种方式给它连起来 。

但是 Cerebras 它是反过来了 , 它尽量不想把这个晶圆切开 , 它是在一整片晶圆上做了一个非常大的一个 AI 计算引擎 。

就是它等于说是八十几个那种芯片在里面无缝互连了 。 那么它这么做的一个好处就是说它的计算单元 、 内存 , 还有通信网络都在同一个硅片上 。

这样的话呢 , 就是它的数据不用频繁的从一个芯片搬到另一个芯片上去 ,也不用去把外部的这个 HBM, 就是高通信带宽的这个记忆搬到计算单元上去 。

所以这样的话它就可以非常的加速这个计算 。 那么就如果打个比方上来讲的话 , 就是 GPU 有点像是很多很多很强大的人类的这种脑袋瓜 ,但是它需要靠一个高速的网络去协作 。

而 Cerebras 它是一个非常非常巨大的一个大脑 , 尽量让计算和记忆都发生在同一个硅片上 。 那如果说 GPU 的优势是它的生态很成熟 、 通用性很强 , 那 Cerebras 的优势就是让这个推理 , 尤其是跟推理相关的 AI workload, 减少这种分布式的通信和内存的搬运 。

这个是我对他们两个这个不同的一个解读吧 。 那么它的挑战在哪呢 ? 就是说这个挑战就是涉及到当时的一个风险性问题了 。

曼祺21:58

就你指你们投资决策的时候的风险性问题 , 当时你们就担心的问题 。

周楠22:02

对 , 对 。 因为我可能有一个 gap 点 , 就是说当时的风险应该现在大多数都已经解决了哈 。 就是当时的风险就是包括你这样的一个颠覆性的架构里面的风险点有很多 。

我们一会可以去着重的拆解它 , 讲它的风险点 , 包括它的这个封装啊 、 散热呀 、 良率啊等等 , 它的风险点也非常非常多 。

那如果你回到现在的这个点上, 它已经上市了 , 你想说它的潜在的这个下限是什么 ? 就是我刚才讲的一个是它的客户集中度 , 一个就是说我觉得英伟达也不会说坐等让它这个市场被 Cerebras 拿走 ,但是我觉得这个市场还是非常大的哈 。

就英伟达可能也会去推出一个推理性能非常强的芯片 。

曼祺22:44

对 , 它其实也收了一个 Groq。

周楠22:46

对 , 它收了 Groq。

曼祺22:47

LPU。

周楠22:47

对 , 对 , 对 。 你的这个点的非常好 。 因为当时就是 Groq 在融资的时候 ,2019 年、20 年的时候 , 我当时也看了 Groq, 我就觉得这个公司跟 Cerebras 的一个思路还挺像的 。

再回到 Cerebras 它的这个架构的一个风险吧 , 就是我觉得还要看就是说这样的一个架构上能不能就是迅速的在客户上起规模 。

我觉得这可能还是它的一个需要注意的一个点 。

曼祺23:13

它生产制造会导致它起规模比较难吗 ? 因为我看到很多评论就认为这种晶圆做得特别大的良率会是一个问题 。

周楠23:22

这个良率确实是一个问题 。 我们回头可以在风险的时候可以去拆解当时的一些这个风险的一个状态 。

曼祺23:28

那我们接下来可以回顾一下你最开始投资 Cerebras 的过程 。 那是差不多 9 到 10 年前 , 当时刚加入百度美研的时候 。

投资起点23:28

周楠23:37

对 ,是的 。

曼祺23:38

你前面也提到说这是你自己去找到的项目嘛 。 可以讲讲为什么当时要去看这个方向吗 ? 包括你怎么接触到这个公司的 ?

周楠23:45

当时就是 2016 年, 我刚刚加入百度的时候 , 那个时候等于说我刚刚开始我的这个 VC 的投资生涯嘛 。

曼祺23:51

在那之前你是之前已经工作了一段时间 ?

周楠23:54

在之前我在投行做 。 当时我在 Barclays Capital, 就是华尔街的一个 Dutch bracket, 它收购了 Lehman Brothers。 然后那个时候我是那三年我做投行的时候 , 我是 transfer 到香港了 。

然后当时做了很多移动互联网公司的上市 , 当时刚好赶上了中国那波移动互联网上市的大潮 , 比如像阿里啊 、 京东啊这些 。

所以我当时就是说已经对于这个科技领域的这个一些公司已经打下了一些基础吧 。 那个时候我还做了一个 ,也是做了一个关于芯片公司的上市 。

然后我是在那个节点上,2016 年的时候 , 当时百度全球海选找这个 AI 投资人去加入它的百度的硅谷的人工智能研究院和吴恩达一起工作 。

我是在那个背景下加入百度的 。

曼祺24:35

所以当时相当于你是从二级转到一级和早期投资了 。

周楠24:40

应该说是从投行 、 从卖方转到了做买方 、 做投资 。 所以那个时候就是说我觉得我比较幸运的一点就是可能我跟传统的那些做 VC, 就是在一个 financial VC 里的一些投资人不太一样 。

我是一开始就是进入了一个纯 AI 的环境 , 就是当时大家都没有在投 AI 的时候 , 我是在那样的一个环境下去开始我的投资生涯的 。

曼祺25:06

为什么 16 年想从比如说移动互联网的这种 ,因为投行我理解是做 IPO 这些 , 然后来做 AI 啊 ? 因为可能当时那个时间点会觉得移动互联网还在一个上升期吧 , 或者说在一个收获期之上 。

然后 AI 那个时候是很早期的 。

周楠25:23

对 , 很有意思 。 就是因为我在投行当时做了一个搜索公司的上市 , 那个搜索公司没有成功 , 我就不说是哪个名字了 ,但是那个公司就在它的上市招股书里讲了一个 AI 的故事 。

然后那个时候是我第一次接触到 AI, 我就感觉哇 , 这个是 future。 然后再接着我就知道说哦 , 百度在 2014 年的时候请来了吴恩达加入它的百度的美国人工智能研究院 , 然后我那个时候也到硅谷几次 , 听了几次吴恩达的讲座 , 我就对百度这个公司产生了深深的崇拜之情 。

所以在 2015 年年底 , 它在全球海选这个 AI 投资人的时候 , 我就递交了简历 , 然后就非常幸运的被捞上岸了 。

曼祺26:01

所以虽然那个 IPO 没有成功 ,但是你从招股书里面 , 你从和团队交流 , 你看到这个新的机会 。

周楠26:09

对 , 它为我铺了一条加入百度的道路 。

曼祺26:12

OK, 那可以继续回到就是说你当时刚加入 , 为什么去找这个方向 ?

周楠26:16

当时刚刚加入的时候 , 每天都非常的激动 。 就是那个时候百度的美国人工智能研究院应该说是硅谷最强大的一个 AI research lab。

那个时候 Andrew 的号召力非常强 ,而且那个时候百度应该是为数不多的 AI lab, 就是给了充足的预算让你去买 GPU 去训练 AI 模型 。

而且 Andrew 也是应该说是第一个去昭告天下说 GPU 是可以用来非常好的来训练 AI 模型的这么一个 compute system。 所以我觉得 Andrew 跟英伟达之间也有一个非常重要的一个连接 。

如果没有 Andrew, 当时的就是给英伟达背书 , 就大家就不会形成这个认知说哦 , 原来 GPU 是要被大规模可以用于这个 AI 的模型的训练的 。

所以我就是在当时那样的一个背景下 ,在百度的这个人工智能研究院和这些世界上最顶尖的 researcher 们一起工作 。

这些 researcher 可能你也知道 , 就是很多的 , 包括 Dario,Anthropic 的 founder, 当时也在百度 。 我跟他没有 overlap 哈 , 就是先声明一下 。

但是那个时候那些研究员们有相当多的一部分人是后来 OpenAI 的早期的这些 researcher, 然后基本上那部分研究员是 2022 年以后 GPT moment 开始以后最早的那批 frontier lab 的 co-founder。

所以我觉得那个时候的人才密度还是非常的震撼的 。 我也就是在那样的一个环境下, 我想说那个时候可能是一个 AI 的 1.0 时代哈 , 就是那个时候美国百度那个 AI lab 里面那些研究员在做不同的事情 。

有些在做 speech model,有些在做 vision model 视觉模型 ,有些在用 deep learning 去找各个行业不同的解决方案 , 比如说像 retail 啊 、fintech 呀 , 然后还有我记得还有当时花了很多时间在做 healthcare, 然后还有 autonomous driving, 就是它有这么多不同的一个方向 。

但是当时有一个很强大的共识 , 就是也是在那个当时 DeepSpeech 的那篇论文 , 百度发表那篇论文之后, 就是我们已经看到了一个事情 , 就是 AI 的进步依赖于三件事情 : 更大的模型 、 更大的数据和更强的算力 。

所以在那个情况下, 我们形成了一个很朴素的判断 , 就是如果你想要 AI 持续进步 , 那么底层的这个算力基础就非常重要 。

而且 GPU 呢 , 虽然是当时最好的工具 ,但是它不是为了深度学习而从零去设计的 。 所以就是我们需要去找到一个更强大的一个算力系统 。

我大概经历了可能有半年的这样的一个学习吧 , 把整个 AI 的这个从训练到架构到数据到算力等等 , 就是一系列的这个从头到尾的知识都学习明白了之后呢 , 我是从 2017 年开始去满大街的去找新的跟这个 GPU 不同的一个算力系统 。

曼祺29:02

我觉得可以把你刚提到的 DeepSpeech 这个论文展开说一下 。 这篇文章 Dario 是一作 , 然后他在这个文章里他觉得发现了 Scaling Law 的雏形 。

就是在你加入的那个时候 ,因为这个文章是 2015 年年底发布的 ,在你加入百度美研的那个阶段 , 就是整个组织里会觉得这是个很重要的事情吗 ?

周楠29:23

我加入的时候 ,DeepSpeech model 的那个论文已经发出来了 , 我也跟当时的 researcher 们聊过这个发现 。 就是这个 DeepSpeech2 的这个 model, 我觉得是对百度来讲是非常重要的 。

就是在那个年代的时候 , 百度的美国研究院团队它还没有把 Scaling Law 作为一个非常有数学规律的一个结论去用系统化的去表达出来 , 对吧 ?

但是基于这个 DeepSpeech 的论文的发表 , 当时已经非常清楚的感受到一些什么事呢 ? 就是说当模型更大 、 当数据更多 、 训练更久 ,而且计算系统更强的时候 , 模型的表现就会持续的提升 。

我想把它说成就是这个可能是一个经验性的直觉 , 就是在后来语言模型的时代 , 它被更系统的验证和理论化了 。

也就是说大家今天所知道的 Scaling Law。 但是如果你去回溯的话 , 这个 Scaling Law 的诞生的这个萌芽就是当年的这篇 DeepSpeech 的这个 paper。

曼祺30:21

所以当时百度美研的人就认为这个事很重要 ,而且认为应该沿着这个方向去找一些研究和投资的机会是吗 ?

周楠30:30

对 , 可以这么说 。 就是当时这个结论出来以后, 这个很 clear 的结论就是说想要这个 AI 的能力继续提升的话 , 就是需要让它的模型更大 、 数据更多 , 然后需要训练更长时间 。

就这个 training 需要更长的时间 。 那时候还没有 pre-training、post-training 这个概念 , 然后也需要计算能力更强 , 所以就要找到一个计算能力更强的一个芯片 。

这个就是当时的对我来讲的一个投资的启发 。 那那个时候呢 ,因为当时百度美研有很多的这种 , 就是它的团队有在干不同的事情嘛 , 就像我刚刚讲的一个语言模型也有一个团队在做 。

那么当时做语言模型的时候 , 那个时候百度训练出来的语言模型就已经是将近 300 个 million parameter 了 。

那是很大很大的 。 就是你想那个 3 亿的这个参数量级 ,在 10 年前是非常非常大的一个参数量级 。 而且我很清楚的记得他们跟我说 , 当时为了要用 GPU 训练一个这样的模型 , 要至少三个多月的时间 。

我当时就听傻了 , 我说哇 , 我说要三个多月才能训练出来一个模型啊 。 她说对 。 那我说那如果你要调参 , 要去看这个模型的效果 , 你要把这个模型今天迭代怎么办 ?

她说那就是要好几个月的时间 。 所以基于这个时间的紧迫性 , 你想你想要让这个模型的能力能够迭代提高 , 那你确实需要找到一个更强大的芯片 。在那个时候我们用的那个英伟达那个芯片就是需要三个多月的时间 。

然后那个时候我就在一堆的芯片公司中, 当时找到 Cerebras 的时候 ,Cerebras 就说我们当然有个架构能够让这个深度学习的训练提效 1,000 倍 。

就是比如说你要用三个多月去训练那个模型 , 可能用当时的这个 Wafer Scale 架构 , 大概几天 、 几个星期就可以训练出来 。

所以我觉得当时这样的一个发现是非常的具有吸引力的 。

曼祺32:18

你当时还看到了哪些公司啊 ?

周楠32:20

还看到挺多的 , 包括像这个 Graphcore, 还有那个 Wave Computing 等等 , 还有一些做 ASIC 的公司 。 就是做 ASIC 的这个公司呢 ,其实我当时其实对于 ASIC 我是最早就把它怎么说呢 , 我认为 ASIC 更多的是应该算是推理芯片吧 。

但是因为我觉得当时要解决的最大的问题还是去做训练 , 至少基于当时 DeepSpeech model, 我认为就是让这个 AI 能力不断的去提升 , 我们先要去解决这个 AI 的训练的问题 。

所以我当时并没有把说找一个 ASIC 的这种推理芯片作为我的一个 priority。 我当时还是在找一个能够去提升这个 AI 的深度学习训练的模型的这样一个芯片 。

所以那样的情况下, 就是让我去感兴趣去做尽调的这个公司就集中到 Graphcore、Wave Computing, 还有 Cerebras 这三家 。

曼祺33:11

对 ,Graphcore 是 24 年被软银收购了 ,5 亿美元收购了 。

周楠33:15

对对 , 我现在当然不太记得当时 Graphcore 的一个跟 Cerebras 一个对比了 ,但是就是觉得说当时 Graphcore 我记得当时的结论就是它可以提速提效 ,但是它的这个效果就不如 Cerebras 这么好 。

当然它的架构也不像 Cerebras 这么的颠覆性 。 所以就是我当时作为一个投资人, 我的一个直觉就是说那我要投的话 , 我就是要投一个具有这种颠覆性的这样的一个架构 , 然后真的能够让深度学习的训练能够是这个百倍千倍的这样提速的一个公司 。

曼祺33:47

你刚说的第三家公司是什么 ?

周楠33:50

是 Wave Computing。 这家公司其实它的架构和理念跟 Cerebras 还挺像的 , 可是它的团队我记得是有问题的 。 所以这家公司当时是被我第一个淘汰掉的 。

曼祺34:02

这家公司现在还存在吗 ?

周楠34:03

不存在了 。 它应该很早以前就不行了 。

曼祺34:07

OK, 所以你当时三选一还是选到了一个就从现在的结果来看是最好的选择吗 ?

周楠34:13

我觉得三选一的时候 , 当时 Cerebras 的信号非常明显 ,因为 Cerebras 的团队非常的强 。 那个时候 Andrew Feldman 他前一家公司 Synmicro 当时是被 AMD 收购了 , 然后他几乎是带着这个他当年 Synmicro 的一个原班人马 , 然后带着他们对全新架构的这么一个愿景去创办了 Cerebras 这个公司 。

然后我记得当时最吸引我的一个点 , 就是那个时候我还对技术都不是很懂的时候 , 说他们有当时的团队大概有 80 多个人吧 ,有将近 70 个人都是 PhD, 然后他们的工作经验加起来有好几百年 。

所以就是可以见到这个团队是多么的有经验 , 多么的强大 ,而且是我见过 PhD 密度最高的一家公司 。 所以我当时就想 , 哎 , 这个 leader 这么有号召力 , 让他的原班人马有这么多的 PhD 为他卖命 , 然后这个公司才成立一年多 , 就让我感觉这个很不一般 。

所以就瞬间让我掉弃了我所有的这个好奇心和兴趣 , 然后开始对他展开尽调 。

曼祺35:13

因为他自己并不是做芯片工程和技术出身的 , 就我指这个创始人 Andrew Feldman。 这会是你当时投资的一个疑虑吗 ?

周楠35:22

对 , 这个问题很好 。 就是对于正常的芯片公司来讲 , 基本上创始人都是工程师出身 , 对吧 ? 就是那像 Cerebras 的这种系统级的公司 , 我觉得当时 Andrew 的强项可能就是在于他对于产品的定义 ,他组织团队的能力 , 还有理解客户和他坚持长期愿景的这种能力 。

就我当时可能我是更多的凭着一个我的一种赤诚之心加直觉去投他的 。 但是我现在回溯看来 , 我觉得他当时身边有几个很强的信号 , 让我觉得如果用我现在的知识再回头看 , 我还是会选他 。

那他这几个信号是什么 ? 就首先他身边已经有非常强的技术 co-founder,而且这些技术 co-founder 都是跟了他很多年的 。

所以这个东西就肯定不是减分的 ,而且是很好的一个组合 ,因为他已经有两三个很强的 co-founder 跟他一起了 。

然后另外一个呢 , 就是我觉得 Andrew 他是一个非常有经验的创业者 , 就他可以说是叫做 zero entrepreneur,他在这个行业里面很多年了 ,有非常深厚的这种 ecosystem 的这样的一个关系网在里面 。

那他的优势 ,他非常的清楚客户的一个痛点 , 然后呢他也能够讲得很清楚 , 就是说这个系统为什么必须要存在 。

还有一点呢 , 就是我印象很深的是他的这个 conviction,他对他做的这件事情有很强的 conviction。他不是说非常空洞的去讲一个 vision。

我现在回忆就是说我在做 DeepTag 这么多年投资中, 有一些 founder 他是给你讲一个很大的 vision, 讲说我要解决一个很大的问题 。

但是就是说具体这样的一个技术路线 , 这样的一个风险该怎么弄 , 很多 founder 他是讲不清楚的 。 但是 Andrew 恰恰相反 , 就是说在 Cerebras 这么一个颠覆性和复杂的技术路线上 ,他扛住了我对于风险的所有的尽调 。

尽调37:06

周楠37:07

因为当时我是带了好几个百度 AI 的 researcher 去做了非常深度的尽调 , 把他的风险全部打散了讲 , 比如说良率怎么办 , 散热怎么办 , 电源怎么办 , 那那个编译器 compiler 怎么办 , 客户为什么要买 。Andrew 对这些问题完全不回避 ,他一个一个的拆开来 , 非常耐心的跟我讲 。

而且当时我作为一个芯片小白 , 就是他可以不厌其烦的每天跟我讲两个小时 、 四个星期 。 所以这一点上我认为他是一个非常 decent 的一个创业者 , 就是他可以不但把 vision 讲清楚 ,他可以把风险点从第一性原理一个一个的讲清楚 。

那对于投资人来讲 , 就是我们投 DeepTag 不是说只是投一个宏大的愿景和一个很大的 vision,而是我们要知道我们投的风险到底是什么 , 我们能不能把这个风险清清楚楚的给它拆开来 、 解构开来 , 然后看到这个去抵消这些风险的一个 mitigation 的一个战略是什么 。

所以我觉得这些整个这个综合的这一套 , 就是从这个投资的这样的一个过程来看 , 我觉得 Andrew 是非常非常重要的一个创业者 。

曼祺38:17

你们当时尽调的这个过程具体来说是怎样的呀 ? 以及你找百度美研的研究员来支持你的话 , 这个在组织上是怎么协调了 ?

是吴恩达会直接帮你调人来支持吗 ? 因为我觉得有些研究员他不喜欢干这一类事 。

周楠38:31

我觉得当时这个时间点非常有意思啊 ,因为当时像 Greg Diamond 他们 ,他就是在亲自训练那个语言模型 , 还有包括其他的一些 researcher,他们在训练 3 亿参数的这个语言模型的时候 , 就是有这个实打实的痛点 : 太慢了 , 用这个英伟达的芯片要搞三个月 。他们实在是很想找一个很快的芯片去帮他们解决这个训练的这个时间的问题 。

所以当我把 Cerebras 这样的一个架构带到他们面前的时候 ,他们就是眼前一亮 , 就是觉得哇 , 这个就是他们可能期待已久的一个解决方案 ,他们非常想知道这个解决方案到底能不能行 , 靠不靠谱 。

然后 Greg Diamond 他本人呢 , 你知道就是他是 Nvidia CUDA 的 key dealer, 所以我觉得当时百度美研非常强 , 能够挖来这么厉害的一个人。Greg 的整个 PhD 的期间 , 就是在帮英伟达建造他的 CUDA 的生态系统 。

就可以毫不夸张的说 ,Greg 就是当时在给英伟达构建这个 CUDA 的这么一个核心的几个人中的特别特别重要的一个 。

曼祺39:30

而且他也是 DeepSpeech2 那篇论文的作者之一 。

周楠39:34

对 , 所以当时 Greg 他看到这样的一个架构的时候 ,他也很兴奋 。 就是我们的几个 researcher 就大家都非常的兴奋 , 就是非常积极的要跟着我一起去做尽调 。

然后我也非常的激动 , 就是我觉得哇 , 我发现这样一个架构 , 然后我可以在实战中去和这些 researcher 们一起去讨论 , 一起去实践 。

我觉得那段经历是一个非常宝贵的一段经历 。

曼祺39:57

而且后来 Greg 跟吴恩达一起创业了一段时间 , 对吧 ?Mending AI 的时候 。

周楠40:02

对 ,Greg 跟吴恩达一起创业了 。 不但是这样 ,而且当时 Andrew 的这个 Cerebras 当时是 ,他当时只有一个 cellularity job, 就他当时的这个所谓的 Wafer 这个构架在实物上是没有的 , 就是这个芯片还没有流片 。

所以他所有的构想都是在一个 cellularity 上 。 而能够去验证这个 cellularity 的公司 , 就当时只有百度一家 。 就因为只有百度当时的语言模型是世界上最大的语言模型 , 那个时候 Transformer 还没有出来 , 真的就是 pre-Transformer。

百度的语言模型是基于百度当年自己的研发的一个架构 , 叫做 Pilote Paddle, 就是飞桨的一个构架 。 我们是把这个语言模型跑在了 Andrew 的这个 cellularity 上 。

然后呢 , 当时的信号是比较正面的 , 就是我不能 disclose 太多里面的这个结果 ,但是真的就是只有百度能够说在他的架构上去跑这样的一个模型 , 然后给出一个尽调的结果 。

我觉得当时尽调结果对于 Cerebras 来讲也非常的重要 ,因为等于说在某种程度上, 你验证了他的想法 , 验证了他的这么一个技术的这么一个理念 。

曼祺41:07

那可以透露一下当时大家测算是比如说能把训练时间压缩到什么量级吗 ? 从以前三个多月能到多短 ?

周楠41:14

当时因为是个 cellularity, 所以就是说只能通过一些数据去推测一些结果性的东西 。 就它并不是说我真的一个语言模型跑在一个芯片上, 它是一个语言模型在它的 cellularity 上去 run。

比如说假设你这个芯片的良率也可以顺利通过 , 假设你的 compiler 也都没有问题 , 假设你的散热封装也都没有问题的情况下, 那确实它的结果是非常好的 。

所以这样的一个过程对他们来说 , 我觉得对 Cerebras 来说当时也是非常有意义的 。 我可以透露的就是说那段时间一些研究员吧 , 包括像 Greg 也是 ,不只是说帮助我做投资做这个尽调 ,也是跟 Cerebras 有相当一个紧密的合作 。

然后还有一些研究员甚至后来都加入了 Cerebras。

曼祺42:01

那像 Greg 这些研究员 , 我理解他们能去验证的部分是这套方案对模型训练提效是否有用 。他这个方法的一些其他的风险点 , 就你前面提到的良率 、 散热 、 封装等等 , 这些你要找一些什么样的专家来支持你们去判断 ?

周楠42:19

这个我就是找到了一些当时比如说像 Stanford 的一些教授啊 , 一些芯片专家啊 , 我觉得这些就是硬件层面上的一些风险 , 它其实是理论上是可以去拆解出来的 。

比如说如果它当时的这个良率不好 , 如果一开始流片失败 , 那失败到什么程度 , 我需要多长时间去重新去进行这个流片 , 大概 total cost 多少 。

我们当时都把这个最坏情况都演算了一下, 那可能就是要多花个六个月的时间 , 然后要多花个五到十个 million, 那公司的现金流能不能支持这样去重新去跑一遍这个流片 。

我们当时觉得这个风险都是可控的 。 所以这个是硬件层面上的良率风险 。 然后像散热风险呀 , 包括它的水冷和系统这些设计等等 , 当时这个水冷和系统的设计它是已经出来了 。

就是当时我记得在他办公室里 ,他整个给我看了他那一个 , 就是液冷的这么一个系统 , 特别大的一个液冷的一个盒子 。

那个芯片大概这么大 , 那个整个液冷系统就是更加大的一个盒子 。 所以可以推断就是说当时他的这个液冷是有一个非常好的解决方案的 。

然后包括像比如说他的这个 ,因为那么多的芯片在一个 Wafer 上, 那你万一出现一个短路了怎么办 , 电源风险怎么办 。

当时他们也有一个软件层面的一个去识别哪颗芯片短路以后, 它去把它重新跑到另外一批 redundancy 的芯片上的这么一个方案 , 它全部都有 。

所以我就觉得说从这个物理和硬件风险上来讲 , 它已经做到了它能够可控的一个最好的这么一个解决方案 。

然后回到说像 Greg 当时, 就当时百度美研的这些研究员们给他更多的一个风险测算是 compiler 这个系统层面的一个测算 。

比如说就是说模型怎么映射到这个架构上, 怎么去和像 TensorFlow, 就比如说往上跟客户去对接 , 它的数据中心对接的话 , 你 TensorFlow 呀 , 然后 Caffea 这些 , 还有 PyTorch 啊 , 你是怎么去对接的 , 这个 IPA 怎么去对接的 。

这部分其实当时百度的美研应该是花了很多的精力去做尽调 , 然后当时就觉得这个 compiler 也是可以去解决的 。

就是这个当然很多的系统级 , 还有这个代码级的这种尽调 , 这个我觉得是当时也是很重要的一个点 。

所以我在想说如果没有美研的这些研究员 , 那这部分的风险我是没有办法去预测的 。

曼祺44:40

所以当时百度美研并没有纯硬件的人 ,是比较少的 。

周楠44:45

有的 ,有的 。 当时在自动驾驶的上面有很多纯硬件的人, 我全部都问了 。 就是当时我讲的这个散热风险 、 电源风险 、 良率风险 , 全部都跟这些做硬件的专家们讨论了 。

当时那批硬件的专家们有相当一部分现在也在做 CPU 的创业 , 所以他们当时也给了我很多很宝贵的这些尽调的意见 。

所以我就觉得说可能如果你看 Cerebras 早期的这些投资人, 大概真的就是百度做的这个尽调是从技术角度上来讲是做得最深入的 。

然后我们给的这个尽调的报告 、 风险的报告也是最全面的 。 我当时其实把我的这个当时我们尽调的这样的一些初步的一些结果 , 就大概的一个结果 , 我也跟当时当时的这个早期投资人像 Benchmark 投资人还有 Code2 跟他们都说了 。他们因为是比百度更早投的嘛 , 跟他们就是分享尽调的这样的一个结果之后 ,他们也都是觉得心里的石头可能没有说完全落下

了 , 可能也落下了一小半 。

曼祺45:46

对 , 你刚说百度出去很多人又创业嘛 , 美研出去很多人创业 , 我觉得挺有意思的 。 就百度不光在中国互联网是黄埔军校 , 看起来百度美研在硅谷也是一个黄埔军校 ,也输送了很多业界人才 。

周楠45:58

我觉得是相当厉害的黄埔军校 ,因为就是里面的一些 researcher 吧 ,他们是 Inflection 的 co-founder,是 Adept 的 co-founder, 然后也有一部分人后面是这个 Meta 的 Fair 实验室的一些 funding 的 member, 就不要讲 OpenAI 和 Anthropic 了 。

曼祺46:18

这个我们后面也可以展开去关于黄埔军校这个问题 。 我们可以先把 Cerebras 的投资过程聊完 。 你们后来上投决是一个什么过程 ?

投决46:18

曼祺46:26

包括当时是哪些人来一起做决策 , 投不投 ?

周楠46:28

对 , 当时在投决会上是我的老板 Jennifer Lee, 就是百度的 CFO, 还有陆琪 , 还有 Robin 本人。 我当时觉得非常欣慰的一点 , 我觉得作为一个投资人真的是非常的幸运 。

就是我当时把我的 investment memo 大概十几页纸吧 , 就是中文一稿和英文一稿 ,在四个星期后我发给了投决会之后呢 , 应该就是不到两天的时间 ,他们就拍板了 , 就通过了这个投资 。

这点上我当时觉得是理所应当 ,但是现在就是因为我后面又在高通这种情况下 CVC, 包括还有也知道其他 VC 的一些投决会之后, 我才知道说当时多么幸运有这样一个有眼光的一个投决会 。

首先他们是对这个非共识的投资 ,他们是有共识的 , 就是要去投一个非常具有颠覆性的一个算力的这样的一个系统 。

然后百度从上到下, 我觉得都是非常支持对于 Cerebras 这样一个投资的 。 所以当时的投决会我觉得就是无痛秒过 。

曼祺47:22

你还记得李彦宏和陆琪他们有一些什么具体的评价或者反馈吗 ?

周楠47:29

这个具体评价反馈我不太记得 , 当然我也不太方便透露 ,但是就是总体来讲 , 当时他们这个投决会非常高层就是很支持 。

曼祺47:37

吴恩达不在这个投决会上 ,他不参与投资决策 。

周楠47:42

我当时在投资的时候 , 吴恩达已经离开百度了 , 所以他不在这个投决会上 。Andrew 是 2017 年的 4 月离开百度的 , 然后我这个投资是 2017 年的 8 月份投资完成的 ,8 月 、9 月的时候投的 。

所以那个时候投决会上, 当时投决会就是 CFO, 还有陆琪 , 还有 Robin。

曼祺48:01

所以你从接触上这个项目 ,因为是 17 年初就去找去聊嘛 , 然后到最后投 , 中间时间还是挺长的 ,有几个月的时间 。

周楠48:10

应该说我 17 年初的时候还不认识这家公司 , 我是到 17 年的上半年后期的时候接触到这家公司的 。

当时也是很巧 , 就是当时是我把那个 Code2 的 funding partner, 就是 Thomas Lafont,他拉到百度来 catch up, 就是当然这个人现在是大佬了 。

然后 Thomas 当时就刚好也见了一下, 就是当时刚好就是 Jennifer 也在美国这出差 , 然后他就跟我们有一个 meeting。在 meeting 的过程中我也就提到了 , 就是说我们对算力的一个构想 。

然后因为 Thomas Lafont 他本人当年是半导体的研究员 , 就非常有意思 , 就这个人他是 Code2 的 funding partner, 然后他同时也花过很长时间研究半导体 。

所以他当时对我讲的这个 topic 就很激动 , 然后就开始跟我说他投了一家公司 , 非常的就颠覆性 , 叫 Cerebras, 然后跟我讲一下, 然后我当时就眼前一亮 , 就立刻开始去看这家公司 。

那个时候我们已经开始就是说已经看过像 Graphcore Wafer Computing 这样的 , 就是处在一个很 linguid 的状态 , 就是没有觉得想投这家公司 。

然后直到 Cerebras 出现 , 然后我们当时就是眼前一亮 。

曼祺49:14

当时百度的管理层 , 比如说像李彦宏 ,他有提过可以等流片之后再投吗 ?

周楠49:21

没有 。

曼祺49:21

因为你们刚好在流片之前投 ?

周楠49:23

没有 。

曼祺49:23

我觉得这个时间不知道你们怎么考虑的 。

周楠49:26

没有 , 没有 。 就是当时百度的高管们没有去干涉这件事情 。 我觉得百度的高管们 , 你想能够在那么早就成立百度美国研究院 , 像 Robin 本人那个时候那么早就参与去 , 就你知道他们当时去 build 这个 Jeffrey Hinton 的这个 lab, 就是那么有 vision 的一个一群 leadership。

就是我现在想想 ,他们一定是对于这样的一个颠覆性的投资 ,他们是支持 ,是我觉得是理所当然的 。

曼祺49:51

你还记得当时你们投进去那会儿估值是多少吗 ? 包括它对比你看的其他公司 。

周楠49:57

估值是不便宜的 , 当时估值差不多 , 我记得是 700 多个 million。 我现在还回去看我的这个当时的 memo, 很有意思的是 ,700 个 million 是个不便宜了 ,在当年 16 年、17 年那个背景下, 这种都快要到 Unicorn 了 , 对不对 ?

所以就是说这个公司当时是不便宜的 , 很贵的 。 然后我测算它的收入 , 我对于它的收入的测算是 2025 年大概可以达到 AI 的这个训练的市场 , 芯片市场是 22 个 billion。

我现在想想我说错得有多离谱 ,2025 年的这个 AI 的现在看它的这个训练市场呢 ,是比 22 个 billion 大了不知道多少个量级了 。

所以在我当时在推测 2025 年大概 22 个 billion 训练市场的情况下, 我对于 Cerebras 这个投资的回报率大概的预测是 3 到 5 倍 。

所以就是可见我当时真的是小看了这个 AI 的整个这个腾飞的速度 。

曼祺50:49

但是你当时测算的它的市占率要比较高 , 对吧 ?

周楠50:53

我测算市占率应该会有大概 20% 左右吧 , 这样对它的一个市占率进行一个测算 。

曼祺50:59

就现在的情况是它的绝对收入体量 , 包括它签的一些订单是非常大的 ,但是它的市占率是很小的 ,因为这整个盘子特别特别大 。

周楠51:08

是的 ,因为就是在 2017 年到 2019 年的时候 ,其实 Cerebras 经过一段非常艰难的时光 , 就它确实那个时候流片有一些推迟 ,因为这个架构的原因 , 就是我刚才讲的那几个风险 ,其实我们当时对于风险测算的下限它基本上都发生了 , 就是它的流片 。

还有一个延迟 , 差不多就是可能延迟个一两年, 就是当时我们风险测算的下限它基本上都发生了 。

所以就是可见 , 就是我觉得这个团队的韧性 , 团队的这种坚持是非常非常重要的 。 也就是说虽然它现在的这个市占率还不高 , 可是它这个架构它成功了 , 所以现在成功了以后, 就是要在这个推理市场上进行覆盖 。

我不认为说它在训练市场完全没有市场 , 我认为是有的 。 只是说现在大家对于 Frontier Lab 来讲 , 它既然在训练上已经用了英伟达 CPU, 它其实已经成了这套体系 , 你让它去换一个训练芯片 , 对它们来讲风险也比较大 。

而这个 Cerebras 的这个解决方案刚刚好对于推理这个场景来讲 , 是一个非常好的解决方案 。 所以它现在的大多数的客户都是一个推理 , 就是在推理场景下的这样的一个客户 。

曼祺52:18

因为 OpenAI 的 200 亿美元的订单还没有交付 , 这个阶段能说它推理这个市场成功了吗 ? 它推理也是需要 Infra 配合的吗 ?

周楠52:28

需要 。

曼祺52:28

它的这个算力结构很特别 ,是不是导致 Infra 要改动的比较多 , 就不知道生态上能跟上吗 ?

周楠52:34

我觉得是需要一些定制化的 。 因为 Cosign 到这个体量了 , 我认为他们就是为了 OpenAI 的这样的一个订单去定制化这样的一个 Infra, 我觉得是完全必要的 。

那就是看它能够多快去交付这个解决方案 。

曼祺52:49

他们自己团队就能搞定这个事儿是吗 ?

周楠52:51

我认为可以搞定 。他们在当年刚刚成立的时候 , 那 80 多个早期的这个员工里面 , 那么多的 PhD 里面就有相当多的人是做 Infra 的 。

就是它的这么多的 , 它的这个人才结构是非常全面的 。

曼祺53:04

那他们现在会和一些第三方的这种 Infra 公司合作吗 ? 比如说像 SG-LaM 这种生态里也成立了新的公司吗 ?

周楠53:11

我认为是有一些合作的 ,但是我不能确定 。 我也最近曾给它介绍一些生态系统里的公司 , 比如说像做 Agentic AI 的一些 Infra,因为 AI agent 这样的一个推理市场 ,也是他们一个非常是符合他们这个 value proposition 的一个市场 。

所以我觉得像 AI agent 的 Infra 也可以跟它进行一些合作 , 这样的话它整个 workload 在跑起来就会更顺畅 。

至暗时刻53:35

曼祺53:36

你说 17 年到 19 年是这个公司比较低谷的阶段 。

周楠53:40

非常艰难 。

曼祺53:41

对 , 那个时候很艰难 。

周楠53:42

当时就是因为我两周前去参加它的这个 IPO 的庆祝会嘛 ,在纽约 。 当时在那个庆祝会上, 它的几个早期投资人都纷纷发言 , 让我非常感动的是 ,他们每个人都讲说在 17 年到 19 年的时候 , 公司遇到了很大的挑战 , 就是出片也没出出来 , 各种风险层出不穷 。

一会儿是这个 compiler 搞不定 , 一会儿是这个 Wafer 的这个流片 ,有各种各样的问题 , 什么都在 delay。 但是这个 board 就是对于 Andrew 的支持 , 我觉得是非常大的 。

就是我觉得这个公司能够成功 , 它的早期投资人这三个董事会成员对它的耐心等待也有很大的关系 。

因为你会发现说 , 你想让一个计算芯片取得成功 , 真的是没有十年的时间 , 它是很难实现的 。

曼祺54:31

它现在三个董事会成员是 Benchmark、Code2, 还有哪家机构的人 ?

周楠54:36

没有夫妇 ,是 Benchmark, 还有 Foundation Capital, 还有 Eclipse。

曼祺54:40

它在成长过程中间算是一个对主流基金来说比较抢手的项目吗 ?

周楠54:46

我觉得不算 。 就是在你看它包括最后叫两年前的那轮投资的时候 , 我记得估值是 Graphcore 那轮是两个多 billion, 然后它后面还有四个 billion、 八个 billion 的这种投资 。

八个 billion 那个时候应该有一些比较大的基金进来了 。 但是在两三年前的时候 , 主流的一线 VC 是不敢投的 , 就是他们不知道这个市场到底能够有多大 ,他们对于 Wafer Scale 的这种构架 , 我觉得他们没有这样的一个这么深的一个 insights。

然后再加上当时 ChatGPT Moment 出来之后, 训练芯片就一边倒的都在用英伟达 。 所以那段时间反而是它市场前景没有那么明朗的时候 , 就是这个芯片流片出来了 , 可是好像在训练芯片上又没有去用 ,因为它可能出来的比较晚 , 就是在训练这个场景下已经大家都在用英伟达了 , 就是这个迁移成本比较高 。

那段时间我觉得也是比较难熬的一个点 。 然后它那个时候有一个客户 , 就 G42 吧 , 就是既是它的投资人又是它的客户 , 所以那个时候就是有一个那种单一客户的一个风险 。

曼祺55:49

那如果说它当时流片更快的话 ,是不是有可能现在的算力结构还挺不一样 ? 你觉得会吗 ?

周楠55:55

我觉得这个问题非常好 。 我觉得如果它当时流片成功了 , 或许会不一样很多 。 就比如说 OpenAI 当时在训练模型的时候 , 对吧 ,是老黄拿着这个 GPU 送过去了 。

如果那个时候已经有 Cerebras 了 , 那就是 Andrew Feldman 拿着 GPU 送过去了 ,是不是 ? 所以我觉得就是确实是如果它流片更快一些的话 , 或许这个历史会被更多的改写 。

曼祺56:18

那就得特别快 。 因为其实 17 年 Transformer 发布之后,OpenAI 就已经开始探索这个方向 。

周楠56:26

没错 , 没错 。 而且你看就是说现在的这个 Frontier Lab 训练这个模型的 GPU, 它都是一个集群嘛 ,cluster, 然后这个 datacenter, 你的基建已经投资了 , 已经打下去了这个 。

所以你要在这个时候去换到其他的芯片上去 , 它其实是个非常大的系统风险 。

曼祺56:42

我觉得这可能确实也跟半导体行业的周期有关 , 就是它本身涉及到硬件迭代周期就比较长 , 然后大家要去使用一个产品的时候 , 还是会非常考虑稳定性和它的良率能不能规模交付 。

那英伟达 GPU 毕竟是一个积累了这么多年的产品 , 软硬件都积累了 。

周楠57:04

这么多年, 对 。

曼祺57:05

其实我刚才那个假设 , 我觉得回头看它也很难成立 。

周楠57:08

对 。

曼祺57:09

就是因为它本来就提了一个比较新的方案 , 就我说 Cerebras, 然后这个新的方案它成立也没有那么久嘛 , 就在 17 年的 Transformer 创业那个时间节点 , 它成立时间没有那么久 。

然后这个新的方案你又要经过物理制造的验证 , 就反正在历史上我感觉半导体行业就没有这么快 , 你总是会出各种问题 。

周楠57:28

对 , 没错 。 就是假设它流片成功 , 那你也要能够规模生产交付 , 对吧 ? 然后你的这个 compiler, 就是软硬件也得跟上 。

所以确实比较难这么快能够达到一个理想状态 。 如果你不到那个理想状态 , 那么这些 Frontier Lab 就不会用你 。

曼祺57:42

我觉得可能这也是和大模型或者软件公司不太一样的一个地方 , 就是它还是挺厚积薄发的这种硬件公司 。

周楠57:51

是的 ,是的 。 但是我觉得反而是现在是个好机会 , 就是说你看包括它跟 OpenAI 的合作 , 包括像 Anthropic 也在去找这种定制化芯片 , 对吧 ?

因为你现在的这个对于 Compute 的使用 , 要一部分是训练 , 相当大的一部分是推理 。 而当你的推理变得非常非常大的时候 , 那 Cerebras 它的好处和优点就都凸显出来了 。

所以我觉得 Cerebras 其实与其去掰扯这个训练 , 还不如把所有的精力都放在把这个推理的 workload 做好上 。

所以我觉得就是战略决策上来讲 , 你去吃这个推理的市场 , 我觉得是个比较正确的一个决定 。

曼祺58:26

说到这个周期的问题 , 这个公司还有一个特点 , 就是这些创始人年纪都挺大的 。 我不知道这个当时你投资的时候会是一个问题吗 ?

周楠58:35

是 ,是 。 但是你知道就是半导体的创始人们年纪都不小 ,因为你这个半导体周期就是很长 。 你说就 Andrew 他还是个连续创业者 , 对吧 ?

当你前一个公司 Seed Micro 被 AMD 收购 , 那你肯定也是需要一个相当长的周期 。 你如果我们要想投连续创业者 , 你经历过这个周期 , 那你至少是已经有十几年了 , 对不对 ?

更不要讲你之前的工作 、 学习经验了 ,而且这些很多半导体的创业者们都是 PhD。 那所以这个团队它年纪就不可能小 。

而且我觉得有一定的年纪 , 那个时候 Andrew 应该已经 40 多岁了吧 , 反而是个优势 ,因为你在这个业界有这么多的积累 , 然后你可以把你每一个节点上的风险都去解决掉 , 那你就是需要这么多业界的这些关系啊 、 人脉啊 , 还有一个我觉得对于这个整个生态系统一个非常深的一个知识 ,也是需要的 。

所以对于半导体创业来讲 , 这个经验和年纪我觉得是个加分项 。

曼祺59:32

对 , 我印象比较深的是他们开始创业的时候 ,他们另一个联创是他们技术负责人 Lotter Batch 那会儿已经 60 了 ,但是他现在已经退休了 , 现在他们有新的 CTO 了 。

周楠59:42

对 , 年纪都不小了 。CTO 当时上应该还比较 , 我觉得他是比较年轻的 , 就可能跟我们是同龄吧 。

曼祺59:51

对 , 就现在新的 CTO, 对 。

周楠59:53

对 , 对 。其实那个 CTO 上他也是当时的 founding member 之一 。

曼祺59:58

他应该是 founding member 里最年轻的了 。

周楠1:00:00

那比较年轻的 ,但是现在也是比较有经验了 。

百度美研1:00:02

曼祺1:00:03

然后想再回来聊一聊百度的一些情况 , 就是除了在百度投了 Cerebras 之外, 你当时在美颜做 AI 投资的时候 , 还有一些什么公司啊 ?

以及当时百度的整个投资主线会是怎么去布局的 ?

周楠1:00:19

我觉得当时百度就是很坚定地要投 AI, 然后除了 AI 之外还有自动驾驶这个方向 。 所以当时我还有一个花很多时间的就是看自动驾驶 。

那那个时候对于自动驾驶的这个硬件 , 像这个激光雷达 , 还有一些算力也做了一些布局 。 当那个时候像百度的出来做的那个 DeepSpeech2 的创始人李凯博士 , 还有一些其他的做自动驾驶 level 2、level 3 的这种芯片公司 , 我们也去看了 ,也都做了一些布局和投资 。其实当时有一个点很可惜 , 就是我觉得百度真的很有前瞻性 , 就是那个时候我们当时想要去做一个 , 当

时百度有百度 Capital, 还有百度的 Ventures, 然后当时我还参与过一个百度 Growth Fund 的一个募资 , 就是想要去布局更前沿的一些 AI 的一些整个全栈的这样一个系统吧 , 就是并且把这个基金能够独立出来 。

因为那个时候已经有一些地缘政治的原因了 , 一些风险了 。 然后那个时候我看了很多公司 , 我当时还有一个 thesis 就是要投 data 和 data engine, 所以当时我还 source 了那个 Databricks,也是很早 source 来的 。

然后其实 OpenAI 当时也在我们的 deal list 上 ,因为那个时候我记得 Sam Altman 就是跟百度的关系还是不错的 ,因为当年就是陆琪应该是他的一个 mentor 吧 。

所以像 OpenAI 那个时候也是愿意接受百度的投资的 , 当时都在我们的 deal list 上面 。

曼祺1:01:40

你说 OpenAI 愿意接受百度的投资是哪一年啊 ?17 年吗 ?17、18 年 ?

周楠1:01:45

18 年的时候 。 那时候他们也比较艰难 , 那个时候我们就看得非常早 , 然后那个时候我也是在参与在那个基金的融资过程中融了很长时间 。

就是非常的可惜 ,因为那个时候因为地缘政治的原因 , 就是很多的 LP 本来想要去参与这个基金的 , 最后都打了退堂鼓 。

所以最后的最后这个基金就没有做起来 。 我觉得如果这个基金做起来了 , 可能现在百度应该是全世界最牛的这个 shareholder 吧 , 会是 。

曼祺1:02:12

对 , 所有的那些 Frontier Labs 的这些 shareholder。

周楠1:02:16

对 , 这确实是比较可惜 。 我觉得这可能也是我比较有点意难平的一个事情 。

曼祺1:02:21

所以当时在筹备新基金的过程中间 , 对 OpenAI、 对 Databricks 这些在 list 上的公司的态度 , 你们的想法就是募到钱之后是会投的 , 这是比较确定的事 。

周楠1:02:31

那是一定会投的 。 对 , 那是一定会投 。 因为当时它已经是我的 investment thesis 里面了 , 就是包括像 Databricks 这个作为一个 data warehouse 呀 ,而且当时还有 data engine, 当时连 Scaling AI 都在我的那个备注名单上 。

因为 Alexander Wang 2016 年就出来做了嘛 , 我当时对于 data annotation 它也是我的一个 investment thesis。

曼祺1:02:49

后来百度复盘过这个事吗 ? 因为看起来是错过了很多投资机会嘛 。

周楠1:02:55

后来我也离开了 。 就是我觉得不是百度错过 ,而是当时地缘政治的一些原因 , 让我们没有办法去把那个基金去给它做起来 。

所以这个也不是说哪家公司的问题 ,而是当时处在这样的一个中美的这样一个状态下, 你这件事情就很难做起来 。其实当时在这个地缘政治出现问题 , 这个基金不能做了以后, 我是拿着这个 investment thesis 去聊了很多美国一线的 VC。

我聊过 Inside Partners, 聊过 Sequoia, 聊过挺多的 , 还聊过 Benchmark。 对 , 我当时就去找 Benchmark 的 Eric, 我想你投了这个 Cerebras, 你是不是能够 buy in 我的这个 investment thesis?

结果他们没有一个人 buy in, 都说他们要投 SaaS,不投这个 ,不再投这么高风险的 AI 了 。

曼祺1:03:40

就是 17、18 年的时候 , 确实 。

周楠1:03:42

应该那个时候已经到 18、19 年了 , 那个时候我已经快要离开百度了 。 我当时就想着说 , 我这个基金做不起来 , 那我拿着这个 thesis, 我总能碰一碰 , 能不能碰到跟我达成共识的人吧 。

可惜没有这个命当时, 就是聊了这么多的 VC, 没有一个人赞同的 。 对 , 我就是在那个比较遗憾的那么一个情况下, 当时我当时就是加入了高通创投 。

曼祺1:04:04

那在硅谷这件事情开始转向是什么时候 ? 就什么时候大家的重心从 SaaS 转到 AI?

周楠1:04:11

我觉得就是 ChatGPT Moment 爆发以后, 可能 2022 年底的时候还没有完全意识到 。 我觉得那个时候也很有意思 ,因为 2022 年底的时候 ,其实是 Sequoia 最早写了一篇文章 , 就是说 Generative AI is here, 对吧 ?

就是你如果去看那篇文章关于 GenAI 的一个描述 ,其实 Sequoia 的那个年轻的一个 partner 叫宋亚煌 ,他写的 。 但是我觉得他当时写的那个文章 , 可能也没有引起一个很大的重视 。

因为你如果看 Sequoia, 它也是整个错过了这一波 , 它没有一个 Frontier Lab 它压上, 对不对 ? 就我这里不是要批判 Sequoia, 我是觉得 Sequoia 它也没有踩上这一波 。

所以就是说这些比较顶级的 VC, 我觉得都是到 23 年后期 、24 年才开始意识到说要去全线押注 AI 这个战略的 。

曼祺1:04:58

所以它其实比中国 VC 也没有早很多 , 就是在硅谷大家真的把大模型看作一个很大的投资机会 。

周楠1:05:07

像 Kimi 这些公司 , 它的创始时间是什么时候 , 我不太记得了 。 但是我觉得像 OpenAI 你讲它是 2015 年就创办了 ,Anthropic 2020 年创办的 。在这两个 Frontier Lab 创办的时候 ,他们的融资都不是一帆风顺的 ,也都是对于美国的 VC 来讲 , 就是在 ChatGPT Moment 爆发之后 ,他们才意识到这个事情可以做成了 。

曼祺1:05:30

对 ,Anthropic 最早的投资人其实都不是 VC, 一位是 Eric Schmidt, 就是 Google 的 CEO, 然后还有一个是哈萨比斯蒙 。

周楠1:05:40

对 , 对 , 对 。 我这里还可以给你讲一个小故事 , 就是 2020 年的夏天 , 当时 OpenAI 的一些百度的前同事 , 就他们很多都是 Daryl 的好基友们 ,因为他们当时跟我在百度的共事过嘛 ,而且他们是当时最早就是很早跟我讲这个 DeepSpeech model, 包括早期的这种 Scaling Law 的雏形的这些人。

然后他们就给我打电话说 ,Nan,Nan 那个跟你讲一个激动人心的事 ,GPT-3 我们快要炼出来了 。 我记得很清楚他们当时, 我就不讲名字了 ,因为他们都是 Daryl 的好基友 。

就那个时候是 2020 年的夏天 , 那时候我已经在高通了 ,他们给我打了一个电话 , 还给我发了一篇很长的文章 , 说 GPT-3 是怎么回事 , 说我当年在百度想干的那件事快要干成了 , 然后那个在 OpenAI 里面干成了 , 这个模型也炼出来了 。

我说那这个模型聪明到什么程度啊 ? 因为当时在百度的测算说 , 如果你想炼成一个像 Wikipedia 这样程度的一个模型 , 可能需要将近快 10 年的时间 , 需要消耗很多很多的算力 , 上亿美金的算力 。

当时这些在百度都是测算过的 。 所以我都还记得我说你们到这个阶段了吗 ? 到这个程度了吗 ?

而当时那个朋友就很诚实地跟我说 , 嗯 , 还没有到 , 还会胡说八道 。 那是 2020 年, 距离就是 GPT 的当时的发布还有两年 。

但是 GPT-3 当时已经正在做 post-training 了 , 所以他们就跟我讲这样的一个这样的一个阶段性的一个成果 , 就很激动 。 然后他就跟我说 , 我们现在都想出来 。

我说为什么呀 ? 他说因为他们不再信任 Sam Altman,因为他们觉得他对安全这个事情就是很不重视啊 , 等等等等。

就跟我吐槽了一堆 , 然后就说他们要出来创办一个新公司 , 然后就问我说有什么意见 , 能不能给他们做一些 advisor。

那个时候是在疫情的时候了 , 就那个时候还没有疫苗 。 我当时就说 , 我说我能给你什么 advice 呢 ? 就是能给你的 advice 跟当年一样 , 就是要融很多很多的钱去买算力啊 。

我说你们觉得自己能融到吗 ? 然后他们就说好像比较难 ,也不知道能不能融到 。 我说那这样的话 , 这个事情就是一个大挑战 , 就是你要去找到能够给你钱买算力的人 ,而且主流的 VC 是不会给你投这个钱的 。

我当时就是很诚实地跟他们讲这个事 , 哪怕在高通也很难去推动这样的一个投资 。 所以当时就是这个电话就是以这样的一个结论来结尾的 。

我其实当时是很想去跟他们见面的 , 可惜那个时候在疫情最严重的时候 , 然后又没有疫苗 , 所以就导致了我当时没有那个勇气去去城里找他们 。

而你看到后面的 story, 就是 Andreessen 的那个投资人去跟他们见了一面又一面 , 去给他们出主意怎么去融资 。

对 , 所以我觉得很多时候这都是命运 。 然后就出现了后面的 Anthropic。 所以这个当时他们想出来创业的时候 , 我确实知道 。

曼祺1:08:18

对 ,HOZ 也是它的早期天使 。

周楠1:08:21

对 ,HOZ 的那个投资人是它的早期天使 ,而不是 HOZ。HOZ 应该没有给它投 。

曼祺1:08:27

那个人是叫 ANJ, 她的名字是 , 然后是她 Mida。

周楠1:08:31

对 , 对 ,是那个人。

曼祺1:08:32

所以也是个人投的 , 可能她也没说服成 。

周楠1:08:35

对 , 她是个人, 她是个人去支持的 。 当时那 VC 没有这个 conviction,因为那个时候你想 GPT-3 还在 post-training 的阶段 , 然后你离这个当时的 hallucination 是非常严重的 。

所以你离到那个 GPT 出来用的那个 moment, 你还有两年多的时间 。 但那个时候我没有人能够想到说它两年后就能够问世 。

我觉得那里面当时的这个 generalization 的这个效应 , 就是它的那个 Aha moment 的出现 , 应该就是在 2022 年的时候 。

曼祺1:09:04

你在百度的这几年, 百度美颜除了你比较熟悉的投资这一部分之外, 观察其他团队他们是怎么运转的 ?

周楠1:09:12

因为当时百度的美颜就全部都是研究员 ,AI researcher, 还有那些做自动驾驶的这些团队 。

曼祺1:09:19

当时是多大的规模呀 ? 一共有多少人啊 ?

周楠1:09:22

当时应该有至少 250 多个人吧 , 就是在顶峰时期的时候 , 研究员们确实都是全世界最顶 , 非常顶尖的那些研究员们在一起共事 。

曼祺1:09:33

你加入的时候已经搬到 Sunnyvale 了是吧 ?

周楠1:09:36

对 , 我加入的时候是在 Sunnyvale 总部 。 对 , 我记得那个时候就大家每天中午一起吃饭 , 研究员们都在讨论不同的这些研究的话题和 topic。

我觉得那个阶段还是非常难得的 。 我上个星期其实还跟 Greg catch up, 然后他们都很感慨 , 就是说那个时候就是一堆神仙打架的年代 , 那个时候的人才密度 , 包括在 Google DeepMind 都是没有过的 。

因为大家都是 , 我觉得相当一部分人可能是真的冲着 Andrew 来的 。 还有就是因为当时百度的创始人像 Robin,他们很有些人去 factor 这个研究院 , 让这些 researcher 们能够去实现他们心中的一些 , 当时的一些对于 AI 的一些理想和构想 ,而且给了非常充足的 budget 去买这个 GPU。

我觉得当时在世界上是可能找不到第二家研究院是这样子的 。 而且当时为了挖人才 , 我记得真的是 , 就是 Andrew 来了百度之后, 带来了很多 DeepMind 的一些人才 , 那些人也是愿意跟着 Andrew 一起过来去做一番事情 。

曼祺1:10:39

你后来和他们其中的人聊过 , 包括 Andrew,Wanda 为什么要离开 ,Daryl 为什么要离开的原因吗 ?

周楠1:10:47

没有去细问过 。 我觉得这个可能也不方便跟我讲吧 。

曼祺1:10:50

那当时的研究员在百度美颜 ,他典型的工作状态和氛围是怎样的 ? 我觉得正好可以澄清一下 ,因为大家一直有一个段子 , 就是说 Daryl 在百度受到了一些不好的对待 , 导致他对中国很不爽 ,但是这都是开玩笑了 。

周楠1:11:05

Daryl 当时能够进百度 ,其实是一个他职业生涯中很重要的一个环节 。 因为当时的 Daryl,其实 Daryl 是 Greg 招进去的 。Greg Diamonds 当时就是认识了 Daryl 之后, 我觉得这个人是个人才 , 就是他对 AI 的一些构想非常的深 ,而且他就是训练模型能力也很强 , 即使他没有 AI 的这个 background,因为 Daryl 当时是数学和物理还有生物的一个 background, 就他不是一个 computer science 的或者 AI 的这种科班出身的一个研究员 。

所以当时把他招进来的时候 , 可能内部还有一些质疑 ,但是是 Greg 就是发现了这个人才 , 把他拉进来的 。

这个故事也是基于就是美颜的一些同事告诉我的 , 就是 Daryl 本人是不是这样子认可 , 我不确定 , 只是说这个是我听说的一个故事 。

那那个时候他们就是可以去根据自己的一些研究的构想去发表 paper, 去做一些 AI 的研究 。 我觉得那个氛围当时是非常自由 ,而且是一个非常鼓励他们去进行这些发现的一个那么一段时间 。

曼祺1:12:08

那这个 Daryl 的背景和刚才我们说到他早期投资 , 我觉得也有个相关性 , 就是 HOZ 投他的这个合伙人也是学生物学的 , 生物科学背景 , 可能他们以前认识 , 或者他们比较有共同话题之类的 。

周楠1:12:21

对 , 我觉得非常有可能 。

曼祺1:12:23

大家都说就是百度在 AI 上 ,他有一些起了大早感的晚集的状态 , 包括他 2011 年就成立了百度美颜 , 然后 2015 年 DeepSpeech 这篇论文就看到了去扩大数据和算力是可以生出更智能的模型的 。

但实际上最后这件事情并不是百度自己做成的 。

周楠1:12:46

对 , 这点是可能会让人觉得有点可惜 。

曼祺1:12:50

你觉得这是为什么 ?

周楠1:12:51

我感觉还是和可能跟当时的地缘政治并无关系 。 我觉得那个时候就是说在 2018 年、2019 年之后 ,因为地缘政治的缘故 , 这些研究员我觉得最后他也会离开百度 。

因为在中美这个 AI 在有这么一个 compete 的这么一个情况下, 就是这些研究员基于这样的一种压力吧 , 我觉得可能还是会选择离开的 。

所以这个是我觉得地缘政治是很重要的一个原因 。

曼祺1:13:18

对比来看 , 即使在中国公司 , 训练的中国模型里面 , 百度现在也不是最靠前的 。

周楠1:13:24

我对中国的情况不太了解 ,因为我的整个在百度的这个工作期间都是在百度美国 。 但是我觉得最早期那批人工智能的 researcher 是确实是在美国的 , 比如说从 Hinton Lab 里出来 , 包括 Wanda, 这些最有 vision、 最有远见的这些人是确实是在美国这样硅谷这个地方 。

曼祺1:13:46

是 ,因为百度美颜起步很早 , 它 2011 年就成立了嘛 , 那今天 15 年前了 。

周楠1:13:51

对 , 起步非常早 。 我觉得可能是在美国这边开始发展起来之后, 慢慢的大家看到了创新的这些信号 ,AI 的这些信号 , 然后在中国才开始布局的 。

我觉得就是中国的这个 AI 的发展 ,在我看来 , 就我从一个在美国的投资人看来 , 我觉得美国是在颠覆性创新上它更有优势 ,而中国在这个应用和追赶上更有优势 。

因为中国它是一个 AI 应用很大很大的一个场景 , 它有这么多的摄像头布在街上 。 当时 computer vision 的 model 我觉得中国是非常非常强的 , 市场也非常的大 。

那语言模型的话 , 还是在硅谷这边先创新开始的 , 然后再到中国 。 所以我觉得中国它一直是呈现的是一种工程能力非常强 , 可以迅速追赶 , 可以在落地场景上加快应用的这样一个优势 。

而美国更多的是在一种就是说颠覆性的这种架构和语言认知上的一种创新 。

曼祺1:14:49

其实你刚才讲到就是 2011 年时候在美国 , 我本来想到一个反例 , 就是微软亚言院也有很多 AI 的人才 。

但是你后面说的 , 我觉得你又说服了我 , 确实微软亚言院那会儿我觉得更强是在计算机视觉上 。

而计算机视觉你要是再往前追溯 , 那它可能是比如说 2008 年前后, 然后发现 CNN 非常有效 , 然后到 2012 年 ImageNet、AlexNet, 那确实也还是从美国这边开始的 。

然后是语言模型 , 对吧 ,NLP, 这也是从美国开始的 。 对 , 我觉得至少过去十几年里 , 你刚说的这个模式肯定是成立的 。

就是美国的很多 AI 创新 , 它是更作为一个起点吧 , 然后它扩散到全球 。

周楠1:15:29

对 ,是的 ,是的 。

曼祺1:15:30

我觉得百度倒是有两个留下来的 AI 的成果 , 一个就是自动驾驶 , 一个也是和你投资 Cerebras 相关的 , 就是昆仑星 。

周楠1:15:41

昆仑星 , 对 ,是的 。 我觉得百度对自动驾驶的研究是非常的早的布局啊 , 包括它最后坚持下去 , 确实要给百度点赞的这一点上 。

然后昆仑星的时候 , 对 , 昆仑星当时的一个负责人, 那个时候我在投 Cerebras 的时候也跟他交流过 。 我觉得那个时候他就已经有在想要去创办昆仑星的这么一个雏形了 。

所以我觉得百度能够把这个昆仑星做出来也是很了不起的 。

曼祺1:16:07

你们百度的前同事在一起有复盘和讨论过过去美颜这 15 年的一些得失吗 ? 你觉得错过了什么大的机会啊 ?

周楠1:16:18

对 , 我觉得大家心里还是比较唏嘘 , 觉得是有一些很可惜的地方 。 但是好像感觉这可能是历史的一个必然 。

因为这是作为一个中国的公司在美国去做这样的一个 AI 模型的研发 , 本身就会遇到很多的阻碍 。 我后来想想 ,在 2018 年的时候 , 当时我和我的前老板 , 我们想要去做这样一个 AI 的基金 。

那个时候可能是已经因为我们已经预见到这种地缘政治的一个阻碍 , 那我就觉得说要成立一个独立的 AI 基金 , 那就去把这些厉害的人都投了 。

那个时候已经看到很多趋势 , 就是从百度离开的那些研究员们 , 就是他们纷纷都在创业 , 就觉得非常厉害 , 就觉得应该要把这些都投了 。

所以那个时候也是我们去想要去募集这个基金的一个初衷吧 。 但是也很可惜 , 就是这个基金也是遭到了地缘政治的一些原因 , 没有办法募起来 。

我觉得可能如果当时我更成熟一点 、 更勇敢一点 , 可能去破釜沉舟的应该是可以把它搞定的 。 但可惜当时我太年轻了 , 就是没有管理 VC 的一个独立 VC 的能力 。

曼祺1:17:19

确实 , 如果把百度美颜出去的这些人都投一遍 , 包括像 Pony、 小马 , 对吧 , 当然还有 Anthropic 也可以算吧 。

周楠1:17:28

还有 Daryl,但绝对的 , 对 ,因为当时你想他们出来创业的时候是第一个给我打电话的 。 所以如果当时把这些人都投了 , 那应该是非常了不得的 。

所以我就希望说如果当年我再有一些经验就好了 。 比如说如果当年我已经做投资做了可能 5 年、6 年, 可能很多事情就会不一样了 。

可惜我当时那个时候是我第二年、 第三年做投资嘛 , 就是还是太年轻了 , 没有办法支撑起来这样的一个基金的构架 。

曼祺1:17:53

你后来自己想从百度离开是一个什么契机 ,是为什么呀 ?

周楠1:17:57

也是因为当时这个基金没有办法运作下去了 , 百度也就在美国也就没有投资团队了 。 所以再加上那个时候我带着这些 investment leads 去找这么多美国的一线 VC,也没有人去认可这件事情 。

因为那个时候是在共识前太久了 , 就特别反共识吧 , 就是在共识到来很多很多年前那个时候是 。

所以在那个时候刚好高通抛来了橄榄枝 , 就是高通它愿意去在端侧 AI 去寻找一些应用场景 。 然后我就很自然的情况下就加入了高通 。

新机会1:18:30

曼祺1:18:30

那最后这一部分我们正好可以聊一聊 , 就是你在百度 , 包括在高通整个十年的科技投资过程中间 , 你看中的这个方向 , 比如说和算力啊 , 和 Infra 相关的这些领域 , 看到了些什么机会啊 ?

尤其我觉得可以重点聊一聊跟半导体和算力相关的 ,因为这个也是整个 AI 最重要的一个基础 , 然后整个市场规模也特别大 。

周楠1:18:55

我觉得我的投资的这个 thesis 就是还一直都还挺清晰的 。 就是在百度的那几年, 我当时就是定的是对于算力的一个投资 , 然后后来过渡到 data engine, 就是我觉得要去投跟 data warehouse 和 data engine 相关的一些这种公司 。

这个时候是在以一个云为基础的 , 就是说以一个 training 这样的一个 training 大模 , 比较大的这种大规模的模型 ,不管是视觉模型还是语言模型 , 为基调的这样的一个情况下 ,有这么两个 investment thesis。

当然还有自动驾驶 , 还有自动驾驶的这个硬件层面 , 还有软硬件和的方案 。 这是我在早年的时候形成的一些投资理念吧 , 就是 investment thesis, 投资方向 。

后来到了高通以后呢 ,因为高通非常的强调端侧 AI, 那有那么三年的时间 , 我看了很多这种 IoT 和端侧的一些布局 。

那当然我当时有一个 lesson learned, 就是我发现这个端侧 AI 在美国 , 尤其是硬件 IoT, 它不是那么容易腾飞 ,因为端侧就是跟硬件相关的这种投资 ,在美国本土 , 它的土壤不是特别的好 。

真正的 IoT 可能在中国更能够跑通 , 相比美国的话 。 基于这样的一个全球性的视角 ,因为高通它也是一个全球性的公司 , 我们就发现说 IoT 的这些投资在中国明显要比在美国成功的很多的多的多 ,因为它的应用场景在中国也更多 。

曼祺1:20:20

你说的 IoT 端侧投资 , 举例来说是一些什么 ? 比如说智能设备吗 ?

周楠1:20:26

对 , 比如说智能的这种 。

曼祺1:20:28

智能家居之类的 ?

周楠1:20:29

对 , 对 , 对 , 智能在端侧的一些设备 , 比如说早期的一些机器人的一些投资 , 会发现这个 , 当然这个机器人投资也是在现在所谓的这种 world model physical AI 之前啦 。

我们就发现说这个场景其实在中国它更多的有落地的场景 , 相比在美国的情况下 。 然后就到了 GPT moment 出现的这个时间段 ,2022 年的时候 , 我那个时候有一个觉醒期吧 , 就是发现说哇 , 这个大模型的到来比我们当时在百度测算的时间要早了好几年 。

然后那个时候我就突然就是说觉醒 , 就是我要赶快把我的投资再抓回到这个 cloud based 的这些 Infra 上来 。

所以我从那个时候开始去思考说 OK, 我在 23 年的时候在想说那后面怎么样怎么去布局 。 而你会发现从 23 年开始之后, 我觉得这个时候可能是算是一个 AI 2.0 到 3.0 的过渡吧 , 它就整个在加速了 。

不管是模型的进步也好啊 , 还是这个 enterprise 的一个 adoption 也好 , 它开始在加速了 。 我其实在 2023 年的时候 ,24 年的时候在高通内部做过一个分享 , 就是我觉得 enterprise AI 的到来会比我预想中的快 。

我当时给了一些数据 , 给了一些场景 , 我当时提出了 coding AI 的一个概念 , 就是那个时候 coding AI 已经开始 , 就是在微软的这个 Copilot 上面已经开始有些尝试了 。

那个时候还是 before 这个所谓的这个 cursor moment。 我当时就觉得这个是一个会爆发的一个场景 , 就是提出了一些构想 , 确实就是因为有那几年在百度的基础 , 然后你在那个时间点上往后看的时候 , 你就看得很清楚说这个 data engine, 然后一些 enterprise AI 的这些应用 adoption, 还有当然要持续的加注算力 , 然后还有一些 AI Infra 的一些投资 。

因为在这个大语言模型的时代的这个 Infra, 它是完全是一片空白的 。 所以那个时候 2023 年到 25 年期间 , 我觉得很多的 AI Infra, 包括像 RAG 呀 , 包括像 inferencing 的这种 optimization 啊 , 还有你怎么去 deploy 这个模型啊 , 这些一系列的 Infra, 都是有很多很多下注的机会的 。

曼祺1:22:35

那你现在有看到比如说算力层和云层面什么新的机会吗 ? 就整个大的 Infra 这一层吧 。

周楠1:22:43

我觉得大的 Infra 这一层 ,因为今年开始就是推理 , 它占据了整个算力很大的一个部分 , 所以我觉得推理成本的一个优化会是 AI 产业的一个很大的一个战场 。

这个推理包括就是说你去帮助这个模型在应用层面的 deployment,inferencing 的这种 deployment, 推理的这种部署 , 还有多模态的一些推理的优化 。

因为你想就是说这个推理成本 , 它最后会反映到你的这个 profit margin 上来 。 如果你的不管是模型的应用方也好 , 还是我们终端的消费者也好 , 你的如果你能够把你的推理成本降下来 , 你的 token cost 降下来 , 那么你的这个 gross profit 一定会有一个很大的量级的提升 。

所以这点上我觉得是到了 AI 的一个 this is a model 优化的一个下半场 。 所以我觉得对推理成本的这样的一个优化很重要 。

这里面就是有一家公司叫 Eigen, 它被 Nebius 就今年 3 月份的时候收购了 。 它这就是一个非常典型的进行推理优化的一个创业公司 。

这家公司我是去年 8 月份它刚刚成立的时候 , 当时我就发现了 , 它也是通过 MIT 的一个教授韩松的一个好朋友的一个介绍 , 它的这个 founder 就是韩松的学生 。

所以当时我们对于这个推理的优化 ,因为可能 Qualcomm 它在这种端侧推理上它比较敏感 , 所以我对于推理优化这个事情就非常的敏感 。

我就觉得这个事情是后面端侧爆发了以后非常重要的一件事情 , 就是它对于这个整个 AI 的一个 business model 都会有一个质的一个提升 。

曼祺1:24:21

韩松以前也自己创业做过芯片公司 , 升建 。

周楠1:24:26

啊 ,是的 ,是的 。

曼祺1:24:26

它是联创之一 。

周楠1:24:27

对 ,是的 。

曼祺1:24:29

所以这是一类 , 对吧 ?

周楠1:24:31

对 。

曼祺1:24:31

这种我理解 , 那它就是第三方的一个 Infra 优化的公司 , 它是偏软件系统层的 。

周楠1:24:37

对 , 它是偏系统层的 。 那你也可以通过这个 inferencing, 就是通过这种 inferencing optimization 或者 token optimization 这个能力 , 你也可以延展到去说做一个这种和 Cloud 相关的 business。

所以就是说其实这一层它跟 Cloud 结合是最自然的 ,因为它可以直接帮助你在 Cloud 上部署的客户进行一个这样的 inferencing 的一个优化的这样的一个帮他去部署的更好 。

曼祺1:25:03

对 , 之前黄仁勋滑的时候就是把云和 Infra 是滑在一层的嘛 ,是他的五层蛋糕的中间的第三层 , 最下面一层是能源 , 然后再上面一层是芯片集群 , 到第三层就是云和 Infra 这部分了 。

所以这个是你会重点看的一层 。

周楠1:25:21

我觉得这个已经在发生了 , 就是这个现在是一个很重要的一个事情 。 因为这个对于不管是模型厂商了 , 还是对于应用场景来说 , 都是很重要的一个环节 。

曼祺1:25:31

那这个领域除了你刚才说到你自己投的这家已经被收购成功退出的公司之外, 有什么你觉得 。

周楠1:25:37

这个我没投 , 这个我就澄清一下, 这家公司没有投上 。 虽然看得很早 , 很想投 ,但是卖得太快了 。 所以也要恭喜这个创始人。

曼祺1:25:48

就是它后面就没融了是吧 ? 相当于它很快就交易了 。

周楠1:25:51

没有再融了 , 没有再融了 。 所以就是你可以看到就这个事情的重要性 。

曼祺1:25:55

那这个领域你觉得还有什么比较好的有意思的公司吗 ? 你觉得值得关注一下 ?

周楠1:26:00

当然还有了 , 我可能暂时不提供色名色 。

曼祺1:26:03

OK, 你要投对吧 ?

周楠1:26:05

对 ,因为这个还处在一个我觉得现在可能是处在一个共识的初期阶段吧 , 还是有两三家在做的 。

曼祺1:26:12

之前在 Cerebras 上市的时候 , 你写了一个社交媒体的分享 , 当时你说到伟大的投资发生在没有形成共识之前 。

你觉得现在有什么你很相信 ,但是你认为它还没有形成共识 , 是一个很好的投资机会的方向 ?

周楠1:26:29

这个问题好难回答呀 。 我觉得这两年的早期投资其实非常难 ,因为就是因为现在 AI 已经是一个共识了 。

当你是一个共识的时候 , 你所有的投资人, 所有这个产业链上的人都会去想方设法去挖说我还有没有什么样一个非共识的机会 。

所以这个窗口是越来越短的 。 就你想说我们当时投 Cerebras, 到现在它上市就是一个十年的时间 。 然后你如果是在比如说 2023 年的时候去投 Anthropic 或者是 OpenAI, 它可能也是一个共识刚刚要形成 , 它还没有完全形成共识的一个窗口期 。

你至少还是有一点窗口期的时间去可以去做这个投资布局的 。 但是现在就是我觉得非常难 , 越来越难了 。

包括去年的时候 , 我当时去年还写了一个给身边投资人朋友的一个信 , 把这个信我没有去公开 。 就当时我在我记得是 2025 年的 2 月份的时候 , 我当时几个投资的方向就是包括 general purpose AI agent, 那个时候我列举了 Manus 和 JetSpark, 然后还有包括像一些 video model、multimodal 的这些公司 , 还有包括一些 multimodal 的这种 Infra 的公司 , 像 Fail(FAL) 这家公司 , 还有像一些 physical AI 的一些公司 , 还有一些 vertical AI 的一些公司 。

就是那个时候我觉得应该投的这些公司 ,其实它给你的投资机会的窗口期只有两到一到两个月 。

就是你看中以后要立刻下注 , 这个时间给投资人的窗口是越来越短了 。 所以我觉得想要去把这个早期投资做好是挺不容易的 。

就是你必须要有非常敏锐的一个嗅觉 , 然后你要有非常强的一个就是 picking 的能力 , 就是你能够找到对的公司 , 然后你要在这个它形成共识之前去下注 。

所以我觉得现在对于早期的这些的考验是非常难的 。 而今年其实比较容易的投资是投晚期 , 就是我认为现在一些几个方向跑出来 , 像 coding agent, 像这个对吧 ,Frontier Lab, 然后像一些 Infra, 它已经其实就是有一些很大的 winner 已经跑出来了 , 包括像 video model 一些 , 已经有一些就是明显的 winner 在那了 。

所以对于 VC 来讲 , 你会发现现在越来越多的 VC 它在投中后期 ,而且他们在募比较大的基金去投中后期 。

像这个 Benchmark 刚刚今天刚刚 announce 要去融一个两个边量的基金 ,他们是 24 小时募资窗口就立刻关闭 , 就已经一天之内就把一两个边量给融完了 。其实这些比较头部的 VC 都在募偏后期的基金去砸这些已经出圈的这些 category winner。

所以我觉得今年的一个投资主题就是砸这个 winner, 用大钱去砸 winner, 砸已经跑出来的公司 。

曼祺1:29:12

那这还是 venture capital 吗 ?

周楠1:29:15

这是 venture capital 的变种了 。 对 , 对 , 对 , 这个已经因为就像我讲的 ,venture capital 你就是需要在没有形成共识之前下注 。

而现在的共识时间 , 就是非共识到共识的窗口实在是太短了 。 就是短到你可能还没有反应过来 , 它就已经形成共识 , 就成了你要去花大价钱去下注的这么一个局面 。

所以我觉得现在的 VC 就是演变成了我要去融一个大的基金去投这个已经跑出来的这些公司 。

曼祺1:29:44

对 , 当然我觉得砸 winner 也不是十拿九稳的 , 它肯定还是有一些风险在的 。 但是如果它出了岔子 , 那可能就是很大的问题了 。

周楠1:29:52

我是这么认为的 , 就是因为现在我们如果你把这个 AI 的时间拉长的话 , 我们可能还处在这个 AI 这轮 ,let's say, 可能现在是第四次 、 第五次这个技术变革的一个早期 。

因为现在虽然我们已经有很明显的 winner 了 , 然后大家也觉得是不是 5 到 10 年内 , 都不要 5 到 10 年, 把现在处在一个 AGI 的这个 moment 里到来了 ,但是它还在处于 adoption 的早期 。

那么在这样的一个早期的情况下, 已经有 winner 出现的情况下, 这些 winner 是会越长越大的 , 它会形成一个飞轮效应 。

就比如说为什么现在大家都是疯了一样要去投 Anthropic,Anthropic 现在可能刚刚到一个 trillion 左右的一个量级吧 , 就估值上来讲 。

那么这家公司未来会到多少 ? 我觉得它变成 5 个 trillion 我觉得是不奇怪的一件事情 。 所以那如果现在你作为一个明智的一级市场投资人要投什么 ?

那你投 , 我觉得投 Anthropic 是 no brainer。 那还有一些其他的 Infra 跑出来的公司也是一个 , 就说像比如说有几个我比较喜欢 , 像 Fireworks 啊 , 还有像 Fail 啊 ,FAL 啊 , 还有像 Basetown 啊 , 这些一些 Infra 的这种公司 , 那它就是形成了一个早期的一个飞轮效应 , 它后面这个雪球是可以滚得很大的 。

所以就是这个也是一个共识吧 , 就是说我去直接 bet 这些 winner。

物理AI1:31:11

曼祺1:31:11

接下来你比较期待会发生的事情是什么呀 ?

周楠1:31:14

我觉得 physical AI 就是 robotics 这个赛道可能它因为很多人都说这个可能就像十年前的自动驾驶一样 。 那根据我在语言模型上学到的这个经验教训 , 我认为这个 physical AI 的 aha moment 可能会到来的比自动驾驶比我们想的要早一些 。

虽然它现在还有很多的问题 , 像这个 data 的这个瓶颈啊 , 包括软硬件结合的这些瓶颈啊 , 可是我认为这个 aha moment 会比我们想的要早 。

所以我觉得现在可能是下注这个硬件的一个好时候 。

曼祺1:31:47

为什么呀 ? 理论上来说 physical AI 不是比自动驾驶更难吗 ?

周楠1:31:51

对 , 它的很多场景比自动驾驶要更加的 diversify,但是它对于正确性的要求也没有像自动驾驶这么高 。 自动驾驶你必须是做到 99.9% 的正确性 , 对吧 ?

要不然你会出人命的 。 但是 physical AI 这些我觉得它对任务的完成度啊 , 对于准确度的要求会比自动驾驶稍微的宽容一些 。

曼祺1:32:12

为什么大语言模型上的经验会让你觉得 physical AI 的 aha moment 会更早来了 ?

周楠1:32:18

因为就是如果回到十年前 , 当时我们在百度的测算就觉得说你出现一个像 Wikipedia 这样的一个模型可能需要十年的时间 ,但是它其实这个模型它是有一个 generalization, 那个应该怎么讲 , 泛化的能力 , 就是这个模型泛化的能力的速度会比你想的要快 。

当你的模型越来越大的时候 , 它的这个进步的程度 , 它是会呈现一个我觉得这可能是个物理的一个规律吧 , 它的进步速度后面会呈现一个陡峭性的一个曲线 。

曼祺1:32:46

可不可以说当时百度美研十年前它低估了语言模型进化的速度 ,但是高估了自动驾驶进化和落地的速度 ?

周楠1:32:56

我觉得自动驾驶这个事情因为它对准确性的要求非常的高 , 所以我没有觉得它是低估了这个它的速度 , 或者说高估了这个速度 。

但是语言模型它有一定就是说这个泛化的这种能力可能是当时没有去预料到的 。

曼祺1:33:17

因为我印象中 17、18 年的时候 , 或者说更早吧 ,16 年的时候 , 从美国到中国都是认为全无人驾驶会比较快的普及的 。

周楠1:33:28

对 。

曼祺1:33:29

当时 Waymo 包括马斯克都有很多相关的言论 。

周楠1:33:34

对 ,而且当时还有一些路线的一些辩论吧 , 比如说到底是基于视觉模型就好了 ,level 3 就好了 , 还是说你需要有个激光雷达做 level 4。

所以这个也是当时我记得一个辩论之一 。

曼祺1:33:46

所以 physical AI 也是你接下来可能会花点精力去看的方向 。

周楠1:33:51

对 , 这个我可能后面会花一些精力去看这个方向 ,因为它还没有形成共识 。 所以如果我觉得投资人就是一定要在没有形成共识的事情上去形成一个自己的投资的理念和逻辑 。

曼祺1:34:03

你觉得 physical AI 会有新的芯片算力和 Infra 层的需求和机会吗 ? 现在有看到这一类苗头吗 ?

周楠1:34:11

这个还真不好说 。 就是我觉得对于芯片层应该会有一些机会吧 。 因为就是如果你 physical AI 在落地的时候 , 你身上都挂着一个 GPU, 那我觉得是很耗电的一件事情 。

就你需要有一个 low latency, 然后 power efficient 的一个解决方案 。 所以我觉得可能会在这个算力解决方案上会有一些创新的空间 。

然后其实你刚刚说到芯片层 , 我还认为就是可能也会有一个新的 CPU 的架构出现作为推理芯片 。 因为现在推理芯片上就是 Cerebras 是一个刚刚出圈的一家公司 , 对吧 ?

那可能还会有一些其他的基于 CPU 解决方案的一些公司出来 。 我知道有一些创业公司已经在做了 , 已经在开始 , 已经在开干了 , 就是也是很早期 。

就是我觉得这个也是一个值得关注的一个点 。

曼祺1:35:10

OK, 那今天非常感谢周楠做客 《 晚点聊 》 分享了过去十年的投资故事 , 尤其是刚刚上市的 Cerebras 这家公司的投资故事 。

从最开始他怎么发现了这家公司 , 和百度美研当时的研究员一起怎么做了详尽的尽调 , 然后在这家公司的方案还是一个非共识的时候 , 很快的就做了投资决策 。

我们也延展的聊了现在整个 AI 领域 , 尤其是算力和 Infra 层有什么正在萌芽的新的投资机会 。 那今天非常感谢大家收听 《 晚点聊 》, 节目就到这里 , 拜拜 。

尾声1:35:49

曼祺1:35:50

在 156 期与 Henry Inn 2026 年 Q1 的 AI 季报中, 已经在之后不久我和 SpaceX 的早期投资人 Fusion Fund 的创始合伙人张璐聊马斯克的 Terrafib AI 基建设想的节目中, 我们都讨论了 2026 年以来的 AI 算力的最新趋势 。

大家都看到的转折是从训练走向推理 ,也就是算力消耗的重点会从制造大模型的阶段走向使用大模型的阶段 。

这本来没有什么新鲜的 , 前两年也一直有人在说 , 不同的是 2025 年下半年至今 ,coding 以及 agent 的应用的爆发让这一条预言真的成了事实 。

大家看到了 agent 这类更复杂的任务和应用 , 带来了推理的算力和 token 消耗量的爆发式增长 。 而更深入这个趋势又可以看到两个明显的变化 , 一是 AI 推理有了更多易构芯片的机会 , 主要就是指不同于英伟达的通用 GPU 结构的芯片 。Cerebras 上市后的强势上涨表现 , 就是因为一些人会押注 Cerebras 设计的 Wafer Scale Engine 这种独特的架构在推理阶段有它的优势 , 这包括

电池高吞吐 、 高稳定性等等 。其实英伟达自己也做了相关的动作 , 就是我们这期里聊到的 ,他们在去年 12 月非常快速的以 200 亿美元收购了 Groq 这家创业公司 ,并且在今年 3 月 GTC 的新方案上就把 Groq 整合到了英伟达的整个算力平台上 。Groq 主打的就是在推理阶段提供 AI 算力 。

二是 CPU 崛起 , 比如这期我们就聊到了 CPU 正在出现一些新的创业机会 , 这是因为在 agent 的工作流程中存在一些调度类型的任务 , 它们并不适合 GPU 所擅长的并行计算 。

周楠也提到 ,他知道有些团队已经开始在这个方向发力和创业了 , 这也是他接下来可能会投资的方向 。其实这种变化也反映在了二级市场上, 我们看到英特尔和 AMD 今年以来都有不小的涨幅 。

回到九年前 , 周楠在百度美研想投资 Cerebras 的起点 , 就是研究员们认为未来的大模型不应该在算力层只依赖英伟达这一家公司 。

而现在的情况是 , 如果不考虑 Google 的 TPU 这种大厂自己训练模型时, 主要自己使用的自研芯片 ,在公开市场 ,在公共云上, 英伟达确实形成了事实上的 AI 算力垄断 。

十年前部分研究员想避免的这种对单一公司过多的依赖依然是发生了 。 这种状态会持续吗 ? 未来的变局可能会从哪条裂缝开始 , 这会是我们之后反复讨论的话题 。

本期节目就到这里 , 感谢收听 。 如果你对今天聊的话题有观察 、 好奇或疑问 , 欢迎在评论区分享想法 , 这也会成为我们节目的一部分 , 让整个讨论更完整 。

你也可以把我们的节目分享给对这个话题感兴趣的朋友 , 推荐更多你想听的主题和嘉宾 。 你可以从小宇宙 、 苹果 Podcast 等渠道关注 《 晚点聊 LateTalk》,也欢迎关注我们的公众号 《 晚点 LatePost》。

下期再见