# 71: “如果相信只靠 Scaling Laws 就能实现 AGI，你该改行了”，与香港大学马毅聊智能 晚点聊 LateTalk · 2024-06-11 本期《晚点聊 LateTalk》的嘉宾是香港大学计算机系主任、数据科学研究院院长马毅，他与主持人程曼祺的对话围绕“智能”展开，尖锐质疑当下主流的大模型路线。马毅的核心观点是：只靠 Scaling Laws（更多数据、更大算力、更大参数）无法实现 AGI，因为深度学习网络本质上都在做“压缩”——从图像、声音、语言等高维信号中寻找低维结构和规律；GPT 表现出的数学推理仍是记忆和统计，如同“高分低能”的填鸭式学生，学不到因果与逻辑。他区分了知识与智能：知识是存量，智能是增量，智能的本质是能纠正已有知识的不足并增加新知识。为此他提出“简约与自洽”原则，并用白盒模型（ReduNet、CRATE）从数学上解释神经网络每一层在做什么，称其已接近甚至超越经验设计的网络，能显著降低算力与试错成本。他还批评 AI 威胁论“要么无知要么别有目的”，主张政府应监管技术应用而非技术本身，并透露已创立公司“益生”推动白盒技术产业化；同时梳理了从控制论到深度学习的历史，强调闭环、自主学习和 AI 通识教育的重要性。 ## Questions this episode answers ### 马毅为什么说相信只靠 Scaling Laws 就能实现 AGI 的人该改行？ 马毅认为，现有大模型本质上靠统计记忆数据结构，把数据分布学正确，并没有理解知识或学会因果推理与逻辑，只是高分低能。他主张年轻人若只把 Scaling Laws 当信仰，认为数据足够多、模型足够大就能实现 AGI，就没有任何贡献空间，只能当工程师或螺丝钉，应该改行。 [16:34](https://latetalk.podhood.com/2d734378-bd52-4f0d-908d-f3d045679ac0?t=994000) ### 马毅如何定义智能？为什么他说 GPT-4 有知识但婴儿更智能？ 马毅认为知识和智能不同：知识是存量，智能是增量，智能最本质的特征是能够纠正自己现存知识的不足，而且能够增加新的知识。GPT-4 拥有更多知识，但它只是被训练出来的记忆系统，没有自我改进、推断和纠错能力；婴儿虽没有知识，却能通过观察、预测和纠错不断学习，所以婴儿更智能。 [33:17](https://latetalk.podhood.com/2d734378-bd52-4f0d-908d-f3d045679ac0?t=1997000) ### 马毅为什么认为所有深度学习网络都在做压缩？白盒大模型是什么意思？ 马毅认为，几乎所有神经网络，包括 CNN、ResNet、Transformer、Diffusion，本质上都在对高维数据做压缩：把图像、声音、语言等高维信号中最具相关性和规律的低维结构提取出来，形成更紧凑、更结构化、更简约的表达。白盒大模型就是为这个压缩过程找到严格的数学解释，从而能设计更高效、更简洁的压缩算子。 [22:58](https://latetalk.podhood.com/2d734378-bd52-4f0d-908d-f3d045679ac0?t=1378000) ### 马毅为什么认为说现在的 AI 危险的人要么无知要么别有目的？ 马毅认为现在的 AI 本质上只是对数据做压缩、形成记忆碎片，连自主学习和纠错能力都没有，谈不上可怕；那些宣称 AI 是原子弹、要求政府监管的人，要么是不了解它在做什么、无知，要么是另有目的——一帮亿万富豪、掌握技术的公司高管去白宫喊危险，动机可疑，可能导向过度监管和垄断。 [55:41](https://latetalk.podhood.com/2d734378-bd52-4f0d-908d-f3d045679ac0?t=3341000) ## Key moments - **[0:00] 开场** - **[2:50] 主流质疑** - [3:03] 马毅：产业界不看白盒论文很正常，从理论到实践的桥还没搭完，这条路还很长 - [4:07] 马毅：ReduNet 框架五年前就正确，但当时工程实现粗糙，还没找到可扩展的落地方式 - [5:33] 马毅：经验方法与 Scaling Laws 不矛盾，但更大资源带来的量变到底是不是 AGI 仍需证明 - [7:21] 马毅：图灵测试和 OpenAI 的“80% 任务超过 80% 人类”AGI 定义都有误导性，不是科学定义 - [8:27] 马毅：现在的大模型只实现了记忆的局部功能，是粗暴的端到端训练，依赖海量数据和人工监督 - **[8:29] 记忆局限** - [10:12] 马毅：反向传播是对几千亿参数同时全局优化，算力需求极大，而且是开环、需人监督的学习 - [10:58] 马毅：现有方法会遭遇瓶颈，把全世界数据喂进去最多记下已有成文知识，指望不了创造性 - [12:18] 马毅：“填鸭式教学，高分低能，知其然不知其所以然”——用来形容 GPT 类模型 - [12:42] 马毅：Transformer、Diffusion、Denoising 和编码率减少本质上都是在做同一件事——对数据压缩 - **[13:26] 换行警告** - [14:20] 马毅：深度学习曾被主流忽视三四十年，现在矫枉过正成“能解决世界上所有问题” - [16:49] 马毅：如果你相信只靠 Scaling Laws 就能实现 AGI，“你该换行了”，因为只能当一颗螺丝钉 - [18:49] 马毅：微软亚研院招何恺明等人，靠“你做哪些事别人做不了”的独特标准筛选人才 - **[21:19] 压缩原理** - [21:19] 马毅：2017 年回到伯克利后开始梳理领域历史，第一个结论是现有深度网络本质上都在做压缩 - [23:30] 马毅：CNN、RNN、ResNet、GoogleNet、Transformer 都是一层层迭代压缩数据，找更紧凑的结构表达 - [25:26] 马毅：现在爆火的 Diffusion 和 Denoising 是上百年前数学、物理、统计中已有的想法，好想法总会被重新发明 - **[26:50] 简约自洽** - [27:13] 马毅引用爱因斯坦：“Everything should be made as simple as possible, but not any simpler”——简约和自洽由此而来 - [29:40] 马毅：智能存在的前提是世界可预测且有规律，生物用最简约方式记住规律才能更好地生存 - [30:37] 马毅与沈向阳、曹文毅合作论文提出“简约与自洽”原则：简约是最省表达，自洽是预测与观测一致 - **[32:56] 知识智能** - [33:05] Q: 为什么马毅说婴儿比 GPT-4 更智能？——知识是存量，智能是增量 - [33:50] 马毅：GPT-4 本身没有智能，有智能的是“GPT-4 加上 OpenAI 工程师团队”，因为后者能一代代更新它 - [35:30] 马毅：智能最本质特征不是应用知识，而是能纠正自己现有知识的不足、增加新知识 - **[37:13] 白盒路径** - [37:22] 马毅：达 到 智 能 需 要 三 个 转 变：黑盒到白盒、开环到闭环、人工指令到自主学习 - [38:28] 马毅：记忆系统是闭环——识别是压缩、想象是生成，生成内容必须与感知一致（两个苹果不能变三个） - [41:02] 马毅：人的学习是自主且在大脑内完成的：我们从没拿尺量窗框是直角，却靠闭环预测学会了形状 - [42:19] 马毅：生物没有外部物理信号当老师，老虎扑来只能靠内部预测和纠错，所以智能必须是自主闭环 - [44:18] 马毅：不一定需要身体也能学物理规律；只要外部世界有低维结构，内部闭环系统在理论上就能学会 - [46:13] 马毅：白盒、闭环、自主这三件事对实现通用智能是必要的，但不是充分条件 - **[48:40] 验证推演** - [48:45] 马毅：ReduNet 框架漂亮但被拒稿，CRATE 后续工程优化后，理论推导出的网络性能已逼近甚至超越经验网络 - [51:23] 马毅：Transformer 和 ResNet 其实是白盒压缩原理的不同经验近似，原理可以解释它们为什么 work - [53:45] 马毅：理论指导的网络一旦成熟，计算效率有望比现有经验模型提高 10 倍、100 倍甚至 1000 倍 - [55:19] 马毅：2023 年初开始对学生说，搞清白盒已从兴趣变成责任——历史上有用的黑盒都会变成迷信和巫术 - **[55:32] 祛魅** - [56:15] 马毅：说 AI 是原子弹、病毒很可笑；政府应监管技术应用而非算法、数据和算力研究本身 - [58:16] 马毅：AI 恐慌像传染病初期跳大神，必须把原理打开，否则过度监管会导致垄断、遏制创新 - [59:28] 马毅团队白盒论文副标题叫 “Compression is all there is”——大模型本质就是压缩数据、记住再生成 - [1:00:53] 马毅：产业界买大量芯片大部分花在试错上；按原理设计网络可省去试错，一步做到八九成再微调 - [1:01:37] 马毅：已有白盒模型至少能节省三分之一到四分之一算力，后续改进会是数量级上升 - [1:05:00] 马毅：机器智能和生物智能结构相似，因为目前没看到其他方式——所有活的智能系统都是闭环系统 - **[1:05:04] 历史源流** - [1:09:29] 马毅：闭环记忆系统会优雅地遗忘，天然避免开环网络的“灾难性遗忘”，和人的记忆规律一致 - [1:11:36] 马毅：训练 GPT 用 10 兆瓦，人脑只要 10-20 瓦，最智能的机器人还不如蚂蚁，差 6-7 个数量级 - [1:13:16] 马毅：AI 的机制研究不始于 1956 年，1940 年代信息论、控制论、博弈论已在研究智能底层机制 - [1:16:01] 马毅：神经网络两次寒冬都因缺乏数学解释；现在经验结果已可用，大概率不会再冷，但并非高效率路径 - [1:17:47] 马毅：神经科学发现猴子大脑对物体编码是低维子空间，与其团队白盒数学结构高度相似 - [1:20:20] 马毅：自己的工作与主流不矛盾——先解释现有网络在做什么，再看局限，再提高效率 - **[1:23:46] 创业教育** - [1:24:10] 马毅：疫情期间看到白盒框架对产业有指导；实验验证可规模化后，创办公司要做“记忆生成”的智能底座 - [1:25:57] 马毅：学校做探索、找不足；公司做放大和工程化，把白盒框架变成平台赋能产业 - [1:29:06] 马毅：让产业认可白盒，要么效率数量级提升（10倍、100倍），要么做出本质不同的自主能力 - [1:30:57] 马毅：公司目标是证明白盒技术能在真实系统上带来根本不同的价值；中国需要差异化和先进性的东西 - [1:33:06] 马毅：白盒需要的算子是特殊的，用 GPU/CPU 是绕大弯；一个 ReLU 用二极管就能实现，未来硬件能耗可大降 - [1:34:54] 马毅：公司先把底层算法和平台做好，以 API 或赋能形式支持现有与全新应用场景 ## Speakers - **曼祺** (host) - **马毅** (guest) ## Topics AI模型团队动态, 模型自进化 ## Mentioned Berkeley (company), DeepMind (company), HKU (company), Microsoft (company), NVIDIA (company), OpenAI (company), Tesla (company), UIUC (company), CRATE (product), Diffusion (product), GEPA (product), GPT (product), ReduNet (product), Transformer (product) ## Transcript ### 开场 **曼祺** [0:09] 大家好 ， 今天的主播是曼琪 。 这是又一期 《AI 大爆炸 》 系列 ，是晚点 LatePost 上周发布的 《 对话香港大学马毅 》 的采访音频 。 马毅现在是香港大学计算机系主任和数据科学研究院的院长 。 自从 2000 年从加州伯克利大学博士毕业以来 ， 马毅先后任职于伊利诺伊大学香槟分校 ，也就是 UIUC、 微软亚研院 、 上海科技大学 、 伯克利大学和香港大学 。 我们这次的采访就发生在香港大学计算机系的办公室 ， 港大是 " 依山而建 " 的一大片建筑群 。 从港大的地铁口找到计算机系所在地的过程中， 所有导航地图基本都没有什么用 ， 我问了几个人也没能一次就指对 。 当时我拖着行李箱在港大的各种楼梯 、 电梯里上下乱窜时， 就在想 ： 这还真是一个考验复杂智能的场景 。 那天下午的访谈就围绕 " 智能 " 展开 。在如今的 AI 领域 ， 马毅可以算是一个少数派 。 不少人相信用更多数据 、 更大算力 、 做更大参数的模型就可以实现通用人工智能 ， 这就是大模型的 Scaling Laws， 它被一些人视为 " 信仰 "。 马毅则不相信这条路 ，他认为现在的深度学习网络本质上都是在做 " 压缩 "， 就是从图像 、 声音和语言等高维信号里 ， 找到能表示数据间的相关性和规律的低维结构 。GPT 表现出来的数学推理等能力 ，在马毅看来本质还是依靠记忆和统计 ， 就像一个接受填鸭式教育的高分低能的学生 ，他并不能学到因果推理 、 逻辑等能力 。 这离他定义的 " 智能 " 还有相当距离 。他认为智能最本质的特征是 ： 能纠正自己现存知识的不足 ，而且能增加新的知识 。 由此 ， 马毅也完全不买账 AI 威胁论 。他认为 ， 说现在的 AI 危险的人， 要么是无知 ， 要么是别有目的 。 为解释深度学习网络到底在做什么 ， 马毅团队最近几年的重点工作是 " 白盒大模型 "，也就是用数学来解释深度学习网络的压缩过程 ，以找到更高效的压缩方式 。他也希望以此来对抗黑盒带来的误解 ，因为历史上， 任何有用的黑盒都可能变成迷信和巫术 。他担心 AI 威胁论可能带来过度监管 、 导致垄断 、 遏制创新 。 对马毅的采访 ，也是晚点的 AI 系列访谈之一 。 之前我们已经发布了 7 篇 ， 包括 《 零一万五 》 的创始人李开复 、 宇树科技的创始人王欣欣 、MiniMax 的创始人严俊杰等等。 今天这期播客对应的马毅老师的对话文章在 shownotes 里 ， 大家可以点击链接阅读原文 。 访谈过程中涉及了一些论文 、 著作和术语 ， 我们也标注在了 shownotes 里的附录部分 。 下面就进入正式的访谈内容吧 。 **Guest** [2:33] 我觉得要是让那个大语言模型规划一下从地铁口到这个州一厅楼的路线 ， 应该挺难的 。 **马毅** [2:40] 港大是出了名的是 。 所以我刚才是想 warning 一下 ，因为你打车稍微容易一点 ， 你在第一楼就到了 。 但是如果是坐地铁过来 ， 基本上来港大第一次的人都会走丢 ， 所以 don't feel bad about it。 **曼祺** [2:50] 我之前也收集了一些从业者的看法 ， 然后他们说他们自己经常看论文的 ，但他们现在已经不看您的论文了 ，因为他们觉得对他们的实践没有什么指导 。他们比较关心的是怎么找到一些更高效的训练和推理框架 。 ### 主流质疑 **曼祺** [3:02] 你怎么看这种现状 ？ **马毅** [3:03] 这个实际上是非常正常的 ， 对不对 ？ 实际上我们最近做这些工作 ， 白盒也好 ， 就是最近这 5 年的工作 ， 实际上就是为了完成从理论到实践的桥梁 。 不光是我们这个方向 ， 那是其他的领域实际上那个距离应该是更远 ， 甚至别人可能连看都不愿意去看 。 那么我们你说这个过程是不是就完成了 ？ 那肯定还没有 。 这个会是一个非常艰辛困难的问题 ， 就是你即使桥梁搭起来 ， 大家愿不愿意走 ， 愿不愿意真的是把它理解 ， 甚至能够应用起来 ， 这还有很长的距离 。 所以我们在过去你也看到 ， 我们组做的东西实际上跟其他组非常不一样 。 很多做理论就做理论 ， 根本不 care 应用 。 那么做应用的也就做应用 。 那么我个人的背景实际上是我是相对跨两边 ， 所以我觉得现在也是有些义务要把这件事情做得更好 。 但是不是现在就已经做到了位了 ，是不是现在大家就马上就能够看到它的价值 ， 我们且看 ， 对不对 ？ 因为这也是非常新的东西 。 理论框架可能是在四五年前就有了 。 你看我们知道 2021 年应该有个白盒的深度网络的理论 。 **曼祺** [4:05] 对 ， 就是 ReduNet。 **马毅** [4:07] 那个时候确实框架非常好 ， 到现在都认为它也是正确的 ， 完全正确的 。 但是当时的工程实现是非常粗暴的 ，并没有找到真正 scalable 的去实现的 。 那么过去一年这个突破很快 ， 真的发现在这种框架下， 你能设计出来的网络 ， 它的性能不光能解释现有的网络的这个结构 ， 大概它在做什么 。 同时呢 ， 我们通过理论设计的网络 ， 它的性能已经接近甚至超越现在这些经验的网络 。 这是只是第一步 。 至于产业界 ， 当然大家会更实用一点 。 大家一定要知道一个你这个框架到底会给它带来额外的好处在哪里 ， 对吧 ？ 就是说你一个理论框架首先解释已有的工作 ， 这是对学术有价值 ， 就是搞明白是怎么回事 。 你只有把你已经做的事情 ， 现在的这些通过经验设计网络搞明白了 ， 你才真正的知道它的 limitation 在哪里 。 **曼祺** [4:57] 所以您怎么描述现在实践领域最主流的方法 ？ 您会怎么去概括它 ？ 我看您刚刚反复用的一个是经验实现的一个方法 。 **马毅** [5:05] 就是他们是通过各种经验尝试找到了一些就是说还比较 work 的一些 system， 它的模型或者它的方法去让这些模型具有一定的性能 。 **曼祺** [5:15] 因为现在看起来 ， 这个经验的方法似乎非常聚焦在 ， 你可以说它是对 Scaling Laws 的一种信仰 ， 或者说它是 Transformer 架构 ， 或者 Diffusion， 就这两种可能是最主流的架构的模型 。 就比如说我相信用更多的数据 、 更大的算力 、 搞更大参数的模型就能达到 AGI， 这是大家很多人现在的想法吗 ？ **马毅** [5:33] 有些事情并不矛盾 。 第一 ， 经验的东西能不能找到 work 的方法 ， 科学上经常这样 ， 实验物理一样能发现很有趣的结果 ， 对不对 ？ 正确的现象等等的 。 但是第二 ，Scaling Laws 任何事情 ， 即使比较粗暴的东西 ， 越大规模的资源 ， 当然了结果就会更好 。 这件事情并不矛盾 ，但是这靠更大的资源 ，是不是就能达到一些本质上不同的 ？ 我们经常有时候讲量变引起质变 ， 对不对 ？ 但是不同的事情 ， 质与质也不一样 。 它的量变引起质变是某种意义上的质 ， 它可能是在一种方法上 。 比如说如果要让机器记住人类所有的知识 ， 那么当然经验的数据记得越多 ， 它的性能达到一定程度的时候 ， 它的性能会从量变变成质变 ， 会有个跳跃性的能力 。 这实际上是在很多数学领域 ， 就在统计物理里面 ， 我们经常有个叫相变理论 ， 对不对 ？ 当达到一定临界点的时候 ， 我们就会把一些事情 ， 它的成功的概率会从 0 跳到 1。 这是不光是在这种所谓的人工智能 ， 最近这些 Scaling Laws 大家在宣扬的事情 ， 对吧 ？ 你的数据要足够大 ， 模型要足够大 ， 你才能看到一些现象 。 但这些现象是不是本质上就是我们所说的智能本身 ， 这个是 a big question mark。 也可能它的记忆变得比较连贯了 ， 记忆变得比较完整了 ， 所以它的性能变得更好了 ， 量变产生质变 ， 它这个质到底是什么质 ？ 但是现在大家经常会把这两个事情混淆 ， 对不对 ？ 觉得好像我看到了一些不错的现象 ， 那么这就建议这就是 AGI 或者就是 General AI。 这是我们需要做学问的人一定要把它分得很清楚的 。 现在通过 Scaling Laws 看到的这个性能增长 ， 它增长是什么性能 ， 跟我们所真正要定义清楚的 General Intelligence 这两件事情是不是一件事情 ， 这是需要去 justify 的 。 **曼祺** [7:16] 所以你觉得现在这个方法的一个缺陷 ， 就是它对智能的定义本身是有点问题 ， 或者比较模糊的 。 **马毅** [7:21] 对 ，是 。 所以大家就说图灵测试 ， 图灵测试 ， 图灵测试实际上是个非常当时看上去还是不错的 ， 它是一个比较启发式的定义 ，但是它并不是一个具有实际操作意义的定义 。 它并不客观 ， 它也没告诉你要去测什么 ， 怎么测 。 所以现在这个你也提到这个 OpenAI 的定义 ， 就是 80% 的任务超过 80%， 实际上这也非常的 misleading， 对吧 ？ **曼祺** [7:42] 你也不同意这个定义 。 **马毅** [7:43] Of course not。80% 什么样的任务呢 ？ 谁来定义这些任务呢 ？ 还有 80% performance 怎么去量化呢 ？ **曼祺** [7:49] 对 ， 它是个很实用的定义 。 它是认为 AGI 就是在 80% 的工作上， 然后你能经济性的超过 80% 的人类 ， 它是一个结果或者应用上的定义吧 。 **马毅** [7:58] 是 。 但是反正这个就是仁者见仁智者见智吧 ， 这不是一个科学的定义 ，也不是一个客观严谨的一个定义 。 我觉得现在智能的研究实际上是应该是一个很科学的问题 。 **曼祺** [8:08] 那现在这个主流的方向 ， 除了您刚才说的 ， 就是这个对目标的定义 ， 可能本身就是有点问题或者比较模糊的 ， 它还有什么比较大的缺陷 ？ **马毅** [8:16] 就是说现在它最大的缺陷 ， 它实际上是只是实现的 。 这我们现在看到 ， 为什么我们经常有时候会强调 ， 它实际上是通过两个大方向吧 ， 一个它实际上是实现记忆的局部的一些功能 。 最早期的这种就是在做分类识别的问题 ， 它实际上是在做我们的一种从物理信号到我们大脑里的 ， 模拟这个物理信号到大脑里面的这个认知过程 。 ### 记忆局限 **马毅** [8:36] 我们识别分类嘛 ， 我们把这个杯子 、 这个计算机在大脑里面形成跟我们的抽象的物体的概念进行 mapping， 对不对 ？ 从一个视觉信号到这个 ， 它在模拟这个过程 。 那么生成呢 ， 又是从这种我们的语义信号生成物理信号 ， 它也在模拟这个反过程 。 实际上这都是我们记忆的两个片面的功能而已 。 它是把一个完整的系统模拟了我们这个系统的一些局部的功能 。 正因为它是局部 ， 所以它的实现是比较粗暴的 。 它是通过一个 end-to-end 的 ， 通过数据来进行训练 。 当然通过这种训练 ， 你当然也可以数据越多 ， 模型越大 ， 当然可以记住的东西 ， 它的性能也可以提升 。 这就是我们所说的 Scaling Laws， 对不对 ？ 但是你是在实现一个完整系统的局部 ， 那么你要为此付出代价 。 它的对数据的要求 、 对模型的要求 、 对算力的要求都会非常的大 。 它的系统不完整 ， 它实现的功能也不完整 ， 那么你自然就要 ，而且还要人来 supervise。 这个过程需要人来告诉它输入是什么 ， 输出是什么 。 即使自训练也是要有大量的数据 ， 看在前面的 predict 后面的 ， 要准备好大量的好的数据 ， 让它看到 pre-text 预测下一个 text， 要给它准备好好的数据 ， 它才能学到这些数据里面的好的规律 ， 好的 pattern， 好的统计 。 **曼祺** [9:49] 就是它这个缺点很难发现吗 ？ 为什么大家还是非常追捧这个方向 ？ **马毅** [9:52] 因为现在是大家只 list 到这样子能够提升性能 。 **曼祺** [9:56] 就是它的正反馈很强 。 **马毅** [9:57] 这是第一方面 ， 它是通过这种比较粗暴的方法来提升 system 的性能 。 另一方面呢 ， 正因为它是局部的 ， 去优化这样系统的现在的工具 ， 就是整个在做全局优化 ，back propagation 反向推导 ， 对吧 ？ 这种实现实际上是非常 expensive 的 。 就是说你整个的模型 ，不管深度模型 ， 虽然是很多层 ，但是你是所有的层同时在优化 ， 几十亿 、 几百亿 、 几千亿的参数同时在优化 ， 对吧 ？ 那么这样要求的这个算力就很大 。 而且它是一个输入输出的 open-ended， 它自己并不没法知道自己学的东西是对还是不对的 ， 只能来 supervise。 所以它提供的数据很大 ，而且是好的数据 。 所以你看现在训练大模型 ， 第一步要清数据 ， 对不对 ？ 如果你给它错的数据 ， 它也会把它记下来 ， 它自己并没有知道输入输出是对的还是错的 。 **曼祺** [10:45] 那在您的这个逻辑里面 ， 它因为是一个局部的方式 ，而且非常消耗资源 ， 它可能阶段性有进展 ，但是肯定到了某一个阶段 ， 它就会出现瓶颈了 。 那它这个出现瓶颈的迹象已经出现了吗 ？ 或者说到什么条件它会出现瓶颈 ？ **马毅** [10:58] 我觉得现在基本上也会 plotal。 你把现在的世界上的数据计算来 ， 它最多也就形成一个能把全世界的最好的这些知识或者已有的成文的知识记下来 ， 记得不错都已经很了不起了 。 还别说这些 ， 如果这些 text 里面还有一些自相矛盾的东西的话 ， 它是不是能够梳理清楚 ， 这就不知道了 。 它只会比较机械的将你给它的这些数据 ， 相对这个按照统计的方法 ， 把它的这个前后的 pattern 的关系 correlation 给记下来 。 它基本上在做这样的事情 。 所以你就不要指望它能做一些更多 creative 的事情 。 至少现在的大的基础模型是这样在训练 。 那么在这个基础上再做一些改进 ， 那是以后的事情 ， 我们以后待会可以谈 。 **曼祺** [11:39] 那 GPT-4 就已经到这个状态了吗 ？ 还是 GPT-5 可能会比 GPT-4 有非常大的提升 ？ **马毅** [11:44] 对 ， 我想它可能会有一些定量的提升 。 按照一些已有的定量的指标 ， 它肯定会提升 。 但是这些定量的指标是不是就是我们认为正确衡量智能的指标 ， 这是有待探讨的 。 且不说现在大家都说你看它号称在很多的数学问题上都能超过 ， 超过什么能解奥数的题等等等等。 但是实际上你就是让 GPT 去解一些初中， 你自己去试一试 ， 你自己出一些初中水平的 、 初小水平的数学问题 ， 让它去解一解 ， 你看它能不能解 。 所以现在就是我们经常就会看到 ， 实际上现在的这种模式 ， 举一个例子吧 ， 就有点像是填鸭式教学 ， 对吧 ？ 识而不化 ， 它是知其然不知其所以然 ， 就是高分低能 。 最后训练出来就是高分低能 。在一些标准测试上已经见过的 、 刷过的题上面 ， 可以填得非常高 ，但是连基本的能力理解它是没有的 。 它基本上是靠统计的方式 。其实照我们现在知道 ， 你刚才提到了这个技术的东西 ，Transformer 也好 ，Diffusion 也好 ， 包括我们最近文章上来说 ， 大家都在做压缩 。 所以通过原理的白盒的方法是 ， 我们所说的白盒不是说人的意义上的理解 ，是从数学意义上知道它对数据在做什么样的统计和几何意义上的处理 ，而且是要非常严格的把它统一的理解 。 就知道你这些方法 ，不管是 Transformer、Diffusion、Denoising， 还是包括我们提出来的编码率减少 ， 实际上都在做数据进行压缩 。 只是压缩的这个近似压缩这个算子不太一样而已 ，但它本质上都在做一样的事情 。 从数学上大家都在做一样的事情 ， 只是说哪个近似的方式更好 、 更精准或者更简约而已 。 **曼祺** [13:15] 比如说像 OpenAI 的很多人， 包括支持这些公司 ， 它在全球的竞争者的投资人， 那我觉得他们也都很聪明 ， 对吧 ？ 但是最集中的资源是在这个方向的 ， 就会导致什么后果 ？ **马毅** [13:26] 导致很简单 ， 大家就是一个是大家都很同质化 ， 另外一个反正人就是这样 ， 包括学术界也一样 ， 很难绕过去 。 ### 换行警告 **马毅** [13:33] 就是说一个东西一旦 popular， 大家就会相互去 confirm 一件事情 ， 对不对 ？ 就会去认同一件事情 。 这在历史上又有例 ， 我是写书的嘛 ， 写书的人有个好处 ， 我们会把历史搞得比较清楚 ， 还有这些想法思路 ， 就是科学的一些想法 ， 它的发展历史看得比较清楚 。 所以哪些是新的东西 ， 哪些是旧的东西 ， 或者哪些是 recycle 出来的东西 ， 还有一些历史上经常犯的一些错误 ， 我们还是经常还是有更多的教训 。 所以说往往一个领域大家都去认可的一件事情 ， 往往会把大家变得更加的狭隘 ， 更加的局限 。 至少在一个时期 ， 整个 community 都会在认可一两件事情 ， 实际上就会忽略掉其他可能更重要 ， 至少是跟现有的想法互补 、 正交的一些事情 。 这是历史上是从未发生的 。 **曼祺** [14:18] 这有什么具体的例子吗 ？ 比如在 AI 的历史上 。 **马毅** [14:20] 深度网络本身就是个例子啊 ， 深度网络被忽略了三四十年， 对不对 ？ 从六七十年代这个开始冷了以后， 基本上有三十年， 那也就是这些寥寥无几的人在坚持 ， 对不对 ？ 整个学术界是完全不认可这个东西 。 现在有点矫枉过正 ， 可以这么来想 ， 原来是神经网络是一无是处 ， 现在变成能解决世界上所有的问题 。 只要是稍微有点常识的人 ，是不是都会觉得这里面有问题 。 **曼祺** [14:43] 你觉得现在大家对 Scaling Laws， 对这套主流的方法有什么错误的期待 ？ 除了解决世界所有问题这种 。 **马毅** [14:49] 我觉得现在大家就是我讲 ， 就是说 Scaling Laws 本身在哪里都有 。 就是说有些事情必须要在数据足够多 、 模型足够大 ， 这个你才能就是说量变引起质变 。 但是你这个质是什么 ， 搞清楚 。 你看到的现象的跳跃是什么能力的跳跃 ， 要定义清楚 。 现在的看到的跳跃是在足够的数据和模型大的时候 ， 对这些数据所代表的它的分布 、 它的结构 ， 把它学正确了 。 但只是仅仅是把这些数据的分布和结构学正确了 ， 那么再通过这些 ， 再把这些分布生成出来的图像或者数据语言 ， 或者是它的结构对了 ，但它并不达到对这些数据的知识理解了 。 它只是学到了它的统计规律 、 统计分布 。 **曼祺** [15:34] 那这个说到跟之前相关的一个问题 ， 就是它到什么时候是瓶颈 ？ 那是它有用的数据比较高质量的数据 ， 相对耗尽的时候 ， 就是可能会出现一个瓶颈吗 ？ **马毅** [15:42] 是的 。 它现在的方法至少核心的 fundamental model， 它只主要在记忆你给它的数据里面的结构 ， 尽量把它学正确 ， 把它的统计的分布把它学正确 。 它可以用来解决一些可能识别的问题 ， 或者解决一些这个生成的问题 。 就是说能从这个学到的结构里面生成跟这个结构相似的数据 ，但是它并没有对这些数据 、 这些结构所代表的知识有任何可能是本质上的理解 ， 对吧 ？ 我们还没有看到这样的迹象 。 至少现在的 ， 你也看到我们最近 ， 对吧 ， 这些 Eyes wide shut， 对不对 ？ 当模型资源大的时候 ，有英文里面叫 cherry pick， 对吧 ， 摘樱桃 。 当你资源多的时候 ， 你总能找到亮点 ， 找到正确的东西 ， 找到正确的例子和好的例子 ， 让你看 ， 就觉得这种东西了不起 。 但是大家不会去看到它的局限性 ， 甚至从经验的方法都不会去看 ， 还别说从理论上去看到它的局限性 ， 甚至经验上大家都不愿意去做这个事情 。 但做研究的 ， 这是我们的出发点 。 就是作为年轻人来讲 ， 我不年轻 ，但就是个年轻人来讲 ， 如果你对 AI 很 passionate， 如果你认为你的信仰就是 Scaling Laws， 现在的系统做大 ， 数据足够多 ， 模型足够大 ， 就能实现 AGI 了 ， 我觉得你该换行了 。 因为你已经不可能有任何 contribution 了 。OK， 你在历史上没有你的名字 ， 你就只能做其中一个螺丝钉 ， 一个 engineer 去接着这个去做 。 你看我们去年那个多模态模型出来 ， 上上下下都在说得很好 ， 对不对 ？ 那你看我跟杨乐坤 ， 还有谢赛琳 ， 还有我们大的学生 。 所以我们就想 ， 好吧 ， 如果我们自己去验证一下， 如果确实这样 ， 那我们真的可以换行了 ， 改行了 ， 对不对 ？ 就不能再做这个了嘛 。 那就让 OpenAI 完成这个使命就完了 ， 那我们得去研究别的东西了 ， 这个 AGI 就实现了嘛 。 那么当时我们就去测一下， 这东西还值不值得研究 ， 值不值得研究说到一定要找到现有的东西的局限性 。 所以就是还没有去认真去测 。 我们当时也在想 ，是不是能够认真的去很系统 、 客观去测 ， 结果只是做了很常识性的测试 。 你也看到那个 report， 对不对 ？ 绝大部分现在这些大模型 、 多模态模型 ，在非常 ， 甚至都不是故意挑剔的艰难的任务上面 ， 都不是很深入的一些测试任务上， 甚至就是一些常识性的日常人根本绝对不会犯错的 。 **曼祺** [17:45] 你说的就是那个 wide eyes shut？ **马毅** [17:47] 对啊 ， 就是要讲睁眼瞎嘛 ， 英文的名字就是睁眼瞎 ， 眼睛放在你眼前你也看不见 。 **曼祺** [17:52] 就比如它的方向和判断是错的 。 **马毅** [17:53] 大部分的这些模型 ， 你看基本上连 random guess。 **曼祺** [17:56] 对对对 ， 我看到了 。 **马毅** [17:57] 对吧 ？ **曼祺** [17:58] 好像只有 GPT-4、V3。 **马毅** [17:59] GPT 和 Gemini 的是 40%， 对不对 ？random guess 是 25%。 所以你可以看到 ， 就是说大家不愿意去谈这种事情 。 但是你看像杨乐坤或者我们是这个领域的 ， 我们就会去看你现有的方法 ， 它的 fundamental 不足的地方 。 因为这才是让我们 motivate 我们这个 ， 还有太多的事情可以做了 。 所以你看到在推特上， 杨乐坤也一直在 diss 现在模型的这条路子 ，是因为我们是有 evidence 的 ， 我们不会是因为太靠自己的立场去说话 。 科学没有立场 ， 我们只会去看事实 ， 看 evidence。 **曼祺** [18:28] 对 ，其实我有个好奇的点 ， 就是我发现愿意在这个特别主流的方向之外去寻找一些其他路线的人， 好像都是功成名就的 。 **马毅** [18:35] 对 ， 我们做 research 一定要有 motivation， 我们要去做一件事情 ， 这件事情它一定是值得做 ， 还有不足的地方 。 **曼祺** [18:41] 就是为什么那种年轻一辈里面特别厉害的 ， 或者说特别有名的人， 好像他们做这种比较小的选择的比较少啊 ， 还是说我不知道啊 ？ **马毅** [18:49] 我觉得科学研究一个是经验的问题 ， 就是说我们实际上对年轻人的这种评价标准啊 ，不太鼓励这种非常特立独行的思想 ， 就是独创性的思想 ，而且往往有一些量化的指标 。在微软我们那块有一句话 ， 就是说为什么你看微软亚研院培养这么多优秀的人， 我们有经常我会讲的一句话 ， 就是 "What you get is what you reward." 你鼓励什么 ， 你奖励什么 ， 年轻人就可以给你做出来什么 。 你要文章 ， 人家就可以卷文章 ， 一年给你发十几篇文章 。 你要鼓励真正独创性的东西 ， 那么你就会得到独创性的东西 。 当然这件事情并不是那么一蹴而就 ，但是你必须要坚持你的价值和品位 。 比如说在微软 ， 我当时你看我的组里面 ， 何恺明是我招的第一个人， 招到我们组里面的 。 小欧离开微软以后， 我就是他的继任者吧 。 **曼祺** [19:33] 所以你是数学组的这个负责人 ？ **马毅** [19:34] 数学组的负责人， 包括孙健啊 、 恺明啊 ， 还有后面的像后来的北大的什么林昼成啊 ， 这些都是啊 ， 很多都是我们的员工 ， 包括后来后面的这些员工 。 那么你看我们那个时候出来了一批 ， 对不对 ？ 那中国现在算是中国的 AI 的这种黄埔军校吧 ， 中外微软研究院 。 那么为什么那样呢 ？ 你看我们那个时候 evaluate 的人的时候 ， 每一个人我们都会讲 ， 你在这个组里面你的 core competences， 你做的哪件事情其他人做不了 。 如果你做的任何事情其他人都能做 ， 或者你是别人的一个子弟 ， 那我们要你干什么呢 ？ 所以那是当时微软的一个文化 。 我们在那个环境下， 就是说能够促进让年轻人意识到 ，他必须要去找到自己比较特立独行 、 比较 unique、 跟别人互补的一些能力或者方向或者贡献 。 为什么微软研究院在过去十几二十年能成为中国整个 IT 的黄埔军校 ， 中国几乎所有的 IT 公司的 CTO， 清一色都是从微软研究院出来的 。 所以整个还是就是说从人才培养 ， 实际上对科研也是这样 ， 实际上 AI 的研究也是不例外， 实际上每个领域都是这样 。 如果你要去 encourage 一些 ， 就是说最 easy 的就是从众嘛 ，因为什么东西热嘛 ， 这个东西只在这方面写文章 ， 容易发文章嘛 。 **曼祺** [20:39] 这个在中国和外国 ， 或者说在全球范围 ， 现在都是这样的 ， 还是它有什么区别 ？ **马毅** [20:44] 都有这个趋向 ， 尤其是在人工智能和机器学习过去这十几年 。 所以为什么我在社交媒体上比较 critical 一点 ，也是发现这种现象嘛 ， 就是说跟我们那个时代的以前的在对科学的教育已经不太一样 。 现在追求一些定量的一些指标比较多 ， 美国也开始有这个 ， 甚至比较大的高的大学的 top 学校也受这个影响 ， 实际上 。 所以我怎么现在看变得比较 vocal 一点 ， 同样一个指标只会培养出同质化的人嘛 ， 能力 、 方向 、 研究水平都一样 ， 都差不多的人嘛 ， 做同样的事情的人。 这种人会越来越多 ， 会越来越卷 ，而且就是没有独创性的东西 。 **曼祺** [21:19] 对 ， 我们接下来就是可以来详细讨论一下， 就是您自己看到的这个可能的更正确的一个目标和路径 。 因为你刚才也说现在对 AGI 到底是什么 ， 智能到底是什么定义是比较模糊的 ， 然后那你怎么去实现它 ， 可能这个定义就更模糊了 。 ### 压缩原理 **曼祺** [21:32] 所以您自己看到的就智能的应该是什么 ， 包括您觉得它应该怎么去实现 。 **马毅** [21:36] 对 ， 我们现在第一步的科研 ， 实际上我也是疫情前回到 ， 我是疫情前回到伯克利以后开始定下来 。 因为原来的很多的实践都是蛮经验化的 ， 包括很多的以前的一些网络的设计啊等等 ， 还有包括对深度学习 ， 整个的大家不是太清楚它的目的 ， 到底在做什么 。 虽然有很多的 advanced success，但是它的本质的同学说的理解不清楚 。 我觉得第一步先是要搞清楚你已经做的东西是什么 ， 这是非常非常重要 。 **曼祺** [22:03] 所以你是从那个时候开始 ， 就是想梳理整个这个历史的 ，是吧 ？ **马毅** [22:06] 对 ， 历史 ， 还有这些 idea， 到底它在做什么 ， 它当时也在思考 。 那么深度网络到底它实现什么 ， 它本身就是一个目的 ， 还是它是为了去实现什么东西 ， 它要实现一个什么功能 ， 这是第一步 。 第二步呢 ， 如果你真的理解了 ， 你才能知道它到底做什么了 ， 你才知道它的可能的局限性 ， 它做对没做对 ， 它的局限性在哪里 。 第三步才是你如果把它做得更加完整 ，不是说就一步到位 ， 至少能做得更加的完整的下一步该是什么 。 我们倒不一定是马上先看到第二步 、 第三步 ，但至少下一步 ， 它现有的框架 ， 它不足的地方在哪里 ， 马上能够完善的 ， 从包括我们最近提出来的这个领域 ， 现在如果是在开环在实现中， 那么它跟闭环的系统的关系在哪里 ， 至少先要把它做得更完整 、 更加自主 。 所以为什么要耗这么多的资源 ， 它的这个效率是非常低的等等等等 ， 你才能看到这些东西 ， 那么才能指向你更加正确的一些实现的方向 。 所以这是一步步的来 。 所以我们最早看到的现有的这些系统 ， 它实际上大家都是在做实现 ， 对数据进行找到一些更加 compact 的表达 ，在做一些压缩 。 虽然它并不一定 explicit 的意识到自己在做这样的事情 。 **曼祺** [23:13] 这些系统是指所有的神经网络是吗 ？ **马毅** [23:15] 几乎所有的神经网络 。 **曼祺** [23:16] 就包括什么 CNN、RNN 这些所有的 。 **马毅** [23:17] 对 ， 所有的 ， 包括这个 ResNet、LeLacast、RxNet、Google Net、GNet 什么的 ，ResNet， 包括现在的 Transformer。 所以我们最后这段启动 ， 就是过去的一系列文章 ， 你也看到在网上的一些文章 ， 都是在讲这个事情 。 实际上你这些网络都是把它白盒化 ， 了解它的数学真正在做什么的时候 ， 它实际上都是在对数据找到一个更加简约 、 更加 structured 的 representation。 所以它并不一定意识到自己在做这个 ， 它甚至都不一定承认自己在做这个事情 。 它这些网络一层一层都是在对数据进行迭代的压缩 ， 然后找到它更加 compact、 更加简洁 、 更加结构化的一些表达 。 而且这些结构也可能有些结构也是 implicit 的定义下的 ，也不是显示的自己清楚自己在干什么 ， 都是经验去通过尝试而提高的一些效率的 。 所以这是我们开始看到 ， 实际上整个过程就是在做同样的事情 ， 只是不同的网络只是在实现不同的优化策略而已 。 举个简单例子 ， 大家都在做下坡 ， 都在做梯度下降 ， 都在做实现爬坡法 ， 同一个目标都是一样的 ， 只是你可能选的路不一样 。ResNet 就不同的路 ，Transformer 不同的网络 ， 只是它的对这件事情的近似不一样而已 。 它本质上都在做同样的事情 ， 都在对数据进行压缩 ， 包括现在 Diffusion、Denoisance 都是这样的 。 而且正因为我们看到历史 ， 你会发现这些想法历史上早就有了 ， 包括 Diffusion、Denoisance， 实际上这都是上百年 old 的想法 。 **曼祺** [24:37] 那都不是计算机领域的想法 。 **马毅** [24:39] 对 ， 很多最早是在数学 、 物理 ， 最后在统计里面先发现的东西 ， 对吧 ？ 现在只是通过计算机大规模的 、 高效的实现而已 。 **曼祺** [24:47] 但是你梳理历史发现很多做这些网络的人 ，他可能也没有清晰的意识到这个想法是来自于已经有上百年的 。 **马毅** [24:53] 对 ， 好的想法 、 好的思路总会被 reinvented， 尤其在科学上， 对吧 ？ 倒不是说这个重新 reinvent 就没有价值 ， 当然在 reinvent something in a new better context 肯定是有价值的 。 但是你只要把历史梳理起来 ， 你会发现太阳底下没什么新鲜事 ， 基本上就是你现在想到的或者最近看到一些东西 ， 实现的东西往往是历史上早就有的 ， 甚至可能历史上还有更好的 ， 你的还没有实现的更加完整 ， 历史上还有更加系统 、 更加完善的思想 ，而且现在实现的通过经验找到的东西 ， 甚至从很多意义上还不到位 。 **曼祺** [25:25] 这有什么具体的例子吗 ？ **马毅** [25:26] 非常多 ， 实际上包括现在 Diffusion 的实现 ， 包括 Transformer 的实现 ， 比如说它就在做一些压缩的算法 ， 那么它现在的实现还是蛮惊艳的在做这些东西 。 当它一旦意识到的话 ， 它实际上就可以把这件事情做得更非常非常 efficient， 历史上还有更加 efficient 的方法去做这个事情 。 **曼祺** [25:41] 那上百年前这些数学家发明这些东西的时候 ，他们是为了什么呀 ？ 就是纯数学的 。 **马毅** [25:45] 它为了其他的一些 ， 比如统计上的一些理论上的问题 ， 它并不一定真的是去想到现在通过计算机能够对学习像图像这样的分布 ， 或者是自然语言这样的数据 。 它可能只是想学习它在科学上遇到的其他一些数据的结构 ， 它学习其他数据结构找到的方法 。 只是我们现在发现 ， 哎 ， 这些方法也可以用于图像 ，而且维度非常高 。 原来可能的数据维度很低 ， 比如说三个 、 四个变量 ， 现在可以是 100 万个 pixel、1000 万个 pixel， 这样的变量的维度很高等等等等。 **曼祺** [26:13] 就是当您发现这很多网络的共识是在压缩数据 ， 找到一个更简洁 、 更结构化的表达 ， 然后又发现了什么 ？ **马毅** [26:19] 对 ， 你当你发现它做这个事情的时候 ， 你就开始发现 ， 实际上现在的实现方法未必还到位 ， 就是对这些压缩算子 ， 它的统计数学 ， 它在做什么 ， 怎么去更加高效的去实现这些算子 ，而且更加简洁 ， 像白盒一样的 。 既然你知道它在做什么 ， 你就可以去设计这些算子了 。 **曼祺** [26:37] 是白盒就是集合 。 **马毅** [26:39] 你知道它每一层要实现集合的功能 。 **曼祺** [26:43] 那白盒可以表达成就是我更高效的 、 原理性的去找到一种更好的压缩数据的方式 ？ **马毅** [26:49] 对了 ， 或者去实现这些压缩的算子 。 你既然知道它在做压缩 ，是哪一类的压缩 ， 你就会发现不同的网络都是不同的实现形式 。 ### 简约自洽 **马毅** [26:57] 那么原来通过经验设计的话 ， 很多冗余的东西你就可以去掉了 。 你拆走是没拆到位嘛 ， 你里面有很多东西实际上是不必要的 。 就是说 ， 所以这就是我们的简约原理 。 什么叫简约 ？ 就是爱因斯坦不是讲过吗 ？ "Everything should be made as simple as possible, but not any simpler." 就是说任何不必要的东西 ， 如果没有必要不成实体嘛 ， 就是 Occam 剃刀嘛 。 但是你经验设计有很多东西你是靠尝试嘛 ， 虽然你找到了这个可能正确的方向 ，但是很多东西还是冗余的 。 所以近似也不是那么准确 ，但是 work 了 ， 大方向差不多 ， 模模糊糊的 。 但是一旦知道原理你在做什么 ， 那我设计来的我就肯马上就知道 ， 就是所有不必要的东西就不必要了 。 我只实现我该做的事情 ， 用最高效的 、 最简洁的方式做我该做的东西 ，其他的东西都是我就知道从理论可以保证 ，其他东西都是 unnecessary。 所以不光是从我们为了记忆 ， 从数据里面学习这些 ， 智能本身就是要从数据里面找到这些最简洁 、 最简约的表达方式 ， 数据里面的结构 ， 用最简约的方式表达出来 。 去找这些结构的过程 ， 实际上也是叫最简约的 。 自然界就是这样的 ， 一定是最后要找到最省能量 、 最简约的事情去做这个事情 。 我多讲两句 ， 大家对智能可能有些很多的误解 ， 就是说简约实际上是两个意思 ， 一个是就是说我们对知识本身的表达 ， 比如说我们为什么要有智能 ， 实际上这是我们考虑的比较多 。 开始大家都说我神经网络 ， 我去做分类 ， 神经网络我去做识别 ， 对不对 ？ 但为什么要有 ？ 神经网络是在模拟我们所谓的人的智能 ， 对吧 ？ 或者模拟我们人的记忆 ， 我们把一些东西记下来 。 好像我们当时在疫情期间没啥事 ， 就是瞎想 ， 就是说你这些神经网络到底要实现什么目标 ， 为什么要学 ， 你为什么要有智能 。 有些事情大家没认真去考虑 ， 实际上在那历史上都没有认真去问过这个问题 。 **曼祺** [28:39] 这个为什么要有智能的主体是谁 ？ 机器吗 ？ **马毅** [28:42] 就是生物啊 。 **曼祺** [28:43] 生物为什么要有智能 ？ 就智能为什么诞生的意思吗 ？ **马毅** [28:46] 对啊 ， 它是目的是干什么的 ？ 生物要学什么 ， 为什么要学 ？ 所以当你把这些问题问清楚的时候 ， 你问一下， 问一下你也不一定想清楚 ，但是你会发现为什么学这件事情 ， 就马上会给你一些想法 。 那么这个世界上肯定是有可以值得学的东西 。 那么实际上我们值得学的东西 ， 对于从生物的角度来说 ， 从生存来说 ， 或者是任何角度 ， 那一定是这个世界有些东西是可以预测的 。 如果这个世界是不可预测 ， 你要记忆干什么 ， 对吧 ？ 世界一定是有些很好的规律 ， 一定是可以帮助你很好的结构 ， 它是可以帮助你去预测将来会发生什么事情 ， 这件事情才会有用嘛 ， 对吧 ？ 能够预测的事情 ，不管预测天气也好 ， 预测这个老虎来了什么时候会逮着我 ， 或者是哪些东西是可以吃的 ， 这个技术上一定对 ， 就是实现这个可预测性 。 我们世界是有规律的 ，而且这些规律一定要用最简洁的方式表达下来 ，因为我们也不可能用大量的能量把每个 case 全部记忆下来 。 所以我们一定要用最简约的方式把这些可预测的规律给找到 。 **曼祺** [29:40] 要学这个可预测的规律 ，是因为要生存是吗 ？ 对 ， 就最简单的答案是要生存 。 **马毅** [29:45] 对啊 ， 你要了解这个世界是可预测的 ， 你才能 survive 得更好 ， 对不对 ？ 你要把这些规律找到 ， 你个人才能记得住 。 所以实际上这就是我们人在学习的本质 ，是这个世界是可测的 ，而且是有些东西值得你去学 ，是能学到的 。 说不定找对方法就是实际上比较容易就学到 ，是不需要花太大代价就学到的 。 **曼祺** [30:03] 反而对动物来说好像是这样 。 **马毅** [30:05] 对 ， 实际上我想我们的人的智能也是这些东西的升华而已 ， 都是对外部世界的规律的总结记忆 。 实际上科学就在做这个事情 ， 科学就是在发现这些物理规律 ， 能够帮助我们预测物理现象 、 化学 、 天文各种方面的规律 ， 对不对 ？ 各个尺度的物理规律 ， 化学规律而已 ， 对吧 ？ 这都在做这个事情 。 所以实际上就是这样 ， 世界就是要把这些非常好的这些规律要用最简单的方式 。 **曼祺** [30:30] 您梳理历史的后面的一个成果之一 ， 就是您和沈向阳还有曹文毅一起写的这个论文 《 关于形成智能的简约和自洽原则 》 是吗 ？ **马毅** [30:37] 对 ， 就跟爱因斯坦讲的 "Everything should be made as simple as possible, but not any simpler." 简约和自洽就是从这句话来的 。 第一 ， 要把最简约的规律学到 ， 简化这个世界 ， 这个世界模型 ， 记住以后可以帮助你去 。 但为什么要 not any simpler 呢 ？ 如果我只是简约 ， 我啥都不记不就完了吗 ？ 那一样 ， 它没法去预测 。 所以你不能太简化 ， 简化到你刚刚能做好你的预测 ， 就是你自己能对你脑袋里的记忆 ， 这些规则能够刚刚帮你预测好你看到的新的现象 。 这就是它自洽的意思 ，不会有 surprise，不会有你预测的不对的地方 ， 或者你的误差很小 。 **曼祺** [31:13] 自洽是指误差很小 ，也是指没有什么问题 。 **马毅** [31:16] 就是说你对这个世界学会的这些模型规律也好 ， 它能帮助你比较正确的预测 what's gonna happen， 这就叫自洽 ， 对吧 ？ 就是说我记住东西 ， 我对世界见的模式跟世界下一部分发生的事情是能够帮助我预测的 。 **曼祺** [31:30] 所以比较简单的理解就是 ， 它那个爱因斯坦那两句话 ， 前面那句话是简约 ， 后面那句话是自洽 。 **马毅** [31:35] 要自洽 。 **曼祺** [31:36] 就比较简单 ， 粗暴的是这样的 ， 对吧 ？ **马毅** [31:38] 这只是个原则 ，但你怎么去实现它 ， 实际上我们的后面的整个白盒的理论 ， 怎么去压缩 ， 怎么去简约 ， 把数据里面的低维结构找到 ， 数据很高维 ，但是有很多好的结构 。 如果世界是很高维的空间中， 任何事情都可以发生 ， 那你就是没有什么值得记的 。 比如这个图像 ， 图像空间是 100 万个像素 ，100 万个维度 ，100 万个坐标 ，但实际上真正 made up 自然图像的是其中很少很少一部分 ，其他都是噪声 ， 对不对 ？ 实际上 Diffusion 就是从噪声要收敛到这些局部的代表自然图像的这些低维的分布上面 ， 它实际上度量是非常小的 。 你可以想象你在奇宝宫里面 ， 实际上你真正有意义的图像只是一条曲线 ， 或者一个非常低维的维度 。 **曼祺** [32:16] 这个高维和低维是数学上的一个说法 ， 对吧 ？ **马毅** [32:18] 对 ， 实际上很直观 ， 比如说你看图像有上百万个 ， 上千万个像素 ， 对不对 ？ 每个像素就是一维 ， 那就是 1000 维 ， 每个图像是 1000 维中的一个点 。 **曼祺** [32:26] 就一般来说 ， 原始的物理信号 ， 它一般都是非常高维的信号 。 **马毅** [32:30] 对了 ， 视觉信号是很高维 ，但里面包含的信息实际上是很少 。 它实际上的规律是很低维的 ， 实际上真正代表的规律是很低维的东西 ， 相对于所有的可能性 ， 只是自然的图像 ， 或者真正会发生的 event，是所有你观测的可能的空间中的极小极小的一部分 。 我们的学习过程就要找到那些极小部分是哪些 ， 才能帮助我们去 predict what's gonna happen， 哪些是可能会发生的事情 。 **曼祺** [32:56] 那从这个历史的梳理到总结出智能的原则之后， 你会怎么去定义智能了 ？ 比如说你觉得现在大家说的 "I was getting low， 我就 AGI 了 "， 好像是就不是智能 ， 那什么是智能 ？ ### 知识智能 **马毅** [33:05] 我就跟你讲一个很重要的一个概念 ， 经常会讲知识 knowledge 和 intelligence， 知识和智能是相关但是不同的概念 。 举个简单例子 ，GPT-4 和一个出生的婴儿 ， 哪一个更具有知识 ？ **曼祺** [33:17] GPT-4。 **马毅** [33:18] 哪个更智能 ？ **曼祺** [33:19] 那就是婴儿 ， 婴儿可以自己学 。 **马毅** [33:21] 对了 ， 知识是存量 ， 智能是增量 ， 知识是智能产生的结果 。 **曼祺** [33:28] 世界上很多人天天跟 GPT-4 对话什么的 ， 它不能从这个过程中学习是吗 ？ **马毅** [33:33] 至少现在的优化实现不了 ， 除非它重新自己 update，而且它还有纠错的能力 ， 它有自己从中总结规律的能力 ，而且它有推断 ，而且通过推断的错误它学习的能力 。 这就是我们的闭环思想了 。 它并不知道它吐出来的东西它是 reactive 的 ， 它是已经训练好的模型 。 你看 GPT 没有 。 所以只要一旦清楚知识是存量 ， 是一定的东西 ， 智能是有增量的 ， 具有能力去改进自己知识 ， 增加知识知识的系统 ， 这两个概念建立好 ， 你就可以解释很多很多事情了 。GPT 的模型本身没有智能 ， 什么有智能 ？ 它具有知识 ，而且它的知识是人 N2N 给它的 ， 大的模型大的数据喂给它的 ，而且通过 backpropagation 训练好的 ，1.0、2.0、3.0、4.0。GPT-4 这个大模型加上 OpenAI 的工程师团队 ， 这是有智能的 ， 它是能从 1.0 变成 2.0 的 ，但是 GPT-4 本身没有这个能力 。 **曼祺** [34:31] 那每一代的 GPT 在训练的那个过程中间 ， 它是 ？ **马毅** [34:34] 它只是在记忆知识 ， 它在强化学习 ，在填鸭教学 。 **曼祺** [34:38] 那也不是个闭环的系统是吗 ？ **马毅** [34:39] 对 ， 你可以认为它是一个闭环的在强压的系统 ，而且是一种统计的学习方法 ，并不是真正的让它进行理解的学习 。 它并没有在用这个 ， 它只是在机械的纠错 ， 就像学生通过刷题考试 ， 做错了改 ， 做错了改 ，是那个过程 ，而不是通过自己即时理解去发现自己理解错了还是理解对了去纠正增加知识 。 它不是那个过程 。 **曼祺** [35:02] 我觉得对一般人来说 ，GPT 它看起来很智能 ，是因为它可以根据你的输入 ， 它给你的反馈是不一样的 。 **马毅** [35:10] 那只是一个 reactive 的东西 ， 对不对 ？ 那只是对已有的知识的应用而已 。 **曼祺** [35:13] 对 ， 它看起来有运用知识能力 ， 所以大部分人会觉得它是有智能的 。 **马毅** [35:17] 用知识的能力 ， 这是智能的一部分 ，但这不是智能最本质的特征 。 智能最本质的特征是能够纠正自己现存知识的不足 ，而且能够增加新的知识 。 **曼祺** [35:28] 就是纠正和学习 ， 你觉得这是智能的本质 。 **马毅** [35:30] 对 ， 具有学习新东西的能力 ，因为它会 sky is limit， 它会不断的学习改进 。 就跟新生儿问问人的智力 ，因为 GPT 把全世界所有的知识可能都能记下来 ， 某一天 ， 假设 。 但是这个新生儿了不起的是什么 ？ 它可能变成下一个爱因斯坦 ， 它可以发现我们现有的知识不足的地方 ， 至少在一个点上， 物理数学很某个点上， 能增加我们以前的知识所不具有的东西 。 通过观测这个世界 ， 通过验证我们已有的知识的不足的地方 ，有些解释不了的现象 ， 它能从中再找到规律 。 这个能力是现有的系统不具有的 。 **曼祺** [36:05] 所以陶哲轩结合 GPT，他可以去搞一些新的数学的研究 。 **马毅** [36:09] 所以它就是记忆 ， 它只是一个片面的东西 ， 它只是我们记忆系统的一部分 。 记忆是我们智能系统的一部分 ， 我们现在公司叫益生嘛 ， 记忆本身是我们智能的系统的一个 foundation，但是具有改进记忆 ， 生成新的记忆 ， 这才是智能的本质 。 这两个是相关的 ，knowledge 跟智能是相关的 ，但不是同一个概念 。 有 knowledge，apply knowledge， 这本身是智能的一部分 ，但这只是它的一个基本的东西 ， 这只是有关于存量的东西 。 智能本身应该是具有自主学习 、 改进和学习新的知识的 ， 这才是 individual， 我们为什么能够适应一个新环境的最本质的能力 。 你这么看 ， 科学就是智能过程 ， 是一个群体智能 。 科学家最后也是一个纠错的过程 ， 现有的知识系统不足 ， 所以一个物理学家会改进 ， 只要 share 给大家 ， 大家一起在增加人类的知识 。 所以人类这个群体是一个智能群体 。 **曼祺** [37:02] 那在您这个大的结构里面 ， 白盒或者说可解释性 ， 它解决的是我怎么把高维的数据更高效的压缩 ， 就是怎么去 effective 从数据里面学习它的规律的过程 。 因为后面你提了三个嘛 ， 一个是从黑盒到白盒 ， 一个是从开环到闭环 ， 还有一个是从人工到自然自主 。 ### 白盒路径 **曼祺** [37:19] 它这是跟什么关系 ？ 就后面那两个 ， 它是一起来完成什么的 ？ **马毅** [37:22] 对 ， 你可以看到白盒到黑盒只是说解释了从数据怎么最有效的去找到它数据里面的低维结构 ， 这些规律的 universal 这个运算在做什么 ， 找到这个基本的算子 ， 一层一层在做什么 。 **曼祺** [37:36] 我想补充问一下， 你能找到这个高维到低维 ， 它这个过程是可逆的吗 ？ **马毅** [37:40] 一定程度上是要可逆的 ， 所以这就要自洽 。 我记下来的东西我还要去 predict， 所以生成就是这个逆的过程 。 比如你看到这个桌子上， 你能识别这个台上有两个计算机 ，有这些东物体 ， 这是 12 个识别过程 。 **曼祺** [37:52] 白盒就能解决这个可逆吗 ？ **马毅** [37:54] 白盒是在把这些物理信号从高维的视觉信号怎么变成我脑袋里面的物体 ， 对这件事情的 parsing 的理解 ， 这个场景的理解 ， 甚至能语言描述下来 。 我甚至可以告诉隔壁的人我桌上有什么东西 ， 变成我大脑里面对它的识别 。 这是从外到内的一个过程 ， 对场景的理解 ， 这是进来 ， 这是个压缩过程 。 但是我闭着眼睛 ， 我可以想象我刚刚看到什么 ， 甚至可以 imagine 我如果这个桌子上再放另外的东西会长什么样 。 这是个生成和预测的过程 。 所以你看我们的记忆系统是一个完整的闭环系统 ， 我们又可以识别又可以生成 。 我们生成的目的是为了去 predict， 去预测 ， 帮我们判断 what's gonna happen。 但是这个过程是有损的 。 如果你在另外一个屋没看到那个桌子 ， 我可以给你描述桌子上有什么东西 ，但是你不可能把这个桌子上的东西恢复到像素级 。 所以我给你描述已经有信息损失了 ， 对不对 ？ 细节损失了 ， 没关系 ， 你可能画出来一个桌子可能跟这差不多 ， 只是这个形状细节不太一样而已 ， 没关系 ， 我看见它我还知道内容是一致的 。 这就是 consistency。 我看到这个场景 ， 描述完了以后， 我再生成的场景 ， 它至少在内容上是一致的 。 我在桌上看到两个苹果 ，不能画出来以后我的计算机生成了三个苹果 ， 这就出问题了 ， 对吧 ？ 因为我再看回来又是三个苹果 ， 我刚才告诉你哪苹果 ， 怎么绕一圈回来变三个苹果了 ， 这是不是就有问题 ？ 所以我们对一个世界的一个是理解和我们对它的 prediction， 这两件事要做得一致 ， 这就是我们所说的自洽 。 我在记忆里的东西跟我跟外部再去 imagine 的东西要做到一致 ， 我的模型才正确了 。 我们这过程一定是压缩的 ， 会损失一些东西 ，但是我保留下来的这些信息 ， 再用这些信息去 predict 世界会发生什么事情的时候 ， 一定要 consistent。 如果这件事情做不到 consistent 的话 ， 那你的模型就是错的 ， 就是这么一个过程吧 。 白盒到黑盒只是解释现有的这些神经网络 ， 一个单方向也好 ， 或者每一层在做什么 ， 把它的数学统计几何意义搞清楚 ， 它到底在做什么 ， 它在去噪 ， 它在压缩 ，而且这些做法 ，而且不同的网络都只是做这件事情的不同的具体实现而已 ， 把这件事情搞明白 。 那么有了这个 guideline， 你就可以设计更加有效高效的 ， 就相当于把你搭这个系统的砖头你搞明白了 ， 这个砖头具体长什么样 ， 或者它的功能是什么 ， 搞明白了 。 你再知道这个砖头怎么样 ， 那我以后这个砖头可以换啊 ， 换成不同的材料 ， 换成更便宜的 ， 换成更好的 ， 你可以去设计这件事情 。 有了这些砖头 ， 我该搭成什么样子 ， 它是一个完整的记忆系统 ， 又能识别也能生成 ，而不是只搭一堵墙 ， 墙可以挡风就行了 。 **曼祺** [40:20] 所以白盒是对应的简约的 ， 从开环到闭环是自洽吗 ？ 整个系统的自洽 。 **马毅** [40:25] 就是保证它一定自洽 ， 保证它自洽 ， 从自主这件事情就更神了 ， 保证我的方向是自洽 ， 我也可以通过人工来实现 ， 比如输入输出这种两个方向去做 。 你看现在金牌就是我们的训练 ， 就是两边这个系统输入是什么 ， 输出是什么 ， 两边都要对齐 。 所以说 OpenAI 或者我们的人工智能 ， 两边都要看 ， 这是图像 ， 这边是文本 ， 这是我的 caption， 来保证输入输出对齐 。 这是人在做的 ，但这不是系统自己在学的 ，不是我们自然学习的过程 。 很简单的一个例子 ， 我们的学习是自主的 ， 自主的不是说我自己学 ，而是说我们是全部在大脑里面学 ， 我们都没有 option。 比如说我们看到这些窗户 ， 从小到大你都觉得这是长方形 ， 方形 ， 那些都是边 ， 应该都是直角 ， 我们都相信这个事情 。 你从小到大量过吗 ？ 你去验证过吗 ？ 我们眼睛看见的外边物理现象 ， 比如说这些长方形 ， 这些圆的东西 ， 我们都认为是圆的 ， 这是 guide 的 。 但是我们的学习都在这里啊 ， 从小到大你拿个尺子量过吗 ？ 这是圆的 ， 这个是不是正圆还是椭圆 ？ 你量过这个事吗 ？ 你没有 。 我们的学习不像现在 GPT， 又有图像又有 caption， 两头的数据都有 ， 来 supervise， 对不对 ？ **曼祺** [41:31] GPT 是又有图像又有一个标签 ， 又有说明 ， 对吧 ？ **马毅** [41:34] 它的输入输出都要定好的呀 ， 它来保证它的学习啊 ，而且不要犯错啊 。 **曼祺** [41:38] 那盲人怎么学习了 ？ **马毅** [41:39] 所以盲人就没有视觉了 ， 盲人就看不到东西啊 ，他就没法通过视觉来 predict 了 。他能学到声音 ，他能学到 touch，但盲人就学不到视觉 ， 这个闭环你学不到 。 **曼祺** [41:48] 所以盲人能理解圆这个概念吗 ？ **马毅** [41:49] 不知道 ，他可以通过 touch 来理解 。 我们在内部通过观测 ， 我们就能学到这个形状的概念 ， 我们只有我们内部的信息 。 那你怎么学到呢 ？ 这要通过闭环来实现 。 所以自然界的动物是没有 option， 它是没有对外物理信号再去验证物理信号 ， 它的预测对不对 ， 它没有这个 option， 它一定在大脑里面 ， 它只是通过它看到的 。 比如说老虎朝你跑过来 ， 你说 ：" 哎 ， 别别别 ， 等一会儿 ， 我得预测一下你的速度和距离 。" **曼祺** [42:15] 为什么您把这个称之为没有这个 option 啊 ？ 我怎么感觉是没有这个必要啊 ？ **马毅** [42:19] 你都没有这个 option。 真正的智能学习 ， 能通过观测看到外部的世界 ， 就能够在自己的大脑里建立一套可预测的结果 。 它不需要物理的去验证 ， 它是要通过自己内部的生成 ， 就可以判断它生成的东西跟它看到 perceive 的东西是不是一致的 。 第一 ， 很大程度上是没有 option， 可能对 touch 有一点 ，但是从数学原理上， 最后我们发现也是没有必要 ，在很宽松的条件下是没有必要 。 我们对外部世界的建模只要做到自洽 ， 自洽在中文里面可以用另一句话叫自圆其说就行了 。 我对这个世界的记忆 ， 我只需要自圆其说 ， 只要我看到的东西 ， 我的预测一致的就够了 。 **曼祺** [42:56] 而且这个不需要特别精确的一致 。 **马毅** [42:58] 对 ， 我不需要到 3D 世界去 measure 这个事情 ，但是呢 ， 我们会不断的把我们 3D 世界这个模型变得越来越准确 。 我们通过 passive 的 ， 通过我们的预测 ， 通过我们不断纠正我们大脑里面对物理世界的模型 ， 就变得非常精准 ， 我们就能把 3D 的 prediction 变得非常准 。 **曼祺** [43:13] 人类的智能好像比较擅长模糊的这种权 。 **马毅** [43:16] 算很准的 。 我们这样举的一个例子 ， 实际上每个人都是牛顿 ， 你只是不知道自己是牛顿 。 比如说大家都知道我手一松 ， 你会发生什么事情 。 **曼祺** [43:23] 对 ，而且大概速度或者什么轨迹 ， 你基本上都能预测 。 **马毅** [43:26] 而且你让 PhD 按照牛顿方程去写一个这个是仿真还准确 ， 都会抓得住的 。 为什么 ？ 我们对 gravity 早就大脑都建模了 ， 我们都能 predict what's gonna happen。 一个车朝你开过来 ， 你很清楚它的距离和速度 ， 你就知道该躲 ， 躲不开的都被撞死了 。 老虎朝你扑过来 ， 反应不快的都死掉了 。 就是动物也好 ， 人也好 ， 就是已经对外部世界建了非常精准的模型 ，而且它是自主就学到 ， 它没有还要去量距离 ， 还要到物理世界去看我判断的长宽高 、 速度 、 距离有多远 。 它就是通过不断的自己来 predict 下一秒钟会发生什么事情 ，在生活中不断改进 。 婴儿的时候可能抓东西还抓不到 ， 慢慢就变得越来越准了 ， 对它的距离形状变得越来越准 。 通过我们各自两个眼睛的看观察 ， 大脑里的外部世界物体的形状 、 大小 、 距离 、 速度 、 加速度都已经建模了 。 **曼祺** [44:16] 那如果人没有身体的话 ， 才能完成这个建模吗 ？ **马毅** [44:18] 应该可以啊 ， 很大程度上它可以学习啊 。 你不一很多的学习 ， 实际上我们对形状视觉的记忆 ，在大脑里面建的模型 ， 实际上并不需要去 physical 的跟它 interact。 **曼祺** [44:28] 如果没有身体的话 ， 对牛顿的物理定律的速度轨迹的预测也能建模吗 ？ **马毅** [44:32] 我觉得是可以的 ， 至少数学理论上是 。 后面的理论发现 ， 只要你观测的世界是有这样的低维结构的 ，有这种规律的 ， 理论上是通过 internal 的闭环系统是可以学到的 。 只要你有个纠错的机制 ， 你可以用你建的模去预测 ， 预测完了以后， 你把你看到的和你预测的东西再在你大脑里面进行比较 ， 只用在大脑里面进行比较 ， 你就可以纠错 ， 你就可以学到外部世界中这些数据里面它具有的这些规律 ， 很大类的规律是可以学到的 。 是不需要到外部世界去看你预测的东西跟外部世界的物理信号是一样的还是不一样 。 **曼祺** [45:06] 所以自主的意思就是没有必要做这个对比 ？ **马毅** [45:08] 没有需要在外部世界去做对比 ， 你只需要在你观测到的这些信号里面 ， 你在内部大脑里接收到信号里面 ， 接收到的信息里面进行保证你的预测是自洽的 。 只要你的 capacity 越来越高 ， 你就可以对外部世界建的模就越来越准确 。 **曼祺** [45:24] 那这三个东西可以理解成是你认为达到简约自洽的智能的路径和方法吗 ？ **马毅** [45:29] 我这样也说 ， 就是说我们这个也未必就完整 。 你看为什么跟 Doris Chao， 后来跟 scientist 学到一点 ， 就是为什么后来我跟 Doris Chao 我们在聊 ， 过去一两年做的比较多 。 我刚才说的这些东西 ，是不是就能实现 general AI， 我们不知道 ，但是至少我们说到了理解整个压缩的过程 ， 通过压缩找到数据结构 ，以及通过双向的 mapping 来保证它学到的结构是 consistent，而且或者通过闭环来保证你的学习是自主 。 这三件事情我们至少认为它是 necessary 的 。 你要保证一个系统能够自主的学到一个自洽的外部世界的模型 ， 至少是针对外部信号的某些类结构规律 ， 至少低维的这些结构 ， 它是必要的 。 但是不是 sufficient， 我们也不一定完全清楚 。 **曼祺** [46:16] 你是什么时候有比较清楚的想法的呀 ？ **马毅** [46:19] 可能也是两三年前吧 。 **曼祺** [46:20] 就是 2020 年 21 年之后 。 **马毅** [46:22] 对 ， 就是那个写 present paper 之后知道这个框架 ， 当时觉得是对的了 。 因为跟 scientist 合作 ， 工程师很奇怪 ， 这个思想不太一样 。 工程师是把一件事情做对 ， 做出来就行了 ， 即使里面有些冗余无所谓 ， 结果可以就可以了 。 比如这个事情可能只用 10 块钱完成 ，但没关系 ， 我先找一个 1 万块钱的 solution。 科学家不一样 ， 科学家问的最多是这个事情有没有必要 ， 这个东西是不是一定要这么去解释 ， 非此不可 。 科学的思想就是往往是这个是不是这个机制 ，是非此不可 。 所以它会是一种必要性 justify 更多 。 工程师不是 ， 工程师只要 sufficient 就够了 ， 找到一个 sufficient solution 就行 ， 找到一条路 ， 大家就往上铺 。 **曼祺** [46:58] 那您梳理历史的时候 ， 为什么想到和曹颖这种名称他为科学家去合作呀 ？ **马毅** [47:03] 后来我们在梳理人工智能 ， 就是发现这个思想太多了 ，而且很多同质化的东西它取的名字不一样 ， 太冗余了 。 一个是发现现有的黑盒模型里面 ， 或者是经验的东西 ， 冗余的东西太多 。 还有一个就是说 ， 即使同一样东西 ， 它的变形变种太多 。 我开始发现把这整个事情讲得越简约 ， 把它的必要性 justify， 这件事情变得非常重要 。 我们在已有的这些做法里面 ， 做的系统里面 ， 哪些是真正必要的 ， 哪些实际上是不必要的 ， 或者是哪些实际上都在做同样的事情 ， 这件事情要讲清楚 。 最终阅读了一些更多的跟 science 相关的东西 ， 那么跟智能的一些理解 ， 还有这些历史也看到了这些 idea 是相似的 ，有些想法是完全是相同的 ， 只是取的不同的名字等等等等。 就做了一些比较系统的梳理 ， 慢慢压缩到就是发现哪些东西是真正必要的 ， 才发现简约也好 ， 自洽也好 ， 整个对数据压缩 ， 就会把大家看起来林林总总各种的变形 ， 能够提供一个非常统一的 ， 甚至简洁的解释和指导 。 **曼祺** [48:01] 所以相当于就是您得到这个两个原则 ， 包括它这个三个实现的大的方向 。 因为您说以前都是经验的方法嘛 ， 您这是一个演绎 。 **马毅** [48:09] 就是第一性原理吧 。 第一性原理很简单 ， 第一性原理实际上就是你的目的是什么 ， 你从目的来倒推所有的必要的东西 。 这个我们为什么会要问 ， 那么智能到底要干什么 ， 为什么有智能 ， 为什么要学 ， 学到底为什么能学 ， 你要学什么 ， 为什么能学 ， 你要搞清楚你要学什么之后， 剩下的很多才是怎么学 ， 或者才是怎么学的有效率 。 原来大家都是在开始就拉神经网络 ， 我就去学这个学那个 ，但是都不知道学这东西到底本质上到底在学什么 。 **曼祺** [48:35] 那再往下的话 ， 您是通过什么方式来验证你推理出来的东西 ， 它在经验上是否符合了 ？ ### 验证推演 **马毅** [48:40] 对 ， 这就是最近过去这两年就在做这个事情啊 。 **曼祺** [48:43] 就是 ReduNet 和 CRATE。 **马毅** [48:45] 对 ， 学术界的东西就是说 ， 你尤其你要做一些可能跟大家不太一样的东西的话 ， 比如或者比较更加 fundamental 的东西 ， 理论你开始也大家不是很那么接受 。 我们只是概念认为是框架非常的漂亮 ， 非常 unified，但是实现 ，有时候工程实现你未必一下子就能找到最佳的实现方法 。 当时学校也没有太多的算力 ， 所以实现呢 ， 就只能在小规模的数据上做一做实验 。 **曼祺** [49:06] 你说 ReduNet 是 。 **马毅** [49:07] 对啊 ， 可能学术界刚开始也不是那么的接受 。 **曼祺** [49:09] 对 ， 你当被拒了 。 **马毅** [49:10] 不是 ， 所有的 reviewer 都是有点否认我们解释 ，但是 a self 为主角 ， 对吧 ？ 所以学术界也是有各方面的自己的立场了 ， 观点了 ，但对学生它打击蛮大的 。 我们都是司空见惯了 ， 后来也激励了这些学生 ， 你的原理是对的 ， 你的想法也很正确 ， 那你把它实现好 。 **曼祺** [49:24] 我看这个 ReduNet 和 CRATE， 就是论文的标题里都强调了白盒嘛 。 就是在这两个成果里面 ， 你们是主要在解决那三个里的从黑盒到白盒的问题 ， 还是它也 。 **马毅** [49:34] 还都在白盒 。 **曼祺** [49:35] 主要是第一步的这个部分 。 **马毅** [49:37] 对 ， 就要让大家了解到这些所有的神经网络都在做压缩 ，而且可以有统一的方法看这个问题 。 而且一旦你了解它在做压缩的话 ， 那无非剩下就是说不同的网络就是在设计如何压缩这件事情上有不一样而已 。 那么不同的实现的能力 ，有些是非常的 costly，有些可能很非常 efficient。 这就是一个工程寻找的过程 ， 实现的过程 。 我们最近在做的 transformer 就发现 ， 甚至更简洁的方法 ， 你只要找到不同的实现 ， 对同样一件事情你实现不一样 ， 那么它的实际效果就跟你原来经验的网络没有任何差别了 ， 甚至在某些方面就更好了 。 **曼祺** [50:10] 你刚才说 ReduNet， 它是一个在比较小的规模上实验的 。 **马毅** [50:14] 对 ，而且它原来的实现这个压缩是比较粗暴的 ， 对那个算子 ， 原来就是一个 conceptual 的算法 ， 所以它对计算的复杂度比较高 。 它要求矩阵的力啊 ， 算一个大的矩阵啊 ， 它原来相当于就是比较 primitive 的 ， 比较原始的来实现一些操作 。在运算的效率上并没有它去花太多的精力去优化 。 **曼祺** [50:33] 那从这个 ReduNet 到 CRATE， 可以讲一下这个变化吗 ？ **马毅** [50:35] 就是优 ， 就是在算同一件事情 ， 通过不同的方式去近似 。 **曼祺** [50:39] 你们这两个模型 ， 它主要针对的任务是什么 ？ **马毅** [50:42] 都在做压缩 ， 都在数据做 ， 就每一层做的事情是一模一样的 。 **曼祺** [50:45] 我是指比如说它是处理语言还是视觉 ， 还是它其实是不分的 。 **马毅** [50:49] 不分的 ， 就是对高维数据找它低维的结构 。 包括在 CRATE 上面 ， 一旦 work 的话 ， 那么这图像或者语言我们都做了 ， 它就实际上它做的事情都是一致的 。 **曼祺** [50:57] 因为 ReduNet 你当时说它是一个白盒的神经网络嘛 ，CRATE 是一个白盒的 transformer。 **马毅** [51:01] 对 。 **曼祺** [51:02] 它这个区别是什么 ？ **马毅** [51:03] 你把它叫神经网络也好 ，transformer 也好 ， 实际上说白了 ， 数学搞明白都在做高维数据到低维数据的压缩 ，在做去噪 。 **曼祺** [51:09] 那标题里带上 transformer 是为了让更多人打开看吗 ？ **马毅** [51:13] 就是让大家明白 transformer 在干什么 。 实际上这件事情应该反过来讲 ， 就是说 ResNet 也好 ，transformer 实际上它们在近似一些本质的东西 ， 它们都是不同的经验的方法来实现压缩去找 。 它们实际上是在实现这些白盒的东西 ， 只是它们先发现这些东西 ， 我们实际上是用原理来解释它们这些以前经验发现东西到底在干什么 ，是这个意思 。 实际上它们是通过很多经验的方法找到了哪些东西 work，但它并不明白它到底具体在做什么 ， 把它为什么 work。 我们只是想用原理的方法推导出来的网络来告诉你 ， 你们很可能就是在近似这件事情 。 **曼祺** [51:45] 如果解释的更具体一点的话 ，CRATE 相比于最开始的那个版本的 transformer， 它在压缩数据上的优化是什么 ？ **马毅** [51:51] 你一方面它就更加的简洁 ， 模型更加的 compact， 很多冗余的东西就没有了 ， 比如包括参数啊 ， 它的很多 redundant 的东西啊 ， 包括原来的很多的 ， 它是要用不同的算子去实现的 ， 很可能现在一个就够了 。 它要通过多个算子多步去实现东西 ， 可能现在一步就够了等等。 这是第一点 ， 就是它模型本身可以简洁 。 第二 ，而且它每一层在做什么事情 ， 它的统计和几何意义就很清楚了 ， 包括我们这学习到的算子 ， 最后它的统计几何意义也非常清楚了 。 正因为它是冗余的 ， 所以它即使学到了这些结构 ， 它还是藏在里面的 ， 你是看不到这些东西的 。 它是个黑盒子 ， 它有这个功能了 ，但是到底它那个网络哪一部分在实现这些功能 ，其他的冗余部分可能啥事都没做 ， 很可能是三分之一人在看 ， 三分之一在干 ， 还有三分之一在捣乱 ， 你都不知道 。 原来的黑盒可能只有它一部分的东西在起作用 ， 另外的这些 nodes 在看 ， 还有一帮人可能在给你捣乱 ， 你都不知道 。 增加了你很多训练成本 ， 试错成本 ， 甚至训练过程中不稳定性等等。 **曼祺** [52:46] 其实白盒是一种更高效的训练方式 ， 对吧 ？ **马毅** [52:49] 不 ， 它就是一个更高效的结构模型 ， 更容易训练 ，而且训练完了以后， 它的结果也更加非常清楚 。 它学到什么东西 ， 统计几何意义非常清楚 。 **曼祺** [52:57] 其实这是工业界的人在追求的东西 。 **马毅** [52:59] 是 ，exactly。 所以现在关注度蛮高的 ， 包括这个 transformer， 我们你说 citation 稍微少一点 ，但是因为还很新嘛 。 但是在 GitHub 上现在都已经上千个 star 了 ， 就是从理论推导出来的网络 ， 现在都开始用 。 一旦你知道了原理 ， 对不对 ， 我们实际上第一步也只是说 ， 通过原理推导出来的网络 ， 至少不会比你经验设计的网络更差 ， 最终的性能上不差 ，而且我们的模型更加简洁 ， 更加可解释 。 这只是第一步 。 第二步现在在做的 ， 我们一定要超越 ，因为理论联系实际 ， 实际上是理论要指导实际 。 很快你会发现 ， 我们马上会有所需工作 ， 就会发现原来的 CRATE 还可以再简洁 ， 还可以再近似 ， 还可以实现得更加的 efficient。 **曼祺** [53:37] 您这个超越对标的是什么了 ？ **马毅** [53:39] 超越自己啊 ， 理论推导出来的网络还可以再改进 。 **曼祺** [53:43] 那如果和别人比的话 ， 它是要超越什么 ？ **马毅** [53:45] 那就复杂度啊 ， 那会更一个一个数量级的往上走了 。 效率要么就是在同样的 performance 下， 我的计算效率可以提高 ， 十倍 、 百倍的往上走 ， 甚至千倍 ， 或者在同样的模型数量上， 那我的性能就要比你高很多了 。 **曼祺** [53:58] 比如它和 GPT-4， 或者说和什么 Gemini， 它是什么关系了 ？ **马毅** [54:02] 你只要在同样的任务上， 比如说实现一个 GPT-4 这样的训练 ， 比如你在这么多数据上训练 ， 你可能需要 1000 张卡 ， 那我可能需要 100 张卡就够了 ， 可能 10 张卡就够了 。 它的计算效率就很高 ， 即使我们达到同样的 performance， 就是说消化同样的学习 ， 同样的数据 ， 那么我的效率可以大大的超过你 。 而且我们的算子系统更加稳定 ，而且更加 compact，而且学出来的结构 ， 至少统计几何意义上更加可解释 。 我能把数据的这些结构抓出来 ， 让你看到为什么它 work。 **曼祺** [54:32] 对 ， 正好可以沿着这个聊一下白盒 ， 它的更多作用是什么 。 就除了说它是一个更高效的训练方式之外， 你刚才也说它更稳定嘛 ， 那它和很多人， 包括像 OpenAI 的 Elaine 和 Sam Altman，他们非常强调的说 ， 我增强这个模型的可控性 ， 这个是有什么样的关系了 ？ **马毅** [54:47] 黑盒的东西就是不可解释东西 ， 你怎么去控制它 ， 或者通过一些经验的东西又是怎么 。 以前呢 ， 做研究 ， 你看包括以前这个 ReduNet 回来 ， 反正就学术争论嘛 ，有时候大家就不理解 ， 我觉得我搞懂了就完了嘛 ， 我搞明白 ， 你们不明白以后慢慢去搞明白不就完了嘛 。 但是到了前年底 ， 去年初的时候 ， 我就跟学生在讲了 ， 我们这已经不是科研兴趣问题了 ， 我们搞明白 ， 人家搞明白以后， 学术嘛无所谓嘛 ，有些东西人家过了几十年才搞明白 ， 学术嘛我把自己搞懂了 ， 然后写写书 ，以后的人大家慢慢去搞明白 ， 我们也不用太关心 。 去年初的时候 ， 我就给我们的学生讲 ， 我说这都不是我们的兴不兴趣了 ， 这是个责任问题了 。 为什么呢 ？ 有了黑盒 ， 科学历史 ， 只要什么东西是黑盒 ，而且还比较有用 ， 对人类有点影响的东西 ， 只要待久了 ， 就会产生什么 ？ ### 祛魅 **马毅** [55:34] 迷信 。 **曼祺** [55:35] 对 ， 它像一个魔法棒和巫术 。 **马毅** [55:37] 巫术就来了 ， 巫师就要出来了 。 **曼祺** [55:39] 您是从 2023 年开始有明显这个感觉的 。 **马毅** [55:41] 有些人说这是原子弹 ， 这些是病毒 ， 这会把人类给毁灭了 。 但是我们看着就很可笑 ， 我们很清楚你在干什么 ， 你在这数据压缩 ， 对吧 ， 做一个简单的 ，而且还只是记忆的碎片 ， 都还没有实现完整 ， 连自主学习能力都没有 ， 这有什么可怕的 ？ 但是有些人就会说它是黑盒子 ， 就会把它说得很危险 ， 就会开始让政府来管 ， 还有 OpenAI 的 DeepMind， 都是一帮 billionaire、millionaire，而且都是掌握这个技术的人， 说我做的东西很危险 。 你觉得这件事情不很荒谬吗 ？ 说我们做的东西非常危险 ， 政府你要管一管 。 **曼祺** [56:12] 所以它的动机是什么了 ？ 它就是想不占这个资源来做这些事情吗 ？ **马毅** [56:15] 你觉得这些人都是雷锋吗 ？ 你想世界上冒出来这么多对社会这么关注的人吗 ？ 而且都是一帮 billionaire， 掌握着巨大资源的人。 如果一个东西真危险 ， 如果一帮很穷的教授通过科研给总统写封公开信 ， 你还可以信不信 ？ 一帮高科技公司的 CTO、CEO 到白宫去说 ， 你去想一想这件事情 。 **曼祺** [56:34] 但是我觉得美国政府也不傻吧 ， 这个东西虽然没有那么危险 ，但是在军事上是不是有些用途了 ？ **马毅** [56:38] 任何技术都是双刃剑 。 第一 ， 你要对这件事情有个客观的认识 ， 你的动机是什么 ？ 互联网还危险呢 ， 可以传递各种的错误信息 ， 那炼钢还危险呢 ， 可以做刀 ， 可以做炮 ， 那我们就不能研究炼钢的技术了 ， 明白我的意思吗 ？ 但是你看我跟 Yann LeCun 在网上就经常就会说 ， 对吧 ，因为现在的技术还非常 primitive， 说白了 ， 我们对智能的技术是非常非常原始的粗暴的 。 刚才我们聊了这么多 ， 对不对 ？ 第一 ， 理解很肤浅 ； 第二 ， 实际上当你明白它以后， 它做的事情实际上也是非常片面的粗暴的 。 那么它科研里应该是开放 ， 大家还有非常多东西要去知道 ， 所以它并不可怕 。 你应该做什么呢 ？ 做一个技术 ， 你应该去 regulate 它最终的用途 ， 这是你政府应该做的事情 。 它最终的产品 ， 它是用于做坏事还是好事 ， 你可以去管 ， 你用法律也好 ， 你用行业的规范制度去管 ，但你不能去规范这个技术 ， 连新软件你要去规范它们 。 这研究这个算法 ， 这些东西你不要去动 ， 它还是一个完全开放的东西 ， 还是非常原始的东西 。 现在你看 ， 机器也不让你弄 ， 数据也不让你弄 ， 甚至于马上说算法要不要开源了 。 一旦这个东西切开 ， 只能最后就形成垄断 ， 只能现在既得利益者的他们会来形成 。 这是当然我个人的一些看法了吧 ，但是很多东西是基于常识 ， 都不需要去太多的这个 ， 对吧 ， 完全是常识性的东西 。 尤其是我们本来对这些技术的本质看得比较清楚以后， 我对我的学生去年为什么就说 ， 你一定要再强调 ， 从去年 23 月份那个事情出来之后， 我说同学们 ， 我说这已经不是我们的兴趣问题了 ，不是说我们说等个三五年让别人明白我们的之后， 我说这变成我们的责任了 。 因为有些人在说这个东西很危险 ， 所以我们必须把原理打开 。 原来一旦有传染病 ， 大家都是马上跳大神 ， 那现在都知道了吗 ？ 打针吗 ？ 吃点药吗 ？ 而且是什么东西在起作用吗 ？ 就很清楚了 。 **曼祺** [58:20] 就感觉像古代那种什么看天象什么的 。 **马毅** [58:22] Exactly， 这个人类的历史就这么简单 ，OK， 没什么其他的因素 。 尤其是我们从科学稍微有点客观的看这个事情 ，在旁边看着就很清楚 ， 什么技术都是 WHSW 的 ， 你当然最主要管 ，但你管应该管最终这个技术的用途 。 而且现在对 AI 的研究非常 primitive， 你连自主性都做不到 。 你等它自主以后， 它有自主学习能力以后， 你再去担心一下可能好一点 。 **曼祺** [58:43] 所以您现在是感觉到 ， 就从我去年开始 ， 一种比较强的使命的召唤 。 **马毅** [58:48] 我得把这个事情讲清楚了 ，而且要让大家明白这件事情 。 **曼祺** [58:51] 而且应该要让更多的人能看到这个东西 。 **马毅** [58:52] 对 ， 知道它本质在做什么 ， 甚至在我们看来 ， 这个本质上现在做的东西实际上是非常简单的事情 ， 甚至非常 mechanical 的事情 。OK， 对数据做非常 mechanical 的事情 ， 确实有些结果看来蛮神奇的 ，但它做的事情 ， 这些网络的基本框架 ， 对数据做的处理实际上是非常数学上可以百分之百解释清楚的 。 **曼祺** [59:10] 所以你想做的是去魅 。 **马毅** [59:11] 对啊 ， 第一 ， 先要学术界的人了解这个事情嘛 ， 所以为什么我们花大量东西去做实验呢 ？ 你看 ， 完全不必要 。 我们一个学校 ， 你看到我们最近的那篇文章 ， 六七个学校的团队 ， 我们也没什么算力资源 ， 为什么大家都要去 run， 大家就团结起来 ， 大家把不同的应用场景尽量做得更 convincing 一点 ， 让大家真的意识到 。 所以那篇文章的副标题就是 "Compression is all there is"。 你现在做的所有的这些 transformer， 这些大的基础模型 ， 就是对数据做了一些压缩 ， 把它记下来了 ， 然后再重新生成吐出来 。 你基本上就在做这种事情 。 所以到底危不危险 ， 就是仁者见仁 ， 智者见智了 。 至少你有了非常 hard 的 evidence。 你现在至少知道行星是为什么运作的 ， 它到底干什么 ， 每天撞上地球那是你自己的事 ， 到底危不危险 ， 你自己去看 。 但是你至少知道它的整个机制是在干什么 。 **曼祺** [59:54] 您讲的这个是可解释性的 ， 就是一些比较宏观的意义啊 。 可解释性有什么比较实际的意义 ？ 就比如说对应到一些具体的应用 ， 或者它在某些场景上， 它是能发挥更好的作用 。 **马毅** [1:00:03] 实际意义一方面是宏观的 ， 大家的教育 。 第二 ， 这技术上那就是我们也看到了 ， 它应该是能大大的提高了效率 。 你即使坚持做现在的东西的话 ， 那么对现有的网络的 ， 第一是改进 。 你看为什么大家要花这么多的资源 ， 除了数据之外， 很多产业界很愿意做这样的事情 ， 一个是名 ， 一个是利 。 为什么现在产业界也虽然说啊 ， 大力出奇迹 ，scaling laws， 我也说 scaling laws 并不矛盾 ， 什么东西做大了都会有用 ， 就跟飞机一样 ， 大飞机当然可能飞得更远 ， 赚的钱更多 ， 这个 scaling laws 是可以去谈 ，但是工业界去谈 scaling laws， 它会支持 ， 它甚至会误导大家 ， 觉得只有按照现在的这些框架去 scale。 所以你看现在大家买那么多的芯片 ， 动辄就上万张芯片 ， 真的需要那么多吗 ？ 它大部分实际上更多的芯片是用在试错 ， 它因为它是经验设计的网络 ， 这个模型可能 1000 张卡就够了 ，但它需要 1 万张卡 ， 为什么它要 10 个不同的版本去试哪个版本 work 得更好 ？ 它实际上是试错的成本很高 。 如果你的东西可以通过原理去设计的话 ， 你就没有这些试错成本 ， 你可能一步到位就百分之八九十了 ， 就再 fine-tune 一下就够了 。 它就会去鼓励你用大量的数据去堆 ， 大量的 chips 去跟 ， 它就去鼓励这种比较简单粗暴的东西 。 **曼祺** [1:01:10] 那开个玩笑说的话 ， 如果这个白盒的方式推广了 ， 对英伟达的股价是一个大的冲击 。 **马毅** [1:01:15] 至少让它更有效率 ， 可能也是多多益善 ，但是关键是性价比和效率要高 。 我们现在粗暴的讲 scaling laws， 就是说你现在这些网络还效率并不高 ，而且你现在设计的这个方法 ， 这因为没有原理 ， 没有理论知道 ， 所以你整个改进的方法是非常粗暴的 。 **曼祺** [1:01:32] 你们做过量化的比较吗 ？ 就比如说你们做到 create 的时候 ， 我一个相似效果的模型 ， 我能节省多少资源啊 ？ **马毅** [1:01:37] 对 ， 现在很简单 ，以后会非常大 。 你原来也就是简简单单做做 ，也就至少是三分之一或者四分之一 。 **曼祺** [1:01:43] 这个是按算力算的 ， 还是按时间算 ， 还是综合算 ？ **马毅** [1:01:46] 综合 ，而且实际上可能更大 。 为什么呢 ？ 现在你一旦有了原理 ， 我们在设计这些网络 ， 就跟做家庭作业一样 ， 推出来就完了 。 你想想 ， 原来是上百个团队 ， 甚至上千个团队 ， 通过多少年时间去试出来的 ， 试出来以后， 开源出来 ， 大家都用 。 你想想那个成本是多少 ？ **曼祺** [1:02:03] 你们现在可以做到三分之一 ， 你说之后的成果会对它的这个资源的节省会更大 ？ **马毅** [1:02:07] 更大 ， 那个会是数量级的往上走 。 **曼祺** [1:02:09] 至少十分之一 ？ **马毅** [1:02:10] 那是十百往前走 ， 会更大 ， 就跟你设计优化算法一样 ， 对吧 ？ 你一旦知道了怎么做 ， 你就把这些事情成本可以做得越来越低 ，而且你又知道 ， 你知道你在做什么 ， 通过不同方式去应试 ，而且都不要去瞎猜的 ，不要去同时 10 个 100 种情况 ， 你很可能就是两三个情况就找到了 。 你看我们是从去年中的时候开始明白这件事情之后， 那个网络的版本已经迭代好几次了 ，而且我们这个就很快 ， 光靠我们一个团队 ， 我们已经把现在的网络的结构迭代了好几次了 。 **曼祺** [1:02:38] 去年中明白这件事情 ， 这件事情是指什么 ？ **马毅** [1:02:40] 就是开始发现通过这种 deduction， 从框架来推导网络结构 ， 它的效果已经不比经验的差 ，而且更加 compact。 一旦知道这件事情可以 work 的时候 ， 那么我们才会用点更 advanced 的方法 ， 就可以把这个网络结构可以改进得更好 。 **曼祺** [1:02:54] 那所以准确说 ，其实是验证了你们之前的想法 。 **马毅** [1:02:57] 是 ， 这你有了理论指导了 。 只是原来呢 ， 你光有了理论 ， 你只是个概念 ， 你还不知道真正实现的路径 ，但现在发现实现的路径已经慢慢找到了 ，而且这个事情是可行的 ， 甚至能够超越经验的方法 。 那么现在信仰就更加的那个 ， 就说你这套理论框架正确性 ， 你更加有信心了嘛 。 嗯 ， 随着大家的迭代 ， 所以我们的学生都在 excited 嘛 ， 就在 follow 这个理论框架 ， 大家都可以去改进了 。 原来没办法嘛 ， 原来就是嘛 ， 你是这个我是那个 。 **曼祺** [1:03:21] 你们在去验证这个东西的过程中间 ，因为它这个涉及到比如说我要处理很多卡 ， 就一些 infra 的工作 ， 这些你们团队里的人是本来就能搞定吗 ？ **马毅** [1:03:29] 对啊 ， 自己做啊 ， 自己学生去学啊 。 理论和实践并不那么容易 ， 所以大家觉得这件事情很简单 。 你看做实践的人为什么不愿意去学理论呢 ？ 因为他有时候是数学基础的 ，他也看不懂 ， 对他到底有多少指导 ，但这个可能还蛮长的一个过程 ， 就跟牛顿力学出来以后， 也要花很长时间大家才能理解它到底在干什么 ， 怎么去应用到这些机械设计的 ， 还是要有个过程 。 那么理论也一样 ， 就是你理论有了这些框架 ， 即使你有了很好算法 ， 你要把它认真去实现 ， 尤其到一定规模上， 真实的数据上， 真实的计算系统上去实现 ， 这也是有一个很大的过程 。 所以我们实际上也得 push 自己 ， 真正去把这些实践过程也要学习好 。 有了理论 ， 你要去把这个过程也要去 on 下来 ， 你不可能等着别人我就写篇文章就好了 。 比如说 ReduNet， 我上框架都有了 ， 你等就等 30 年后或者 20 年后， 谁看懂了谁去实现 。 实际上现在已经发现不行了 ， 你不能等不及了 。 你如果要把这件事情真的是 convince 告诉大家 ， 这件事情就是对的 ，他就在做这个事情 。 那么我们就要把这个网络的有效的模型找到 ， 实现方法找到 ，而且还要把它实现出来 ， 至少实现到一定的规模 ， 它的实验的结果要足够的 convincing，不光要跟你已有的方法达到它同样的水平 ， 要更加简洁 ， 更加可解释 ， 甚至下一步要超越它 ， 大家才能认 可你这个理论框架的正确性 ， 它的真正的效果 。 所以这是不容易的事情 。 **曼祺** [1:04:48] 我想补充问一下关于这个框架本身的一些问题啊 ， 就是您说到的智能的原则 ， 简约和自洽 ， 包括您说的那三个方向 ， 除了白盒之外 ，其实我觉得它都是在类比动物或者人的智能嘛 。 就为什么机器智能它和人类的智能 ， 它会是同一个结构 ？ **马毅** [1:05:03] 当我们了解了现有的 ， 至少过去 10 年做的这些人工智能网络 ， 我们发现它实际上还是在实现我们人的智能 ， 目前的智能的一些局部的功能 。 ### 历史源流 **马毅** [1:05:13] 至少从理论上我还没有看到 ， 如果要做到真正的自洽 ， 做到真正的自主学习 ， 还有其他的方式 ， 至少概念上， 理论上还有其他的方式 。 这是第一点 ， 就是说至少我们没有看到 ， 就是说如果真的要在数学上 ，有一个能学到高维数据里面的它的低维的结构 ，而且学到的这个模型 ，因为学习往往不是一蹴而就 ， 你学到的模型跟数据的结构可能还有误差 ， 还有不一样的地方 ， 如何去自主的纠正这种误差 ， 这种机制 ， 现在的闭环反馈 ， 这是我目前为止认为的必经之路 。 以后是不是能够有另外的路 ， 我不知道 ， 至少目前为止是必经之路 。 这可以从两个角度来看这件事情 。 第一 ， 世界上所有的活着的生物 ， 智能的生物 ， 全部是闭环系统 ， 没有开环系统 ， 没有其他的结构 。 从小到细胞 ， 小到 DNA、RNA， 人类传承 、 遗传信息 ， 全部是闭环系统 ， 所以叫闭环转路 。 小到 DNA、RNA， 大到细胞跟环境的交互 ， 大到我们人的大脑的记忆 ， 包括我们的 muscle memory， 我们的反馈 。 **曼祺** [1:06:19] 就不管是看个体还是看族群 ， 你觉得它都是符合你说的那些特点 。 **马毅** [1:06:23] 都是闭环系统 ， 都是不断的闭环 ， 就是通过反馈纠错得到的 ， 对不对 ？ 包括最近 Hinton 对吧 ， 去年写的一篇文章叫 《Forward For Algorithms》， 它已经承认了自然界不可能做 backpropagation。 **曼祺** [1:06:34] 这是生物科学的研究发现的是吧 ？ **马毅** [1:06:37] 对 ， 这些通过生物也好 ， 神经也好研究 ， 自然界都是这样的 ， 这是最有效的系统 。 实际上这是一个方向 ， 就是说自然界的事实 ， 目前观测到的 ， 具有自主学习 ， 都是通过这个闭环来自主纠错的 。 那么另外呢 ，也是启发的 ， 从 1940 几年， 我经常说的 40 几年的 ， 从控制论 ，Cybernetics， 实际上现在说的具身智能 ， 实际上就是 Cybernetics 重新取到的名字 ， 从维纳开始 ， 控制论 ， 维纳最早他本科是学动物学的 ， 所以他也就在研究猫为什么这么敏锐的能够反应的抓得很准 ， 它的这个学习能力很强 ， 动作非常敏捷等等。 就发现就是个闭环 ， 反馈非常重要 。 动物的这种不管是眼手的 coordination， 眼爪的 coordination， 这个 muscle 的这个 coordination， 反馈是非常非常重要的 ， 所以他开始了控制论 。 后来包括冯 · 洛伊曼的对称论 ， 都是一个系统为什么会变得越来越 ， 后来变成了这个对称论 ， 变成了生物进化等等 ， 这个 John Lashwy 改进以后， 变成整个生物进化 ， 个体也好 ， 个体对付外部世界的自适应 ，以及生物整个群体的自适应 ， 实际上都是反馈控制纠错 ，以及通过博弈来改进自己的决策 。 这是两个最基本的机制 ， 都是通过这种闭环反馈和博弈来做到的 。 **曼祺** [1:07:48] 我们怎么理解闭环反馈博弈这种自我纠错的机制 ？ 和您刚才说的 ，其实我们学很多东西 ， 就是在大脑里 eternal 就可以学 ， 这两个什么关系 ？ **马毅** [1:07:56] 所有的闭环反馈 ， 你的 error 就是在你大脑里面 。 **曼祺** [1:08:00] 但是刚才那些例子里面 ，他说猫抓东西干嘛 ， 那这不是外部反馈吗 ？ **马毅** [1:08:03] 不 ， 都是通过它眼睛能够观测 ， 反馈到你大脑里面来的 。 我们的学习 ， 我们对外部世界建的模 ， 都是在大脑在纠正我们对 muscle 控制 ， 或者我们对一个事物的判断 。 实际上我们模型都在大脑里面 ， 我们所有的纠错是在纠错我们大脑里面对外部世界的判断 ， 外部世界的 prediction。 **曼祺** [1:08:21] 而现在的训练不是这样的 ， 对吧 ？ **马毅** [1:08:23] 训练是两头都要管 ， 里面要管外面管 ，是 end to end 的 。 也不是不可以 ，但是这个就很粗暴 ， 这就叫人机 law。 所以现在我们还没有找到这种优化的机制 ， 说真的 ， 就是自然界如何实现优化 update 这种系统的 。 **曼祺** [1:08:36] 所以这三个方向里面 ， 就是白盒你怎么去实现 ， 您是看到的 ， 后面的像这个闭环和自主 ， 这可能是更远的事 。 **马毅** [1:08:43] 我们在闭环和自主 ， 前两年有一些比较 primitive 的结果 ， 我们至少看到了这种结构实现的可能性 。 即使用黑盒的网络 ， 或者全局优化的方式 ， 闭环网络的优势是可以看到的 ， 它是可以实现的 。 通过博弈和闭环反馈 ， 可以自主的 incremental 的学习到这个数据里面低维结构的 。 **曼祺** [1:09:02] 对这些可能性也是做了一部分的验证 。 **马毅** [1:09:04] 对 ， 我们已经有验证的东西 ， 完全的 scientific 的验证东西 ，但是就是说还没有找到最最高效的优化机制 ， 像自然界这么高效的优化机制还没有找到 。 **曼祺** [1:09:13] 您说的对于这个闭环和自主的验证 ， 这个是在您的什么论文里啊 ？ **马毅** [1:09:16] 在我的 publication 里面有一个 control，而且后续还有好几篇文章 ， 还有就 incremental learning 和 continuous learning。 而且另外一个事情很有趣 ， 就是说作为一个记忆系统 ， 大家都知道开环网络我重新训练的话 ， 它会 forget， 就灾难性的忘记 。 当你一个网络训练好 ， 比如我能识别 10 类系统 ，10 类物体 ， 这个网络训练好了 ， 杯子 、 桌子什么能分类 10 类 ， 如果让它在这个网络上再让它学分第 11 类 、12 类的物体的时候 ， 它前面 10 类很快就全忘了 。 开环系统往往会出现这个问题 ， 那么闭环系统往往它忘记得非常 graceful， 它不会都忘 。 而且当一个东西看得久了以后， 它的记忆会越来越强 ， 所以开始跟人的系统就一样 。 你很有幸发现自然界的记忆系统都是闭环系统 ， 所以它闭环系统有很天然的稳定性 ， 它不像开环系统 ， 你再稍微一调 ， 它原来的东西就忘掉了 ， 就被洗掉了 。 **曼祺** [1:10:02] 因为现在人和动物的智能其实还是黑盒嘛 ， 为什么我们可以在机器上先实现白盒呀 ？ **马毅** [1:10:08] 我觉得是这样 ， 实际上你看五几年、 四几年对吧 ， 最早研究智能的时候 ， 大家在做信息论 、 控制论和博弈论的时候 ， 实际上都是在研究智能的数学机制 ， 就是实际上都是受动物的启发 ， 看到了智能的一些各自所具有的特点 。 比如说信息论在看这个 ， 我们的信息该怎么去 encode 下来 ， 编码 ， 记下来 ，而且能够解码 。 那么控制论在说 ， 如果我有错的话 ， 我如何去纠错 。 博弈论也是 ， 如何改进我的决策等等等等 ， 它都在研究这个 ， 都是在找到自然界的智能系统里面它的一些 characteristic。 而且那个时候的人， 包括维纳 、 冯 · 洛伊曼 ， 还有 Yann LeCun，他们都相信 ， 就是说虽然实现物理实现机制可以不一样 ，但是智能它的工作机理应该是统一的 ，不管是 machine 还是 animal。 你去看看 Weiner 的 《Cybernetics》 那本书的副标题 ， 它副标题就是 "Under control and communication in animals and machine"。 所以对研究智能的先贤们这帮人 ，他们认为在智能背后的数学和计算机制是一致的 ， 物理实现可以不一样 ，不管是碳基还是硅基 ， 你只是对这些同样的计算机制实现的物理机制不太一样 ，但它的数学原理应该是统一的一致的 。 通过知道真正智能是在目的以后， 你是可以把它机制推理出来的 。 我相信我们的大脑也是在通过它自身的方式实现同样的功能 ，而且自然界找到了非常高效的去实现这些功能的方式 ， 物理机制 。 所以如果我们发现有可能 ， 这些物理实现还未必是最高效的 ，有可能还有其他的物理机制 ， 可以把它实现的耗能可以更大 。 明白它数学上或者计算上是要做什么事情之后， 那么它的物理实现就可以千变万化了 。 哪个省劲儿 ， 哪个更 scalable， 哪一种物理机制更稳定 ， 更 scalable， 你就可以实现 。 不光是一个人的大脑 ， 可以是 100 个人的大脑 ， 甚至 1000 个人的大脑 ， 可能有另外的物理机制 ，不一定是我们这种生化的东西 。 至少从现在看来 ， 我们的物理实现跟自然界的物理实现还差了七八个数量级呢 。 **曼祺** [1:12:10] 是指节省能量上差七八个数量级 。 **马毅** [1:12:12] 你看现在你训练一个 GPT 得 1 万张卡 ， 那就是 10 个 Megawatt。 **曼祺** [1:12:16] 那你们的新成果可以吃一两个数量级 。 **马毅** [1:12:18] 对啊 ， 你看我们的大脑 20 瓦 ，10 瓦 ， 所以这还差六七个数量级呢 。 还别说跟蚂蚁去比 ， 现在世界上可能最智能的机器人， 可能还没有蚂蚁聪明吧 。 所以你想想 ， 你去算算我们还差多少个数量级 ， 至少七八个数量级吧 。 从对物理机制的使用的能耗来讲 ， 我们才还差好几个数量级呢 。 **曼祺** [1:12:35] 就你刚才提到很多这个神经网络 、 博弈论 、 信息论 、 控制论 ， 这个也是来自于您书里历史的时候 。 **马毅** [1:12:40] 对现有的东西在进行理解的时候 ， 才发现它们实际上是只是做了这些事情的一些很局部的东西 。 **曼祺** [1:12:46] 因为大部分人会把人工智能起点追溯到 1956 年达特茅斯会议嘛 ， 然后您是把这个起点 ， 您认为是更之前的 10 年，1940 年代 ， 就刚才这些理论被提出的时候 ， 您是第一个这么去做这种梳理和定义的吗 ？ **马毅** [1:12:57] 应该是吧 。 而且实际上蛮奇怪的 ， 我们在讲嘛 ， 就是说 ，因为人工智能的发展实际上是好几条线交织在一起的 ， 包括最早大家对神经 ， 对吧 ， 包括人工神经网络的这个 inspiration 也是来自于 psychology， 对吧 ， 研究 neuroscience 的人， 对大脑的神经元在做什么事的 。 有做 psychologist 的人， 也有做 cognition 的这个认知科学的人， 也有早期的做计算的 ， 对吧 ， 从图灵开始 ， 图灵测试 ，他们都在思考智能在做什么 ， 或者通过机器来模拟计算 ， 模拟人的一些能力 。 所以它不是有一个什么明显起点 ， 我本来就已经反感这件事情 ，不是有一个什么明显的哪里就起点 。 只是到到了 1956 年， 它只是提了这个名字 Artificial Intelligence，但是 intelligence 相关的这些 elements 可能更完善的机制早就有了 。 所以大家对这个历史有点误解 ， 对不对 ？ 实际上大家对 1956 年的这个 program，他们更加讲的是人类一些高级的智能功能 ， 就是因果推理啊 ， 符号运算啊 ， 逻辑推理啊等等等等 ， 还不是在记忆层面上， 还不是对数据 ， 比如图像或者这个声音信号 ， 它的结构提取 、 记录以及生成 。 刚才我也讲过 ， 对于这种图像 、 声音 、 文本这种信号进行压缩 、 记录 ， 然后生成 ， 这件事情实际上是跟记忆有关 ， 更多的是跟我们前面提到的信息论有关 ， 信息的编码和解码 ，以及甚至这个反馈纠错要达到自洽的表达 ， 实际上是跟这个底层的 intelligence 有关 。 这个记忆这一层 ， 还达不到高级的这一层 。 虽然现在大家虽然用 GPT 去解决一些看似数学推理的问题 ，但实际上它的本质不是在做那个事情 ， 它实际上是还是一个靠记忆在解决的问题 ， 所以它还是一个高分低能的东西 。 它的本质上没有学习到因果 ， 没有学习到逻辑 ， 没有学习到这种符号运算 ， 它只是在把它当成一个统计的压缩的 ， 通过记忆的方式来解决这个问题 。 就跟我们学生一样 ， 通过刷题来得高分 ，而不是通过真正的理解来解题 ，是通过记忆来达高分 。 **曼祺** [1:14:59] 因为您之前梳理这个历史的时候 ， 您还有一个总结是说这个神经网络的两次危机 ， 都是因为缺少数学解释 ， 一次在 1970 年代左右 ， 然后一次在 2000 年左右 。 那现在这个主流方向好像也不是很在意数学解释了 。 **马毅** [1:15:10] 对啊 ， 人类历史本来就是两条线走路 ， 对吧 ， 两条腿走路 ， 一个是经验 ， 一个是 inductive， 就是归纳法 ， 一个是演绎法 。 归纳法实际上也可以完全有用啊 ， 比如说我举个恰当的公司 ， 我们就像比如说中医吧 ， 我们突然发现一个东西就能治病 ， 当然就有用了 。 你不用再去找原理 ， 它就能治这个病 ，也没啥副作用 。 你为什么不用它呢 ？ 但是机制找不到不知道 ， 新的病能不能治不知道 ， 为什么能治这个并不一定需要清楚 。 所以现在我相信大家就是看过去几年， 由于数据和计算算力的发展 ， 让大家通过经验 ， 通过筛选 ， 通过试错 ，也能筛选出不错的药方 ， 这药方当然有用了 。 你说会不会再来一个 winter，也未必 ，因为原来的为什么会有 winter，因为它原来这个经验东西也不 work， 它也没有真正达到使用的 ，也没法治病 。 所以人家再指出你这里面有砒霜 ， 那当然就不能用了 ， 发现你这个药里面还有砒霜 ， 还有毒 。 当时讲你两次 winter， 实际上都是因为第一次就发现浅层的网络还实现不了一些基本的逻辑运算 ， 那说你这个有啥用呢 ？ 就实际上对于数学里面指出了你的一些缺陷 ， 就你这个药方不光不能治病 ， 你还有缺陷 ， 你还能把人给毒死 ， 说不定还有什么后遗症副作用 ， 那当然就完蛋了 。 或者第二次演示 ， 大家发现 ， 哎 ， 你不是号称你能解一些分类问题吗 ？ 但是发现另外一个有数学保障的方法 ， 效果也挺好 ，因为原理也很清楚 ， 那为什么不能用那个呢 ？ 就是你这个经验的东西还不 work， 哎 ， 人家那边有一套解释得比较清楚的方法 ， 已经有一个药方了 ， 这个成分还很清楚 ， 那为什么不用它呢 ？ 能治感冒了 ， 为什么不用它呢 ？ 那就用了 ， 虽然这个是只能治感冒 ，其他也干不了 。 那么神经网络实际上能干更多的事 ，但是当时并不知道 ， 所以它又打入人工 ，但原理是很清楚 。 那么现在呢 ，是因为它通过你看过去这几年， 它的因为资源上去了 ， 全世界这么多几千个团队 ， 大家试错 ， 试出 ， 哎 ，有些药方还是蛮 work 的 ， 至少在实际中有效果 。 我想它可能也不会再冷下去 ， 至少这些经验找到的这些结果 ， 它是已经可以使用了 。 但是它是不是最高效的 ？ 它是不是很多的事情它还做不了的 ，是需要理论去搞清楚的 。 **曼祺** [1:17:07] 你现在还会借鉴哪些学科的一些最新成果呀 ？ 就除了刚才我们聊到的神经科学之类的 ， 还有什么领域你是比较关注的 ？ **马毅** [1:17:14] 我觉得我们还有很多需要从更系统的 biology，neuroscience 去学 。 现在 neuroscience 开始越来越看整个系统了 ， 看整个大脑在怎么 work。 原来这方面的工作很少 ，有时候就研究几个神经元 ， 或者一些仪器的原因 ， 它也没法测量整个大脑的工作 ， 所以很难从整体都只是看到树木 ， 甚至只看到树叶 ， 更别说森林了 。 就是这个整个大脑的一些运行机制 ， 它到底在干什么 ， 这个整体的功能 。 因为对我们来讲 ， 你要了解整个记忆系统怎么 work， 或者它后面的数学原理 ， 你要看到整个系统怎么 work。 **曼祺** [1:17:44] 这个领域有什么让你印象比较深的成果和新的发现吗 ？ **马毅** [1:17:47] 我们实际上蛮大的发现 ， 就是在早期为什么跟 Daul 是了解的 ， 就是他们发现的猴子对某些物体的编码 ， 它的内在的一些 representation 表达 ， 跟我们发现的一些数学的 ， 我们认为一些合理的简约的数学结构很相似 。 比如说一些子空间 ，他们发现猴子对一类物体 ， 比如人脸 ，他们猴子的大脑一个局部 ，而且他们把这些一类物体按照一些非常低维的子空间来表达 。 它每个神经元 ， 它代表着它的一个坐标 ， 它编码非常的 compact。 **曼祺** [1:18:18] 这种子空间在 AI 的人脸识别上， 它对应哪些方法呀 ？ **马毅** [1:18:21] 就是很多现在神经网络在做的事情了 ， 就包括我们的白盒里面的 ， 实际上就是把这些数据压到高维空间中的一些子空间上面去 ， 就是在做这个事情 。 就是说我们认为正确的 ， 至少比较高效的来模拟这些高维 ， 来对这种高维数据进行处理 ， 去噪也好 ， 压缩也好 ， 所用的数学结构非常一致 。 这是当时我们最早为什么找到 Daul， 好像也是被人 refer， 说 ， 哎 ， 马老师你们这个模型 ， 我们当时也是想用这种低维的子空间来作为最基本的元素 ， 就跟砖头一样 ， 来近似高维数据的这个结构 。 那么后来他们发现猴的大脑里面对某些结构跟你们很像 ， 所以他们也是最早提出来 ， 就是说生物里面也是这样来 encode 来记忆一类物体的 ，也有类似的机制 。他对我们东西也很感兴趣 。 后来我们发现我们提出来的闭环啊 ， 反馈纠错啊 ，他们也在猴子大脑里看到了 ， 动物也是这样来学习的 ， 就是通过这种来 predict error， 就是通过闭环的方式来看它判断 。 比如猴子的眼睛看见一个东西在动的时候 ， 它自然会去判断它下一个时间会出现在哪里 。 它在 track 的时候 ， 它实际上大脑里面就有个机制 ， 就会 predict 它下一回在哪里 。 如果它判断错了 ， 它会很紧张 ， 动物就在纠错 。 如果它本来 predict 它会出现在哪里 ， 它发现它没出现在那里 ， 它大脑就现在有个纠错的机制就开始启动了 ， 对吧 ？ 那为什么会错呢 ？ 它就开始要重新 adjust 它的东西 。 所以这里面有很多的这些研究相互印证了嘛 ， 就是我们发现很多东西 ，他们看到的一些现象 ， 跟我们在一些数学模型里面所用的数学模型的一些假设结构很相似 ， 所以我们大家比较相互认可 。 我们提出来的解决方案 ， 当时是为了清理人工神经网络深度学习的一些乱象嘛 。 我们也想尽量看哪些是 necessary 的 ， 还有哪些思想是统一的嘛 ， 或者是 unified 的嘛 。 所以这个想法也不约而同的跟 Daul 他们本身科学家本身就是一种解决性 ， 任何事情他们都要去 justify 什么是 necessary，necessity， 找到哪些是最基本的机制 。 **曼祺** [1:20:12] 你会怎么定义你们现在的工作啊 ？ 它是在目前这个主流的方向上的一种互补和证交 ， 还是说它可能会是新的别的东西 ？ **马毅** [1:20:20] 对现有的东西 ， 你刚才也听到了 ， 实际上完全是不矛盾的 。 就是说实际上我们是对现有的 ， 至少以前做的东西做了一个我个人认为是比较明确的解释 ， 你过去做了什么 ， 至于你知道你做了什么 ，也看到了它的 limitation 在哪里 ， 至少知道下面一两步它需要补充完善提高的东西 。 因为这你解释它在做什么 ， 那么既然有了原理 ， 那么对你现有的东西的 efficiency 的提高 ，也是提供了非常好的 。 而且我们下面马上就会有结果会出来 ， 可能也就是这一两个月 ， 月底之前就会有 。 完全这些网络结构我们都要改了 。 现在你看到的这个 ， 这是白盒的 ， 这里面还有不必要的 。 这种实现虽然是通过优化设出来 ，但优化还有不同的优化方法 ， 虽然做的事情是一样的 ，但是可以更加简洁 ， 更加高效 。 **曼祺** [1:21:04] 您会怎么描述现在这个角色 ？ 刚才您说到有一个点 ， 就是您想做一些去魅吧 ， 就是大家可能对 AI 有一些言过其实的误解 。 **马毅** [1:21:12] 对 ，以前有些很多是炒作夸张 ， 还有一些 misinformation， 就是对这种技术发展的本质 ， 还有它的现状要有一个相对客观 、 相对比较科学的认识吧 。 **曼祺** [1:21:23] 就除了去魅之外， 你还想做什么吗 ？ 比如说你会认为自己是个反叛或者叛逆者吗 ？ **马毅** [1:21:27] 那倒未必 。 我倒是希望把这些事情留做些正本清源 。 我倒觉得现在的很多 practice，由于它经验的验证 ， 反而是把大家有点慢慢违背了传统的科学的一些严谨和客观的方式方法 。 过分去强调我通过资源或者经验去试错 ， 就能够解决所有问题 ， 甚至理解都不重要了 。 **曼祺** [1:21:47] 对 ， 您十几年前 08 年左右做压缩感知系数模型这些 ， 那个时候您也是很追求数学上的解释的 。 **马毅** [1:21:53] 是 ， 那个时候一直都是 。 反正我觉得很多事情我们还是比较传统一点 ， 还是希望能把一件事情搞明白 。 **曼祺** [1:22:00] 那在那个时候整个 AI 学界也是这样的吗 ？ **马毅** [1:22:02] 那个时候 deep learning 还没起来 ， 所以那个时候大家还是比较希望把这些机制搞明白 。 你看我们的工作 ， 实际上最早的工作就是那个时候 ， 实际上包括我们现在这个 redu reduction， 你要去看我们最早放在这里的文章 ， 我说了 5 篇文章 ， 实际上你看 original paper introduces radio distortion for learning， 实际上这件事情就是我在微软的时候做的 ， 这个是 07 年， 你可以看到其中有一篇文章 classification about minimum equipment， 实际上那个时候就是跟沈向阳合作的 ，09 年， 实际上我们那个时候就在看通过压缩来学习这件事情 ， 虽然还没有放在深度网络这个 context 下面 ，但是你在像学习高维数据的低维分布 ， 它的一些本质的原理是什么 ， 那个时候就已经在做了 。 **曼祺** [1:22:43] 所以这一十几年就是经验变得越来越盛行 ， 或者说你的 work 这个事变得非常重要 。 **马毅** [1:22:48] 对 ， 它 12 年之后大家发现了 ， 哎 ， 一个 recipe work 了 ， 当然随着这个算力和数据又比较 available， 它促进了经验的去通过归纳法去 push 这个 performance 的这条路 。 实际上你看科学都是这样吧 ， 当实验条件很充分的时候 ， 就跟原子物理一样 ， 最早大家都是先做原子 ， 就包括这个最早发现放射元素的时候 ， 那个时候就发现一个原子就得过诺贝尔奖 ， 然后后来开始有了物理 ， 后来又是对撞机出来 ，也是撞出一个粒子得过诺贝尔奖 ， 后来有了标准模型以后大家就不发诺贝尔奖 。 就是它理论和归纳都是一样的 ， 当有一种方法实验 ， 反正对撞机嘛 ， 撞出个粒子就得过诺贝尔奖 ， 那为什么不撞呢 ？ 所以现在就跟这大模型一样 ， 我不断的试数据登进去 ， 哎 ， 看到一个现象发一篇文章 ， 它实际上是同一个现象 ，但是把后面的机制搞清楚以后， 很有可能这都可以解释 ， 这都是它的 instance 而已 ， 都是它这些特例而已 。 所以我觉得肯定是经验和归纳 ， 归纳法和演绎法一定是相辅相成 ， 对吧 ？ 这个科学历史上都是这样子的 ， 数学也是物理也是 ， 咱们都是这样发展的 。 **曼祺** [1:23:46] 然后最后可以聊一下就是您现在想用公司来推动这个事情 ， 就您也提到去年做了益生这个公司嘛 ， 这个就是在您 23 年年初看到 ， 你觉得有些人对 AI 的解释非常夸张之后想做的吗 ？ ### 创业教育 **曼祺** [1:23:58] 就它的契机是什么 ？ **马毅** [1:23:59] 我们实际上很早就看到了 ， 就是在疫情期间都在聊这个事 ， 当时我们看到这个框架 ， 觉得确实这件事情可能跟当时主流的这种方式 ， 我觉得这种框架是非常有指导意义的 。 当时已经看到觉得这个可能会对我们的一些产业啊 ，practice 会产生一些影响吧 ， 它应该对这个我们的现在这些技术啊 ， 就是工程技术或者产业的一些技术 ， 应该有非常互补或者证交的东西 。 但是那个时候并没有这么 convulsion 的 ， 就是实验验证 ， 计算上的验证 。 那个时候因为资源也有限 ，但只是概念上是觉得是有道理的 。 后来在实验的时候就发现 ， 哎 ， 确实这个东西能够 scale， 那么后来就发现实际上是可以规模化 ， 这个高效是可以做上去的 ，而且推导的效率更高 ， 简洁明快 。 所以那个时候就想 ， 那么这些东西就应该是对我们这些产业做的应该更加规范 。 有了这些原理指导 ， 至少这个 practice 会更加的高效和 efficient，不再通过试错的方式浪费大量的资源 。 你有了原理以后， 这些以后就通过设计来改进你的网络 ，而不是通过大量试错来改 。 这是第一点 。 第二呢 ，也发现现有的网络工具实际上是不完整的系统 ， 它也只是实现了记忆的一些片段碎片 ， 那么能不能把它实现得更加的完整 ，而且更加的自主和高效 。 所以我们当时想 ， 能不能先把记忆 ， 当时也在谈这个 ， 大家在讲什么 foundation model， 那我说简单 ， 常识的问题 ， 智能的 foundation model 就是记忆 。 那么如何让机器在环境中获得记忆的能力 ，而且改进记忆的能力 ， 所以叫一生生意嘛 。 **曼祺** [1:25:27] 这个生是获得的意思是什么 ？ **马毅** [1:25:28] 生成记忆 ， 通过记忆在生成嘛 ， 所以生成智能嘛 。 实际上我们画出来的东西 ， 我们通过生成画的图像 ，不都是通过我们记忆在生成的东西吗 ？ 所以生成记忆 ， 记忆生成 ， 实际上就是取这个意思 。 而且我也知道 knowledge 本身是智能的基础 ，但它是智能活动积累的结果 ，而且真正的智能的体现是能够生成记忆 ，是获得新的记忆 ， 改进记忆 ， 获得新的知识 ， 这才是智能的本质特征 。 **曼祺** [1:25:54] 在学校做这件事和用一个公司来做这件事的区别是什么 ？ **马毅** [1:25:57] 哎 ， 对 ， 这个是这样子 ， 就是说有些东西适合在学校做 ， 学校应该是探索 ，不应该去从众 ， 学校就应该去找到现有的方法里面不足的地方 ，不然就改行 。 我就是这个观点 ， 我跟我的年轻老师和学生就这么讲 ， 你如果找不到你这个领域现有的方法的不足的地方 ， 你就肯定改行啊 。 **曼祺** [1:26:15] 所以学校不适合在现有领域添砖加瓦 。 **马毅** [1:26:17] 对 ， 你做一块 mantle 也可以混饭吃了 ，也可以发文章了 ，但这不是学校该做的事情 。 学校该做两件事情 ， 我们是教书的 ， 所以我为什么要做白盒呢 ？ 一个东西我都不懂 ， 我没有底气去教学生 ， 你一定要把它搞明白 。 所以就是为了教书 ， 你要把它搞明白 ， 这些网络到底在干什么 ， 它结构到底在干什么 ， 数学上物理上统计上在实现什么功能 ， 你必须要搞清楚 。 为了教书你要搞清楚 。 第二呢 ， 学校就应该如果做事 ，在这研究型的大学 ， 研究是什么 ？ 研究就是智能 ， 你得发现现有的知识不足的地方 ， 改进知识 。 所以科学家就是智能的体现 ， 科学或者做研究 ， 实际上就是 intelligence 最本质的特征 ， 要发现现有的知识 ， 现有的模型 ， 搞明白之后， 知道它不足的地方去改进 。 所以这是学校该做的事情 。 公司实际上是应该做放大 ，因为现有的很多的 practice 不是很 efficient，而且也是不完整的 。 学校呢是做 idea 的验证 ， 实际上我们去年的时候觉得确实我们的很多验证已经非常的充分了 ， 就是说在学校能做的事情也都做到了 。 你可以看到了我们最近的这个工作 ， 为什么是这么多人 ，是多少个团队 ， 我给你看一下， 你看我们的最早的这些 ， 到最后， 你看这些来自多少学校 ， 就是学校我们能做的 ， 每个学校就那么 11 家商行 。 所以大家基本上实验你看 Berkeley 啦 ，Chicago 啊 ， 还有像 Hitech、NYU 啊 、UIUC 啊 、Johns Hopkins、UPenn 都 involved 了 。 为什么呢 ？ 那就是我们资源就有限 ， 从验证这些方法 work， 我们已经把它做到极致了 ，不可能再有更多的资源 。 **曼祺** [1:27:43] 学校也没有放大 ， 比如说需要更多卡都不可能 。 **马毅** [1:27:45] 时间上也不可能让你做到 。 学校是两件事 ， 一个是规模 ， 一个是时间 。 学校你要做一件新的事情 ， 就是以年为单位 ， 你得写个 proposal 拿到这一层 。 比如说自然语言 ， 学校我们就几十张卡 ， 如果产业界能够去接受 ， 工程也不一定在我 ， 我去费这老鼻子劲干什么呀 。 但是现在你也知道很多愿意去推动一些我们认为实际上不太正确的方法 ， 还是这些经验的东西啊 ， 需要大家去买很多卡呀 ， 这样子东西 。 那么我希望把这些技术 ， 它的这些原理的好的平台 ， 更快的推到产业里面去 。 **曼祺** [1:28:15] 那为什么不和别的公司合作了 ？ **马毅** [1:28:17] 是啊 ， 我们现在是在看 ，是在可以去合作 ，但是就像你讲的 ， 这个要让大家去认识 ， 还有一个过程 。 现在这个公司的目的也是想把这个过程加速一下， 我们完全不反对 ，而且肯定会 more than happy to 跟合作 。 实际上现在业界对我们这套方法关注度非常高 ， 明天我就去阿里 ， 星期五就是华为 。 **曼祺** [1:28:35] 所以你们这个公司的目的是什么 ？ **马毅** [1:28:36] 就是推动新的技术 。 第一 ， 把现有的实现这种学习的机制 ， 把它做到更加正确 。 **曼祺** [1:28:42] 就是你想让更多人能看到这种方式是可行的 。 **马毅** [1:28:45] 对 ， 让更多人开始使用这样的 。 我们想把这些框架 ， 我们的算法 ， 这些算子 ， 工具化平台化 ， 赋能更多的人去用 。 **曼祺** [1:28:53] 你觉得做到什么程度大家才会认可这个东西啊 ？ 因为其实 OpenAI 之前做了很多年， 但它真正的引起那么多的关注 ， 包括快速推动一个共识 ，是因为 ChatGPT 这个可以直接 2C 的有交互界面的产品发布才带来的 。 **马毅** [1:29:06] 有两个可能 ， 我觉得我们也很难判断未来将来什么会引起大家的关注 。 至少现在我觉得我们的一些基本的原理 ， 至少学术界开始认可 ， 那么产业界开始已经逐渐在看到 。 但我个人认为啊 ， 要么就是量 ， 要么是质 。 如果当下看 ，whichever happens first， 量就是说如果我们的方法能够让大家看到 ， 能够 fundamental 的从量上以数量级的提高现有系统的效率 ， 降低开发成本 ， 数量级 10 倍 、 百倍的提高现有的计算的效率 。 就是即使做同样的东西 ， 你的效率是别人的 10 倍 、 百倍 ， 或者是开发成本降低 10 倍 、 百倍 ， 这样肯定会引起人的关注 。 **曼祺** [1:29:46] 但这个东西好像很不明显 ， 就外部不见得知道一个公司到底花了多少资源去做一个事 。 **马毅** [1:29:51] 不 ， 所以你就让它去用啊 ， 让它把这些东西去验证啊 ， 让它去验证这件事情啊 。 比如你改变一些大的模型里面的基本的操作 ， 它自己去用 ， 它自然就会知道这个 difference。 训练一个大模型 ， 你用的这个计算成本 ， 你用的 memory 的成本 ， 这是很容易定量的 。 你只要是高效 ， 你效率比现有的高 ， 你看你现在 scale 越来越大 ， 现在一下就是好几千 、 好几亿美元 ， 对不对 ？ 你能几亿美元降到千万美元 ， 它自然就会用 。 第二个就是说你真的能做到真正的自主学习的能力 ， 本质上能够改变现在的这个系统 ， 大家看到你的机制是不一样的 ， 你的 fundamental 不一样的 capability， 或者就是在现在的文本 ， 让你真正能够做到 scalable， 能够真正做到视觉 。 因为我做了一辈子的三维视觉 ， 最近李飞飞办公室也叫空间什么智能计算 。 **曼祺** [1:30:33] 对 ，他也创业 。 **马毅** [1:30:34] 对 ， 实际上你看我从博士生就在做三维空间 ， 对吧 ？ 三维视觉啊 ， 就是一直在做这个事情 ， 包括我们之前举的例子也是 ， 你能够眼 、 手 、 脑的协同 ， 能不能做到一般是智能 ， 比如说现在机器手 、 眼睛 、 手 ， 能够做这样的事情 。 特斯拉也都在关心这样的事情 ， 机器人 、 机器手 、 眼 、 脑 、 手的协同 ， 这是自然界可能智能的最高体现了 ， 能不能做到这样的事情 。 那么我相信至少是朝着这个方向来迈进吧 。 作为一种资源或者是影响的延伸 ， 我很想把这个推动 。 我们确实也是看到了现在这个框架带来的巨大的潜力 ， 把方向指得很清楚 ， 指得做下去就觉得 。 **曼祺** [1:31:11] 你有计算过达到你的第一个目的啊 ， 就是说我让现在您自己看好的这个方向 ， 它能获得认可需要多少资源吗 ？ 比如要多少钱或者要多少人之类的 ， 你这个有计算过吗 ？ **马毅** [1:31:20] 因为我们现在主要是有了这个团队 ， 能够提供非常 convulsed piece of evidence 的话 ， 我觉得实际上要的钱并不多 ，但至少算力肯定是要比学校要大 。 我们希望就是说我们能实现的做的东西会不一样 。 当这种新的方法 scale 上去以后， 它的潜力 ， 它能做的事情能力是大大高于传统的方法 ， 我们一定要做到这件事情 。 **曼祺** [1:31:40] 我觉得您刚刚用的有个词挺好的 ， 就是 evidence， 可能这个公司第一个目的是你要证明 。 **马毅** [1:31:45] 对啊 ， 你要证明你的东西是不一样的 。 虽然我这人理想化一点 ，但是我就觉得中国总是需要有一点具有差异性和先进性的东西吧 。 **曼祺** [1:31:52] 所以这个证明是不是个具体产品的 ， 它都是开放的是吧 ？ **马毅** [1:31:55] 我觉得我们要证明新的框架或者我们这个平台的这种通过白盒的技术 ， 从低性原理得到的这些网络设计师 ， 真的会带来产业的价值 。 真实的系统 ，在这个真实系统这个级别 ， 场景和实际数据上能带来 fundamental 不一样的证据 。 **曼祺** [1:32:13] 所以您认为这个方法它就是非此不可的一条路吗 ？ **马毅** [1:32:16] 那倒未必 ， 至少这是找到了其中一条路 ， 可能还有更高效的 ， 我不知道 ，但是至少我们看到了 ， 至少是在学习数据结构这个事情上， 大家都要做的 ， 只做这个就够了 ， 或者这么做就已经很高效了 ， 就已经比现有的这些要高效的多了 。 至少你只要这样做 ， 你就可以把高维数据里的很多低维结构就学到 ， 这规律就能找到 ，而且只需要这一类算子 ， 这一类运算就够了 。 你不需要一个很 general purpose 的 ， 能实现所有数学运算的或者数学算子的东西 。 **曼祺** [1:32:47] 你们现在和一些硬件团队也有沟通是吗 ？ **马毅** [1:32:49] 实际上我在 Berkeley 的时候 ， 我倒是一直希望 ， 至少我们从原理上是看到这个 possibility， 这种不管是通过探机归机 ，但是我们知道这个框架它所需要的运算是非常 special 的 ， 它并不需要依赖于一个 general purpose 计算机 ，CPU、GPU 也好 ， 都是 overkill。 如果以后能够直接的去实现这一类系统 ， 这种记忆生成 、 生成记忆的这种机制的话 ， 它的能耗也好 ， 它的这个物理实现所需要的资源也好 ， 那是可以提高很多 ， 这数量级的能耗也好 ， 物材料消耗也好等等等。 但是现在没有办法嘛 ， 只能还是在大的这个 general purpose 平台上实现这种特殊的算法而已 。 举个简单例子你就听出了 ， 比如说大家在神经网络里面用的最多的激活函数是什么 ？RenU 嘛 ， 就是门电路的那个激活函数嘛 ， 用的最多就是叫 RenU 嘛 ， 就是这么一个函数嘛 ， 小于 0 就是 0， 大于 0 就是 x 本身啊 ， 就是一个很简单的一个操作 。 那么你看我们现在是通过 GPU、CPU 对吧 ， 实现这个集合函数 ， 然后再用 CUDA 或者是 Python 写的代码来实现这么神经网络搭起来的嘛 ， 几亿个参数 ， 几百亿个三极管 ， 多少行代码来实现这么一个简单函数 。在物理实现不就是二极管嘛 ， 单通二极管就可以实现这个函数啊 。 所以我们是绕了一个大弯 ， 甚至数据计算机都是个大弯 ， 都是不必要的 。 但是现在的大家关注还是我怎么去改改现在的 GPU， 很多 fundamental 东西大家不会去看 ， 这些都是很 long term high risk 的东西 ， 你让它们 fundamental 的改变这个框架硬件可能也很难 。 大家更希望是在现有的框架上去改进一下， 比如怎么支持现在 GPU 要加快个两倍 、 三倍 ，在实现这些深度网络上， 这个训练神经网络上提高个一两倍的效率 ， 好发文章嘛 ，也好做嘛 。 你让大家设计一个新的构架 ， 很可能提升好几个数量级的能源 ， 大家也未必会去做这个事情 ，因为你全得从头开始 。 **曼祺** [1:34:30] 嗯 ， 就你刚说到这个变化 ， 我还想到一个点 ， 如果说这个能耗非常少的话 ， 所以它也很多东西是不用放在云上的对吧 ？ 就单上就可以做完了 。 **马毅** [1:34:38] 动物是不需要云的 ， 每个蚂蚁是不需要云的 ， 你在一个环境就必须要自己适应的 ， 很小的能耗就必须要处理这个环境的所有的情况了 。 真正的智能实际上是很高效的 ， 非常 customized， 就是非常专注的系统 。 **曼祺** [1:34:52] 所以你们第一步可能是一个 API 的形式是吗 ？ **马毅** [1:34:54] 先把这些底层的技术平台打造好 ， 先去赋能 ， 就是不管是赋能已有的这些大家现在常用的应用也好 ， 还是以后可能能够 support 全新的一些应用场景也好 ， 我觉得这个要有个过程 。 虽然我这个比较理想化 ， 我们 CEO 还是不错的 ，他是比较落地的 ，但是我是觉得咱们中国这么大的国家 ， 这么多的资源 ， 大家不要去做同质化东西 ， 能有一些公司做一些比较 mission driven 的事情吧 。 **曼祺** [1:35:19] CEO 是你的学生吗 ？ **马毅** [1:35:20] 不是 ， 与其说是同事 ， 我觉得还是要去做一点比较 mission driven 的东西 ，也是需要像 OpenAI 还有 DeepMind 这样的公司去有一个 mission 去 driven 的事情 。 **曼祺** [1:35:29] 不过你们技术方向是相对确定的对吧 ？ 相比 OpenAI 早期的时候 ，OpenAI 早期其实干了很多事 。 **马毅** [1:35:34] 是 ， 对啊 ， 它开始不去 ， 实际上它到 GPT4 它都不知道有什么用 ， 它只是觉得机器能够理解这些语言很重要 ， 肯定有用 。 **曼祺** [1:35:40] 所以类比他们的话 ， 你觉得你们是已经找到一个比较主要的方向了 ？ **马毅** [1:35:43] 对 ， 我觉得正确的方向 ， 我不是非常清楚 ，不然我也不会这么 delicate。 如果是属于探索性的 ， 我在学校做就完了嘛 。 所以确实是看到一个大的方向 ， 我觉得我们对现有的方法 ， 第一 ， 我们对现有的 AI 的这些底层的技术是有很大的提升 ； 第二呢 ， 我们是能够现有的系统也能够做得更加的完善 ， 希望这样弄完以后， 整个的系统能够做到一个提升吧 ， 升级 ，不管是效率上还有它功能上， 都能够提升去把 AI 工业界的这些应用 ， 一个是升级 ， 另外应该能打开更多的 场景吧 。 **曼祺** [1:36:13] 所以像您说的比较典型的中国创业 ， 它还是一个 copy 和追赶的逻辑 。 那你现在想做一个 ， 或者借于一些比较前沿性的研究 ， 应该说从一种理论到技术的这个状态吧 ， 您觉得有什么可以对标的机构或者组织吗 ？ **马毅** [1:36:26] 我一直是希望有机会能做像 DeepMind 或者 OpenAI 这样的 ，而且他们刚开始甚至还没有我们这么明确 ， 大方向还未必像我们看得这么准 。DeepMind 最早主要是 reinforce learning 嘛 ，但那个时候 reinforce learning 的验证还没那么明确 。 那么 OpenAI 呢 ， 最早是看到了一些 GPT，但它开始也不是那么聚焦 ， 实际上也是在 explore 好多不同的方向 ， 甚至最早也在做机器人啦 ， 还有其他的方向 。 **曼祺** [1:36:49] 您对您现在这个方向 ， 我不是说这个技术方向 ， 我是指就用公司来持续的推进这一件事情 ， 你有多乐观啊 ？ 因为其实 OpenAI 和 DeepMind 它都是在发展过程中间 ， 它有一个比较有钱的这种长期支持它的人。 **马毅** [1:37:03] 美国呢 ， 做支持短期长期的资本都有 ，有些是通过大的公司在扮演一些战略性的布局啊等等 ，有些是一些资本也比较长期投入的也多 ，有投短期的 ， 大公司也好 ， 还有资本市场 ， 它扮演的角色比较全面 。 所以这为什么它的创新也比较多样化 ， 方向也比较多样化 ， 短期长期的创新也都有 。 那么国内呢 ， 可能像我们这种稍微中长期的这种研发 ， 要么就是像你说的 ， 能得到一些大的公司给它的认可赋能 ， 要么就是得政府或者一定的具有长期的基金的这样子来支持 。 就有时候你得先做了 ， 任何事情我觉得你要光是等条件成熟是永远不可能 ， 你只能走一步去 justify 你的价值 。 **曼祺** [1:37:44] 现在国内这种比较长期的钱其实很少的 ， 是一个急剧萎缩的状态 。 **马毅** [1:37:49] 但是我觉得这件事情也不可能等 ， 我觉得最重要的还是证明自己的价值吧 。 你也不需要所有人的认可你 ， 你只需要真正的看到你这个价值的这些投资者来认可你 。 到目前为止还好 ， 就是说至少初期我们的最早的一些投资人还是比较支持我们的 。 我们的 mission 还是希望能做出一点差异性和先进性的东西吧 。 咱们这么大的国家 ， 这么多的资源 ， 这么多的智力 ，不能老是去做重复性的这样的跟踪 ， 小的这种改进 ， 这不是我的诉求 ，而且这种东西也不是我开公司的初衷 。 这样的事情让别人去做 ，也不是我们现在这个技术的它的优势所在 。 不是说对现有东西做小的改进 ， 我们就挣点钱 ， 至少不是我们团队或者我个人的诉求了 。 **曼祺** [1:38:29] 您现在觉得相对比较确定 ， 很有希望的这个可解释性的方向之外， 你觉得行业里面还有哪些对其他可能性的探索是非常有价值的 ？ **马毅** [1:38:37] 实际上现在也有一些公司 ， 它们也在探索一些新的构架吧 ，但是不是有道理我并不能评论 ，但至少有这个诉求 ， 就是要去寻找一些新的构架 ， 更加高效 ， 更加跟与众不同的东西 。 我觉得这种东西要鼓励 。 **曼祺** [1:38:51] 全球范围你觉得从学术的这种潜力的角度上来说 ， 你还看到哪些其他的探索你觉得是有价值的 ？ **马毅** [1:38:57] 现在也有一些框架在提 ， 就因为大模型的 ， 所以有时候就是这样 。 过去这几年呢 ， 为什么我们要做这个事情 ？ 现在很多的技术 ， 它的同质化也是受因为公司的一些宣传炒作 ，因为公司它资源很多 ，而且它可以有很多的数据和算力 ， 弄出一些系统以后 ，而且它有很多的宣传的资源 ， 这是更糟糕的 。 每个公司都能找到它的产品非常优秀的 、 表现优异的指标来宣传 ， 这会对很多的 ， 只要小公司也好 ， 甚至学界都会有误导 ， 就说这些东西是你得去做 ，有点像这是唯一的道路一样 ， 就会对大家对学术也好 ， 甚至对这个产业那个引导都很大 。 甚至全世界范围都比较同质化了现在 。 **曼祺** [1:39:35] 那你怎么看 ， 比如说像乐坤他做的那个 GEPA， 还有李飞飞 ， 就是刚才也提到他现在也在创业嘛 ，他当时应该是您在 UIUC 招的第一个老师对吧 ？ **马毅** [1:39:45] 对对对 。 **曼祺** [1:39:45] 就是他做这个空间智能 ， 这些尝试您怎么看 ？ **马毅** [1:39:47] 我跟那个杨乐坤 ， 我们在很多的观念和思想上非常一致 。 它的 GEPA 这些东西框架 ， 实际上跟我们的在思想上非常非常一致 。 **曼祺** [1:39:56] 他这个一致是表现在什么方面 ？ 比如他也是追求可解释性吗 ？ **马毅** [1:40:00] 实际上他更讲求的是自主学习 ， 实际上我们在这一点上是很一致的 。 所以我们说的 AI 下一代 2.0，不是现在说的什么大模型就是 2.0，2.0 一定是 something 本质不一样 。 我跟杨乐坤我们一直在说的 2.0， 原来是 artificial intelligence， 那么我们说 2.0 应该是 autonomous intelligence， 具有自主学习的能力 。 所以你看我跟杨乐坤他现在世界模型都是在讲 ， 你一定要跟物理世界交互 ， 要通过使用你的预测模型 ， 改进 、 纠正 、 学习新的知识 ， 这是它的最本质的一个特征吧 。 **曼祺** [1:40:32] GEPA 它到了一个可以验证的状态吗 ？ **马毅** [1:40:34] 也是在小范围的 ， 这不是我跟杨乐坤写的 proposal， 我跟杨乐坤一直在写 ， 过去这几年一直在做 proposal， 这是跟 UC Berkeley、 杨乐坤 、Neuroscience， 还有 Rob Fergus 我们一块写的 ， 这是 Murray 一个大的 multi-university 的一个 proposal，在做这个 。 实际上你看我们当时就在写 ， 一个是闭环 ， 你看我们俩 ， 实际上思想是非常一致的 ， 这个描述 ， 只是可能在技术细节上区别是很 minor 的 ， 概念上是很一致的 。 **曼祺** [1:41:02] 您现在需要上本科生的课吗 ？ 还是您主要是带研究生 ？ **马毅** [1:41:05] 我现在主要上研究生的课 ，其实包括写的高维数据的分析 ， 包括现在在写的一本新的书 ，但是呢 ， 我是想慢慢的下沉下去 ， 所以我下面在写的新的一本书 ， 关于深度学习的书 ， 就是可能针对高年级本科生 。 而且现在我们港大也在做 AI 了 ， 我觉得整个对 AI 大家都很热衷 ， 技术也发展很快 ，但是对很多的概念 、 技术 ， 甚至历史都有些很多的误解或者是误导 ， 反正很乱嘛 ， 或者大家都只言片语的 ，也不系统 ，也不完整 ， 甚至也不客观 ，也是各种原因了 。 企业也在炒作 ， 政府也在 ， 自媒体又在弄很多事情 ， 所以大家对这件事情的认知实际上是很散的 。 所以我现在是在从研究生的教育到本科的教育 ， 到最后现在港大在成立新的数据学院 ， 港大刚刚成立新的 School of Computing and Data Science， 我应该也会 lead 这个事情 。 那么实际上我们就会承接整个港大关于 AI 叫 AI literacy 的教育 ， 就是叫 AI 扫盲 ，是不是正确的翻译我不知道 ， 就是要大家对 AI 这件事情有正确的认识 ， 所有专业都要上两门 AI 或者计算的课程 ， 就是对计算思想的课程 。 **曼祺** [1:42:09] 这个也包括文科授课 ？ **马毅** [1:42:10] 对 ， 所有人。 而且现在就说 AI 也好 ， 计算也好 ， 我们把它的重要性是等同于语言 ， 英文和中文 。 **曼祺** [1:42:17] 所以它是通识教育的一部分 ？ **马毅** [1:42:19] 对 ， 现在全部从大学一年级教育 ， 计算和 AI 这件事情要讲清楚 。 为什么它的地位跟英文和中文是一样的 ？ 我们英文就是为了交流嘛 ， 中文就是为了跟世界交流嘛 ， 中文也是嘛 ， 跟大家交流嘛 ， 写作嘛 。 但是你看看 AI 和计算为什么重要 ？ 以后世界上肯定会有系统 ， 你是学会跟计算机 、 跟机器的交流 ， 一定要对机器要有理解 ， 正确的认识 ， 就像相当于另一个族群一样的了 。 以后智能体或者是这种计算机 、 机器系统 ，也是我们人类社会的一个新的群体了 。 那么每一个人， 不管是什么专业 ， 你必须要学会跟他们打交道 ， 第一要对他们有正确的认识 ，他们能干什么 ，不能干什么 。 语言就是起这个作用嘛 ， 文化交流嘛 ， 要理解对方嘛 ，而且还要相互合作嘛 。 所以现在我觉得这是对的 ， 就是学校认识到这种东西一定要让大学生 ， 所有的人都要对计算机 、 机器 ，以及它们的界面 、 它们的能力 、 它们的历史 、 它们的概念要有正确的认识 ，以后能更好的合作交流 。 所以它现在是变成这个 ， 所以我们要承接这样的教育 ， 要让所有的本科生在港大对这种科学的 、 这个技术的认识 。 实际上这个更广 ， 我个人认为以后 intelligence 会变成一个跟数学 、 物理一样重要的领域 。 为什么呢 ？ 实际上你看看智能这件事情 ， 从某种意义上建议是要分成三个阶段 。 第一就是生物的情况 ， 生物为什么有生命 ？ 我们世界是这个环境是可预测的 ， 它来形成生命的周期 ， 生物才能 survive， 通过对环境的判断反应 ， 它才能 survive。 生命产生也是跟这个世界的规律有关 ， 生命的发展到动物的发展 ， 动物适应环境 ， 动物的行为本身就带有一定的记忆和智能的体现 。 然后第二阶段就是人， 从人开始发展 ， 智能开始发生一个胚要 。 当然是从原始的智能 ， 动物的 level 的智能 ， 现在杨乐坤不是说嘛 ， 现在的智能还不到动物嘛 ，他在那个推特上在闹嘛 ，而现在的这些大模型还不如动物呢 。 今天我跟你讲半天的就是这个意思 ， 我们也知道它实际上是不完整的 ， 都不自主的 ， 还没到动物的这种能力呢 。 第二就是人， 人开始发展 ， 尤其是开始有手 、 眼 、 脑 ， 开始实现 general purpose 的东西了 。 我们是教机器人的 ， 我们都知道为什么人型机器人， 两个腿走路从来就不是目的 。 **曼祺** [1:44:28] 解放双手才是目的 。 **马毅** [1:44:30] Exactly， 就是我们只要懂一点历史 ， 懂这个常识性的东西 。 我们两个腿走路是因为我们先就是四肢 ， 对不对 ？ 我们没有办法 ， 只有两个动物是两个腿走路 ， 一个是鸟 ， 一个是人。 为什么 ？ 都是为了进化 something different。在以前是不需要 ， 鸟也还是单一功能 ， 所以鸟的智能不发展 。 你发现为什么人的智能发展了 ？ 这个东西不是 single purpose 了 。 **曼祺** [1:44:50] 嗯 ， 这个我之前有听到过相似的观点 ， 大概就是说灵巧手是具身智能的明珠什么的 。 **马毅** [1:44:56] Exactly， 就是你看我们过去在 Berkeley， 我们做的东西全部就在做手 ， 能把手做好 ， 这是最重要的 。 为什么手促进智能 ？ 很简单 ，因为爪子和蹄子 ， 它只有一个功能 ， 它不需要 generalization。 手开始要操作不同的物体 ， 所以才要记忆 ， 对不对 ？ 我上次抓这个东西 ， 下次抓另外一个东西怎么抓 ， 才有 muscle memory。 而且手是要处理不同的物体 ，而且要完成多种功能 ， 所以才刺激了大脑的发展 ， 我们的这个反馈才逐渐减少的 。 所以大家把本末倒置 ， 说两个腿走路 ， 实际上两个腿走路是一种 sacrifice， 我们牺牲了稳定性 ， 又牺牲了速度 ，但是换来了这个 ， 这才是最最重要的嘛 。 所以两个腿你要走得快 ， 那四个腿不是跑挺快吗 ？ 而且上山下乡的跑得比谁都快 ，而且又稳定 。 人跑得过狗吗 ？ 跑得过老虎吗 ？ 跑不过 ， 对不对 ？ 而且在山上跑起来 ， 两个腿是一点优势都没有的 ， 又不稳 ， 崎岖不平的地方 ， 你看哪一个去月球的是两个腿的 ？NASA 的都是八个腿的 ， 蜘蛛的这种 ，他们做的这些都是腿越多越稳 ， 越好控制 。 比如有些东西一弄起来 ， 一弄东西什么热或者炒着起来 ， 连常识都不要了 。 我们从技术的角度不太看得懂 。 **曼祺** [1:45:57] 您说现在一些被认为最聪明的人 ，他们连基本的常识都没有 ， 你指的就是这种现象是吧 ？ **马毅** [1:46:02] 对 ， 我觉得很简单一个道理 ， 人应该开始有立场 ， 就没有常识了 。 所以我在推特上说了一句狠话 ， 当然得了很多人不高兴 ，但是他们闹得太凶了 ，而且开始 embargo 嘛 ， 第二轮又来了 ， 然后到 10 月份又 embargo 来 。 我跟杨乐坤都是非常反感这个事情 ，但是我们还签了一个 letter 嘛 ， 大学的一些教授说政府不能管 ， 这个应该开源开放 ， 支持 AI 的研究 。 为什么这些人会做这个事情 ？ 我当时在 Twitter 上就说了一句话 ， 我说 AI 以后可能会有危险 ，OK，who knows？ 但是对说现在 AI 有危险的人， 要么就是无知 ， 对现有的做的东西他不知道做什么 ， 要么就是有其他的目的 。There's only two possibilities。 **曼祺** [1:46:37] 我看您前不久发微博说 ， 学术攀登路上最后一段路是最难的 ， 新白领者办 90。 您这个是指什么样 ？ 您是感到自己现在在这个状态之中吗 ？ **马毅** [1:46:46] 是啊 ， 就是到最后这个阶段是很困难的 。 你看过去这几年实际上是蛮辛苦 ， 就是说你如果真的是看到现有的东西一些不足 ， 或者看到一些正确的一些方向 ， 除了你即使在原理上， 甚至数学上， 或者是在算法上能够给大家 ，但是你最后要让大家真正意识到你的价值 ， 这件事情非常非常不容易 ， 甚至要学习一些做一些你自己以前都不具备的一些能 力 。 因为做学问的人总是 self doubt， 我们有时候说嘛 ， 无知者无畏嘛 ， 懂得越少的人越觉得自己 confident。 我们在做研究的时候 ， 过程中自然是自己是非常 self-critical 的 ，其实越到后面遇到一些小的不足的时候 ， 你就会越怀疑自己在 are you missing something。 所以有这样说的一些人， 你就不要相信权威 。 我们每个人很可能一辈子 we are lucky we may beright about one or two things。 那包括我自己 ， 就是说包括我们做的东西 ， 哪些东西会 miss 掉 ， 哪些东西真的是还不够 ， 包括比如说我们看到的框架 ， 那怎么实现呢 ？ 你怎么把这个实现高效呢 ？ 真的能带来比原来的经验设计方法真的是最基本 ， 就还有不足的地方吗 ？ **曼祺** [1:47:44] 您觉得现在您的这个框架里面 ， 可能什么地方是不足的 ， 或者是漏洞 ？ **马毅** [1:47:48] 我个人认为啊 ， 我们现在大的框架是可以 ，但是具体我正在写书的在做这个事情 ， 实际上我都可以给你看一看 。 最后我再讲两件事情 ， 再讲完历史 ，也再梳理一下历史 ， 过去 20 年发生什么事情 ， 那么现在发生什么事情 ， 那么将来会发生什么事情 。 我会提两个 ， 当然这还没完 ， 很早很早 。 一个就是说现在我们大概明白记忆或者从数据里面学习结构这个事情 ， 基本框架是什么 ， 这是对了 。 但是我们知道人在动物的记忆和改进记忆适应的这个机制上， 逐渐的连接出了更 high level 的 ， 实际上这就是人工智能的 。 你看 50 年代这帮人为什么要加上 artificial 这个字 ， 讲智能不就完了吗 ？ 为什么要加上 artificial 这个形容词 ？ 大家想过没有 ？Was that the intelligence 不很 noble 吗 ？ 你去看看他们那个讨论的问题 ， 为什么他一定要是 distinguish something？ 所以现在有时候大家去好好讨论一下这个问题 ， 年轻人从来不想这些问题 ， 实际上它是为了 describe 把人和动物的智能分开 。 **曼祺** [1:48:44] 所以它这个不是人造的意思 ，而是指人类的智能中高级的部分 。 **马毅** [1:48:48] 对了 ， 你看它 cybernetics 的 subtitle， 就是 on the communication and control in the machine and animal。 所以它是不把机器和动物分开 ， 它在研究动物那一层的 ， 主要是反馈记忆机制 ， 怎么 encode information， 怎么做反馈自我学习 ， 这是动物就有的特点 。 所以这就是在做记忆 ， 就是生物在做学习 ， 对外部世界建模 ， 动物在对外部世界进行记忆 ， 怎么纠正自己错误 ， 老鼠动物都具有的智能 ， 它在研究这个东西 。 所以包括博弈 ， 这都有 ， 这就是智能底层的系统 ， 记忆系统 ， 怎么改进自己记忆就具有的机制 。 所以这帮人不是搞这个 ， 这帮年轻人他就想跟人这个不一样 。 所以我经常说嘛 ，this artificial intelligence is not that artificial intelligence， 就是我们过去 10 年用的这个词 ， 我们过去 10 年是在做这一层的事 ，但是实际上这帮人讲的是符号 、 因果 、 逻辑 、 推理 。 **曼祺** [1:49:39] 你刚才说现在很奇怪的是年轻人不去看这些东西 ， 那你们当年求学的时候 ， 你们很年轻的时候 ， 你们会去 ？ **马毅** [1:49:45] 当然了 ， 原来的东西还是比较 deductive 嘛 ， 比较归纳 ， 还是会看这个历史 ， 会看一个领域的传承 。 **曼祺** [1:49:51] 为什么它这个课程变化了 ？ **马毅** [1:49:52] 不是变化 ， 我觉得这还是文化 。 过去 10 年一下子大家发了那么多论文 ， 每年有好几个 cycle， 大家就看看去年、 前年开源的是什么东西 ， 用一用改一改 。 就是说现在过去这个氛围啊 ， 文化变了 ， 尤其是计算机 ， 后来都是通过开源文化嘛 ， 大家都是看看最近发生了什么东西 ，有什么东西拿来用一用 ， 改一改 ， 评一评 ， 它变成这种文化 ， 它不再去看就以前的 。 很可能以前理论东西没有开源的实现啊 ，但它原理东西它就不去看了 ， 它就看别人已经实现了什么 ，在别人基础上继续修改拿来用 ， 这种拿来主义就有这个影响 。 所以这些东西呢 ， 对文化和品位是产生很大的影响 。 **曼祺** [1:50:25] 那像你们年轻的时候 ， 这种东西是在本科阶段就学习了 ， 还是 ？ **马毅** [1:50:28] 对 ，以前的训练肯定是 ， 尤其是我在清华控制系出身的嘛 ， 就是我们对数学啊 ， 或者是一些基本原理 ， 这个信息论 、 控制论这些还是学得比较扎实 ，因为学系统控制论的人是有个系统的观念 ， 我们不会只看一个局部 ， 我们往往会看整个系统 ， 它有哪些成分 、 因素和 component。 **曼祺** [1:50:45] 所以计算机系的本科不包括这些课程吗 ？ **马毅** [1:50:48] 对了 ， 我觉得它还是一些单一的工具用得多一些 ， 算法用得多一些 ， 它没有一个完整的系统的观念去看这个问题 ， 这个还是我们现在的 AI 也好 ， 这些教育比较迫缺的 。 所以我们现在希望本科的教育要重新把这些东西要给大家更加完整整体的 。 所以你也看到这些都是 40 年代大家研究智能的时候大家提出来的 ， 这个信息怎么 encode decode， 实际上都是现在文本图像生成文本 ，不就在干这个事情吗 ？ 都是在做文生图图生文嘛 。 而且 Shailal 跟他老婆最喜欢玩的游戏 ， 就是给你上半句预测下半句 ， 就是 GPT， 就是数据怎么去判断预测 ， 然后纠错 ， 包括图灵机图灵测试 ，不就是为了区分机器和人吗 ？ 那个时候大家都关心智能是怎么回事 ， 智能的机制是什么回事 ， 只是到了后面大家就忘掉了 。 实际上这些 artificial intelligence 实际上做的事情是有一定错位的 ， 倒不说是完全的 ， 虽然这是我们大家奋斗的方向 ， 都是要朝着更高级的智能去发展 。 但是至少目前为止 ， 现在的包括 GPT， 尤其是英国逻辑这些推理还是非常糟糕的 。 现在上周有个 AI forum 嘛 ， 就是上海 AI 实验室和微软亚研院 ， 还有我们这边三方合作举办的一个论坛 ， 就是发现嘛 ， 现在的实际上 GPT 它们在因果推理上基本上就是 random guess 这种水平 ， 就在一些 benchmark indoor 推理这方面的 ， 稍微综合一点的测试上基本上都是 random guess。 **曼祺** [1:52:05] 我想问一下就是您觉得还有什么没有问到的 ，但您特别想说的事情吗 ？ **马毅** [1:52:09] 反正我觉得现在就是有一个过程 ， 学术界也好 ， 还有教育界也好 ， 尤其是产业界也好 ， 当然也配合媒体 ， 大家对一些科学东西的认识 ， 这个要一起来负责了 。 实际上包括我自己现在也在想多做一点 ， 科学竞争说白了就一条人 ，其他没机器都给你造出来 ， 你最后真正的竞争就是人才竞争 ， 你没有这个 ， 实际上都别想 ， 什么投钱啊 ， 买机器这都是小事 。 像图灵这种人没东西他也给你造出来 ， 你关键是这些正确的人有没有能够配置资源 ， 这件事情可能是最防着门头的 。 包括我做这个公司也是希望就是说我们产业投资能不能把这些资源聚焦到真正有这些能力的年轻人。 --- 本节目库由 PodHood（https://podhood.com）提供支持——播客网站平台。