马毅

108: 与马毅聊智能史:“DNA是最早的大模型”，智能的本质是减熵

2025年3月17日 · 2:18:18

香港大学计算与数据科学学院院长马毅在《晚点聊》中提出，智能是生命对抗熵增的机制，DNA是最早的大模型，35亿年历史中它从DNA进化、神经系统个体记忆、语言文化演进到数学科学，因此机器智能的起点应回溯至1940年代维纳的控制论和香农的信息论，而非1956年达特茅斯会议。他认为知识本身不是智能，智能是获取和更新知识的能力，当前大模型仍停留在类似DNA的强化学习阶段，缺乏闭环反馈和自主纠错，OpenAI o1和DeepSeek-R1的推理更像刷题式的记忆模仿，而非真正的逻辑推理，甚至不如猫狗的适应能力。他预言开源模型终将超越闭源，DeepSeek式突破只是where and when的问题，不是if or not的问题。谈到技术品味，马毅强调它来自探索未知的价值观和严谨科学训练，并透露自己引用最多的成果一度没有任何会议接收，博士毕业时也找不到对口教职。他正在推动港大面向所有本科生的AI通识教育（以一门英语课为代价），并通过忆生科技研发白盒大模型和闭环纠错机制，认为人脑是并行结构，闭环系统才能应对开放世界，而端到端VLA未必是具身智能的正确解法。智能在熵增宇宙中只是短暂过程，但对抗熵增本身就构成生命的意义。

71: “如果相信只靠 Scaling Laws 就能实现 AGI，你该改行了”，与香港大学马毅聊智能

2024年6月11日 · 1:53:00

本期《晚点聊 LateTalk》的嘉宾是香港大学计算机系主任、数据科学研究院院长马毅，他与主持人程曼祺的对话围绕“智能”展开，尖锐质疑当下主流的大模型路线。马毅的核心观点是：只靠 Scaling Laws（更多数据、更大算力、更大参数）无法实现 AGI，因为深度学习网络本质上都在做“压缩”——从图像、声音、语言等高维信号中寻找低维结构和规律；GPT 表现出的数学推理仍是记忆和统计，如同“高分低能”的填鸭式学生，学不到因果与逻辑。他区分了知识与智能：知识是存量，智能是增量，智能的本质是能纠正已有知识的不足并增加新知识。为此他提出“简约与自洽”原则，并用白盒模型（ReduNet、CRATE）从数学上解释神经网络每一层在做什么，称其已接近甚至超越经验设计的网络，能显著降低算力与试错成本。他还批评 AI 威胁论“要么无知要么别有目的”，主张政府应监管技术应用而非技术本身，并透露已创立公司“益生”推动白盒技术产业化；同时梳理了从控制论到深度学习的历史，强调闭环、自主学习和 AI 通识教育的重要性。