PODCAST · 张小珺Jùn｜商业访谈录

2025 年 2 月节目

6 期 · 6 期带分节

  • 02-2394. 逐篇讲解DeepSeek、Kimi、MiniMax注意力机制新论文——“硬件上的暴力美学”
    1. 01:19:14Kimi最新论文《MoBA: Mixture of Block Attention for Long-Context LLMs》讲解论文中文名：《MoBA：面向
    2. 01:44:42MiniMax春节前的论文《MiniMax-01: Scaling Foundation Models with Lightning Attention》讲解论
    3. 02:30:07最后强化学习一下【技术之美】系列：
  • 02-2093. 离开字节、MiniMax的张前川，发出AGI对人类威胁的预警
    1. 03:39搜索引擎、拉里·佩奇和俞军
    2. 17:352005-2025，过去20年，内容分发产品的演化历史和内生逻辑
    3. 24:28推荐引擎、今日头条和张一鸣
    4. 28:28小红书在推荐引擎范式的延长线上吗？为什么小红书不是字节做的？
    5. 39:29微信送礼物的功能maybe对于小红书更有意义
    6. 42:50泛化如水流有方向：女生向男生，年轻向年长用户的泛化更容易
    7. 52:00面试时张一鸣问我的问题
    8. 54:10AI是人类的最后一个发明，加速度无限大
    9. 57:00把AI当目的 vs 把人当目的（更多公司是在for AI的目的？）
    10. 01:09:08Agent就是“baby阶段的AGI”
    11. 01:19:56人类灭绝的n种可能性（人利用AI灭绝人类/AI有意识的灭绝人类/AI无意识的灭绝人类）
    12. 01:24:30人类如何幸福生存下去？
    13. 01:26:03如果AI产品收费模式是付费制，大部分人类会逐渐失去和AI的连接
    14. 01:40:21AGI公司的承诺和制度安排
    15. 01:58:48人类不要逃避危险本身而逃避思考
  • 02-1792. 和张亚勤院士聊，意识、寿命、机器人、生物智能和物种的延伸
    1. 03:57微软怎么管理亚洲研究院？目标如何设置？
    2. 05:53清华智能产业研究院（AIR）的目标和路径，不做基层通用大模型
    3. 10:45我脑海中的AGI地图：信息智能〉物理智能〉生物智能
    4. 12:40信息智能是大脑的智商，5年内达到AGI水平
    5. 14:25物理智能首先落地是自动驾驶，人形机器人需要10年
    6. 15:51机器人分三类：家庭机器人、工厂机器人、社会机器人
    7. 21:05人形机器人：未来可能每个人有一个你的copy、你的“分身”
    8. 22:25为什么大模型大幅加速了自动驾驶和具身智能的开发速度？
    9. 39:38生物智能：20年实现，人的寿命更长，诞生新物种
    10. 45:56构想10年后的世界
    11. 51:27最后推荐两本书
  • 02-1191. 逐篇讲解DeepSeek关键9篇论文及创新点——“勇敢者的游戏”
    1. 45:48《DeepSeekMoE: Towards Ultimate Expert Specialization in Mixture-of-Experts Langu
    2. 01:06:40《DeepSeek-V2: A Strong, Economical, and Efficient Mixture-of-Experts Language Mo
    3. 01:40:17《DeepSeek-V3 Technical Report》技术讲解
    4. 02:12:16《DeepSeek-Coder-V2: Breaking the Barrier of Closed-Source Models in Code Intelli
    5. 02:47:18《DeepSeek-Prover: Advancing Theorem Proving in LLMs through Large-Scale Syntheti
    6. 02:52:40《DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learn
    7. 03:01:419篇论文到这里都讲完啦！最后我们一起强化学习一下！关于强化学习往期节目：
  • 02-0790. 朱啸虎又来了：中国现实主义AIGC故事的1周年连载
    1. 03:08这是对领先者的curse、诅咒
    2. 05:21闭源模型还有没有价值？是很严峻的灵魂拷问
    3. 06:0020天做到2000万DAU：DeepSeek是全球App增速历史第一，不需要任何限定语
    4. 07:00梁文锋觉得，意识不一定是一个非常高技能、高门槛的事情
    5. 11:19不用担心在别人的地基上盖房子，对AI应用公司是极大的解放
    6. 14:40初始语料需要博士级别、各个领域专家级别的人来打标签
    7. 15:53DeepSeek这次唯一没有公开的可能就是预训练语料
    8. 17:40OpenAI成本很高，如果不能持续保持领先，挑战会挺大
    9. 18:09中国大模型公司都需要重新思考
    10. 20:05今天的DeepSeek是追赶者还是创新者角色？
    11. 21:02怎么看梁文锋？梁文锋是你的反面吗？
    12. 21:40我肯定会投啊！我肯定会投！——这个价格已经不太重要了，关键是参与在这里面
    13. 22:59我今天上午和梁文锋说，R1可能会被认为是机器AI意识的元年
    14. 24:00至少搜索肯定是被彻底取代了——这是毫无疑问的！
    15. 26:14AI产品的数据飞轮价值不大，这是我这两年最大一个教训
    16. 27:51如果你是DeepSeek CEO，你当下最关切、最紧要需要解决的问题是什么？
    17. 31:32怎么看特朗普上任第二天宣布的Stargate（星际之门）项目？怎么看英伟达？
    18. 33:29“朱啸虎们”怎么看待“梁文锋们”？
    19. 34:07复盘1年前《朱啸虎讲了一个中国现实主义AIGC故事》里的观点，哪些被打脸？哪些更坚定？
    20. 36:16尤其在中国，你可以假设底层模型是免费的！
    21. 37:07回顾2024年的大模型行业，你会把哪些时刻当作关键节点？
    22. 40:45字节今天如果马上改开源追赶，那也不太容易
    23. 41:30今年会不会看到通义千问把自己的生态向DeepSeek兼容，这样一个标志性事件？
    24. 42:08点评新出现的AI产品（包括但不限于Perplexity、Cursor、Devin）
    25. 47:39聊小红书、具身智能、杭州和理想汽车
    26. 52:26现在全世界就只有中美有AI能力，出海都是Low-Hanging Fruits（低垂的果实）
    27. 52:57我今天看到在新加坡的泡泡玛特，买盲盒还要配货，你想到吗？！买盲盒都要配货！！
    28. 55:30答DeepSeek问
    29. 59:50最后的快问快答
  • 02-0489. 逐句讲解DeepSeek-R1、Kimi K1.5、OpenAI o1技术报告——“最优美的算法最干净”
    1. 33:03DeepSeek-R1-Zero and DeepSeek-R1技术报告《DeepSeek-R1: Incentivizing Reasoning Capabi
    2. 35:24摘要（Abstract）
    3. 37:39导论（Introduction）
    4. 44:35发布的两个模型中，R1-Zero更重要还是R1更重要？
    5. 47:14研究方法（Approach）
    6. 48:13GRPO（Group Relative Policy Optimization，一种与强化学习相关的优化算法）
    7. 57:22奖励建模（Reward Modeling）
    8. 01:05:01训练模版（Training Template）
    9. 01:06:43R1-Zero的性能、自我进化过程和顿悟时刻（Performance, Self-evolution Process and Aha Moment）
    10. 01:14:52模型能涌现意识吗？
    11. 01:16:18DeepSeek-R1：冷启动强化学习（ Reinforcement Learning with Cold Start）
    12. 01:24:48为什么同时发布两个模型？取名“Zero”的渊源故事？
    13. 01:28:51蒸馏：赋予小模型推理能力（Distillation: Empower Small Models with Reasoning Capability）
    14. 01:35:27失败的尝试：过程奖励模型（PRM）与蒙特卡罗树搜索（MCTS）
    15. 01:42:33DeepSeek-R1技术报告是一片优美精妙的算法论文，有很多“发现”，这是它成为爆款报告的原因
    16. 01:43:50对DeepSeek-R1训练成本的估算：
    17. 01:49:05KIMI K1.5技术报告《KIMI K1.5:
    18. 02:20:07DeepSeek论文的结尾谈未来往哪里发展？
    19. 02:24:35以上是三篇报告所有内容，接下来是提问时间，我们继续强化学习一下！“数据标注”在几篇论文中藏得都比较深，小道消息OpenAI一直以100-200美元/小时找博士生