PODCAST · 晚点聊 LateTalk

2025 年 12 月节目

3 期 · 3 期带分节

  • 12-26146: Gemini 3翻盘背后、Agent需要什么大模型、RL创业机会|与前 Google 创业者、硅谷投资人聊湾区动向
    1. 06:11AI 进入实用工作：OpenAI 的 GDPval，Databricks 也发布了 Office QA
    2. 14:25GDPval 在主流知识工作上表现优秀，但基础模型处理长尾问题的 gap 始终存在
    3. 19:09Gemini 3 后，OpenAI、Anthropic、Google、各自的进展
    4. 22:15NotebookLM 和 Nano Banana 策源地——Google Labs，不仅招工程师，也有主编、作家、创作者
    5. 24:54DeemMind 研究员 Orio：Gemini 3 的秘密？预训练还有很多空间；TPU 对 Google 训练的加持
    6. 26:34Google 的 3 层协同优化：从 TPU 到 Infra 到模型；模型和应用；数据和硬件 surface（终端）
    7. 30:18Google TPU 已经更多对外，这对英伟达 GPU 优势的影响
    8. 38:02回顾组织变化：DeepMind 和 Google Brain 的合并与磨合
    9. 43:31垂类的机会：弥补基础模型到具体问题的差距；水平的机会：调度层、数据层、工具层都有新公司涌现
    10. 50:17技术新趋势——自我演化：RL、用 RAG 加长记忆有人尝试，但远不是成熟方案
    11. 53:32「可训练的工具层」背后的技术变化：code 驱动工具，如 Anthropic 的 PTC（Programmatic Tool Calling）
    12. 59:44RL 创业方向：RL 环境，RL as a Service，RL 应用
    13. 01:08:47Agent 开发者挑选模型的前置条件：用什么云（比如 Azure 客户用不了 Gemini），再看云厂商折扣
    14. 01:12:20Anthropic 的 Claude Code 已成为 Agent 核心，刚发布的 Promatic to Call 探索新开发范式
    15. 01:17:13开源模型使用体验：Qwen 很棒；驶往 NeurIPS 的飞机上，1/3 人在看 DeepSeek-V3.2 技术报告
    16. 01:22:04选择模型时，关注什么 benchmark & 为什么？
    17. 01:29:34模型优化方向预测：加入大量 agent trace 的开源模型，更强的多模态，长程任务优化
    18. 01:38:58连点成线：往期节目推荐
  • 12-17145: 极壳孙宽：首个「消费级外骨骼」的诞生
    1. 03:05《攻壳机动队》、90 后的科学幻想、技术是魔法
    2. 13:25第一份工作：从轮岗 3 年到模块化 PC 的内部创业
    3. 18:27一次误诊后回到初心：做一件做着做着挂了的事也不会后悔
    4. 26:511 人公司手搓原型，一度账上只有 20 万元人民币
    5. 40:06做“真有用”的消费级外骨骼：拉高核心正面效果，尽量降低负面影像
    6. 49:41推倒第一代方案，用户体验比新架构重要
    7. 01:04:27正式交付 Hpershell X，有人日行 7 万步，有人重返户外
    8. 01:09:11从成立到第一款产品，40 个月；第二代产品，5 个月
    9. 01:05:08从 1 人公司，到 4 位联创和 200+团队
    10. 01:25:47对拓竹组织的观察：好的人，希望身边都是好的人
    11. 01:32:52品类跨越鸿沟：营造向往、价格、自研、形态拓展
    12. 01:49:47组织跑得更快
    13. 01:56:22创业治好了我的“死亡恐惧”。
    14. 01:59:53广义的外骨骼，最终是让我们的身体可编程。
    15. 02:05:40连点成线：后记 & 往期节目推荐
  • 12-11144: “大而强”到“小而强”|与刘知远、肖朝军聊密度法则、RL 的 Scaling Law 和智能的分布式未来
    1. 02:09Gemini 3 和 Nano Banana Pro 的启发：统一的“自回归式视觉+语言生成”即将突破
    2. 04:31大模型演进的两条主线：能力和效率
    3. 10:23和摩尔定律一样，“密度法则”是行业现实，也是“自我实现”
    4. 18:43每 3.5 个月，大模型的能力密度翻一番
    5. 21:012023 年下半年的抉择：花几千万再训一个更大的模型，然后呢？
    6. 27:08架构、数据、算法、软硬协同优化
    7. 30:41(1) 架构：MoE (混合专家系统) + 注意力机制改进
    8. 34:28(2) 数据治理：Ultra-FinWeb 用 1/10 数据量达到更好效果
    9. 40:24(3) 算法：RL 还没有 Scaling Law，接下来可能有两条路
    10. 49:21(4) 软硬协同优化
    11. 52:02InfLLM-V2 的核心更新：把稀疏注意力做到预训练阶段
    12. 55:18注意力改进趋势：长文本不仅是长输入，更多关注“长输出”
    13. 58:535 年内，手机可跑 GPT-4~5 级别的模型
    14. 01:06:23大模型在汽车上已开始量产落地
    15. 01:10:34“别人得到的，不一定是你失去的”，AGI 既会发生在云端，也会发生在终端
    16. 01:15:07未来入口也许不是手机，而是属于每个人的移动计算终端
    17. 01:17:40自主学习→AI 协作网络→真正的创新
    18. 01:21:042023 年初，有巨头说世界上只会拥有几个大模型，就像 1943 年，IBM 董事长曾说全球不需要超过 5 台主机
    19. 01:24:46AI 助手帮成为更好的工作者
    20. 01:28:53不担心生产过剩，未知领域还太多
    21. 01:31:39机器制造机器，AI 制造 AI
    22. 01:40:01☆连点成线