meng shao

论中文的博大精深！ 中文表达的留白确实太大了，确定性不高。。 上个月有个异地的面试，本来想线上面试，结果对方 HR 说想让 CEO 有更直观的沟通，建议去现场，并说明 “过来打车可以报销” 作为咱中年失业人群，姿态还是要足够低的，让去就去呗，往返路程 6 小时、到了在前台等了 1 小时、面试。。1小时，面试前 CEO 有事一直等，面试中 CEO 有事提前撤了 😂 这还没完，等回来后报销往返车费时，HR 说：“我们只报销过来的车费”，返程的车费不报销。。。 行吧，又一次坑在了审题上，语文不好的毛病，从小一直跟到现在。

浙大团队发表了一份开源个人 Agent 系统报告，以 Meta Muse 为对照，定义「个人 Agent」该长什么样，还开源了他们的 nanoMuse 论文在这：https://huggingface.co/papers/2610.08699 项目在这：https://nanomuse.cn/

Karpathy 久违发帖：AI 替你干活之后，你的新工作是"读懂"它 LLM 承担的执行工作越来越多，人的工作会转向监督和理解。这样一来，瓶颈不再是"产出"，是"人能不能高效地读懂产出"。Karpathy 的建议是：主动指定输出形式，让模型把内容做成最容易理解的样子。 他给出了四级递进的输出形式 每升一级，信息密度和理解效率都更高，生成成本也更高： 1. 受控语言写作（ASD-STE100） 解决：文字冗长、含糊 2. 图示 解决：线性文字难以表达结构与关系 3. HTML 网页 解决：静态内容无法交互、探索 4. 定制讲解视频 解决：复杂概念需要时间维度上的引导，也是 Karpathy 最看好的形式 这也带来了两个思考： 1. 人的角色上移。 执行交给模型，人负责监督、判断和理解。所以"理解效率"会成为新的关键能力，值得专门优化。 2. 一次性软件的经济性。 智能和代码变得充裕，生成成本趋近于零。过去为一个问题专门做网页或视频不划算，现在可以按需生成、用完即弃。这改变了"什么值得做"的成本判断。

同中年失业，帮每位找工作的朋友转发！

https://x.com/i/article/2109541953155313664

Andrej Karpathy 认为：人们对 AI 能力的认知，正在分裂成四个层级；越往里的人，看到的越不可思议 第一层：~60 亿人（约 75%），几乎没有接触过 LLM 第二层：~10–20 亿人（约 20%），偶尔用免费版 ChatGPT，视之为“更好的谷歌搜索”或写作助手「许多非技术背景的高管也停在这一层」 第三层：~2000 万人（0.2%），在数学与代码领域专业使用前沿模型，亲眼见到原本需数周甚至数月的大项目，现在一次提示就能由 agent 完成 第四层：~5000 人（约 0.00006%），能在内部接触最前沿系统：数千个 agent 协作数周，执行软件巨型项目、零日漏洞挖掘、网络攻防、发现新科学、推进数学前沿「人类的审阅速度已经跟不上产出」 漏斗为何形成？三个结构性原因 1. 影响力随问题规模扩展：你让 AI 做的事情越大、越有野心，感受到的能力差距就越大。用 AI 查菜谱和用 AI 建造复杂系统，看到的是两个完全不同的东西。 2. 能力的“锯齿状”：LLM 的能力分布极不均匀：在数字化、可验证、有明确经济价值的领域（代码、数学）最强，在模糊、主观、缺乏反馈信号的领域则弱得多。处于不同工作场景的人，摸到的是这把锯子的不同锯齿。 3. 访问权限分层：免费版 / 付费版 / 内部前沿系统，物理上就是不同的产品。绝大多数人终其接触到的，只是能力光谱的最底端。

Pi 1.0 终于正式发布，同时 @pidotdev 团队还首次推出了一个实验性姊妹项目 Pi Durable Pi 1.0 的发布，也代表着它从 “快速迭代的产品” 转变为 “个人和企业可以依赖的稳定软件”。团队认为 harness 的长期竞争力来自可靠性和可扩展性，而非功能清单的长度。这与 Unix 哲学、以及 SQLite、SQLite 风格的“小而硬”软件的传统一脉相承。 Pi 1.0：https://earendil.com/posts/pi-1-0/ # 看看 Pi 1.0 这几项重要功能 1. Codemode：Pi 的编码智能体模式。1.0 原生支持了 MCP，这本身就是“等到协议被证明持久才纳入”的一个例证。更有意思的是它支持非 LLM 模型：Jev 以及图像模型，还演示了让 Codemode 总结一周的 git 提交历史。 2. 虚拟模型的扩展支持：这是技术上最值得注意的一项。它允许把多个模型组合成一个“虚拟模型”，文中的示例是：Claude Opus 负责规划，GPT 负责实现，由 Jev 决定何时切换。这代表了智能体架构的一个方向：不再把“用哪个模型”当成一次性配置，而是把模型分工本身变成可编程的对象。 3. 延迟工具加载：工具定义不在会话开始时全部注入上下文，而是按需加载。这直接针对智能体开发中一个日益突出的痛点，上下文窗口被工具定义占满。这对长会话和工具密集型任务的实际价值很大。 4. Anthropic 模型的缓存预热：配合文中的 /session 命令（可报告每个模型的成本和缓存使用情况）来看，Pi 在认真对待成本工程。随着智能体会话越来越长，提示词缓存已成为控制成本的关键手段，主动预热缓存是相当务实的优化。 5. 会话中途系统消息：允许在对话进行中修改提示词和工具集，且是“感知转写内容”的（transcript-aware）。传统 harness 的系统提示词基本是固定的，这个能力使得长时间运行的任务可以在中途被重新引导，这对上面提到的 Pi Durable 的长期任务场景是基础能力。 6. TUI 新主题与默认全屏模式：常规的界面打磨，服务于“日常主力工具”的定位。 Pi Durable：这篇公告里真正的战略动作 有些需求确实“装不进 Pi 原来的形态”：用户希望它离开终端、离开编码智能体的场景，支持更长生命周期的对话与任务，并且可以从不同的界面触达。作者的结论是 Pi "must become more durable"。 关键在于他们没有把这些塞进 Pi 本体，而是做成了独立的实验性包。这恰好是文章哲学的一次自我印证：不为了增长而稀释核心产品，用“另起炉灶、共享原则”的方式扩展。Pi Durable 被描述为“构建长期运行智能体应用的新基底”，延续极简与“超强可塑性”，并配有独立安装方式和一篇配套文章（由 @badlogicgames 撰写）。 Pi Durable：https://earendil.com/posts/pi-durable/ 从行业视角看，这是一个真实趋势：智能体正从“一次会话完成任务”走向“常驻、跨界面、可持续委派”的形态，而这正是现有编码智能体工具的结构性短板。Pi Durable 是对这个方向的早期押注。

假期第二天，继续学习阿里发布的「AI Native 研发范式实践手册」 今天细看「企业级 AI 研发基础设施」这一章中最重要的「企业级 Agent Harness」 从大型企业内部视角，把很多平时熟悉或不熟悉的技术点串起来，算是系统复习吧(主要是陪孩子上课有连续时间 😂) 在常规的 Agent Harness 运行机制之上，企业软件怎么跟它做集成，企业安全能力怎么正确适度的运行发挥作用，是主要差异。 企业软件的集成分为两种: 程序性机制和模型推理机制，给 llm 提供指引和外部运行能力。 企业安全能力主要从三个方面发挥作用: 身份 - 识别不可信输入，阻断恶意诱导 审计 - 在行动前进行动态审查 权限 - 以最小权限约束实际运行

反复学习 Lee Robinson 斯坦福 CS146S 讲座 这回主要看 Grok Bot 的 Harness 和上下文工程是怎么构建的。前段时间 Claude Code 源码泄露、CodeX 开源等等，让我们了解到了 Coding Agent 的架构和工作模式，那 Grok Bot 和 Muse 这种 Personal Agent 有什么不同呢？ # The Harness ① 单工具协议：客户端与服务器之间只有 "send to user" 这是 GrokBot harness 与同类产品最大的架构差异。所有重工具「shell 命令、文件读写、云端 agent、录屏、demo 制作」全部驻留服务器；客户端唯一的通信原语就是“发给用户”。收益是双重的：服务端上，无论客户端是手机 App、桌面端、邮件还是 Slack，都复用同一套工具层；客户端上，收到这个工具的返回后可自行决定渲染方式，登录表单（接 1Password）、支付（Stripe Link / XMoney）、不可逆操作（发邮件）前的草稿审批、甚至只用一个 emoji 回应。“逻辑在服务端、表现力在客户端”，一个工具同时换来了架构简洁与交互丰富。 ② 动态工具发现（"tool search tool"） 把 Gmail、Drive、YouTube 等所有 MCP 连接器的完整工具 schema 塞进上下文，工作记忆就所剩无几。解法是上下文里只放工具名，模型决定使用时再从文件读取完整定义；又是“一切皆文件”的延伸。省下的上下文直接转化为更低成本与更大工作空间。 ③ 逐级升高的求助阶梯 原则：永远先试最便宜、最可靠的选项。会话历史 → 插件/MCP/API（如 Plaid 查银行）→ 网页搜索 → 浏览器操作 → 整台 Linux 桌面跑脚本 → 全部失败才去打扰用户。电脑端读取信息同样分层：截图 → HTML → 无障碍树（大幅省 token，且直接定位可点击元素）→ 像素级点击（对付弹窗）→ 退回用户（验证码、双重认证）。这套阶梯的设计目标很明确：让 agent 像一个不烦人的同事。 ④ 编排者 + 子智能体 主 agent 只做 orchestrator，上下文保持稀疏；重活交给拥有全新工作记忆的 helper（子 agent），只回收最终结果；这就是“无限上下文”体验的来源。每个 helper 是独立的持久化工作流（Temporal），崩溃重启不丢进度。主 agent 像管理待办清单的同事：可查看、可留言、可叫停。整体照着“理想工程团队如何扩张”来建模。 ⑤ 四条实战经验与安全底线 · 不要在 turn 中途增删工具（保缓存）；工具 schema 冗长是成本，要修剪； · “单工具”理论上可建模一切，但若模型 90% 时间在跑 shell，就值得做专用工具；更高效，也对审查系统的人更可读； · 写给人类看的描述性错误信息，对 agent 同样有效；错误信息即提示词； · 安全上：模型逐条审查 shell 命令；不可信输入（钓鱼邮件、webhook）绝不能当作用户指令进入模型（提示注入防线）；不可逆操作须用户审批；密码经产品层工作流保持在会话之外。 # Context engineering ① Prompt caching 是成本关键 agent 每轮都要重发全部对话历史，理想状态下大部分 token 应是缓存命中（折扣巨大），只有最新消息是未缓存增量。推论严格：工具定义与系统提示必须跨调用保持静态；prompt 分段固定顺序、近乎做哈希，做 A/B 测试插入新段落时不能打乱其他所有用户的缓存。缓存未命中按 bug 对待。他给出史实佐证：今年 1 月 OpenClaw 在订阅套餐中爆火，这种常驻运行的新用法导致大量缓存未命中，各模型厂商被迫紧急加固。最精巧的一招：用户刚打开聊天框开始打字时，服务器就提前构建 prompt 预热缓存，如同网页在 hover 链接时预取下一页。 ② 压缩的时机选择 长程运行的必然终点是压缩，而所有压缩都有损（“这一个问题够写好几个博士论文”）。实操技巧极具体：对话超 10 万 token、用户离开后，要在缓存温热窗口（约 10–60 分钟）内立刻完成压缩；用户半小时后回来时从摘要续聊，成本远低于从全量历史续聊。压缩不是等来了再做，而是抢在缓存过期前做。 ③ 记忆的四层结构 · 核心事实：每条消息必带（如“该用户永远小写”），并做“垃圾回收”；大脑此刻不会想着足球赛，事实层也只保留当下相关的； · 带日期的日志：过往会话的存档； · 便签（scratchpad）：设计上就短暂，只为接下来半小时到一小时服务； · 其余一切靠文件：模型随时 grep 检索，“这就是文件的魔法”。 配合三条纪律：长输出写文件而非塞进上下文、昂贵操作（截图等）一律交给子 agent、持续“园艺式”修剪对话；既为成本，也为召回质量。

https://x.com/i/article/2109468460107571200

斯坦福大学课程 CS329A: Self-Improving AI Agents 学习笔记之「Course Overview」@achowdhery @Azaliamirh 两位老师主讲的自进化智能体课程第一讲，把大模型演进的逻辑链：「规模扩展 → 后训练对齐 → 推理时计算 → 智能体与自我改进闭环」讲述的非常清晰，这也是整个课程的骨架脉络。 第一讲「Course Overview」视频： https://www.youtube.com/watch?v=6YnLB0XbTnI&list=PLangBM27OtEA&index=1&t=3584s 1. 预训练扩展定律（2018–2024） 自 GPT-3 以来，最令人震撼的经验事实是：计算量、数据量、参数量三个轴上，测试损失都可预测地下降。模型规模从 BERT（3.4 亿）→ GPT-2（15 亿）→ GPT-3（1750 亿）→ PaLM（5400 亿）→ GPT-4（估计万亿级）指数级增长。这带来三件事：基准性能持续提升、少样本/零样本上下文学习（无需微调即可通过示例引导模型）、以及涌现能力。其中最重要的涌现是思维链（CoT）：Azalia 强调，小模型（如 8B 的 LaMDA、7B 级 GPT）给了推理链也无济于事，而 PaLM 级别的大模型能真正利用它，这个性质“直到今天仍然成立”，是后来所有思考模型的根基。 2. ChatGPT 的配方 = Scaling + 指令微调 + RLHF ChatGPT（2022 年 11 月，5 天破百万用户）超越 GPT-3 的关键不是更大，而是后训练流水线：预训练（下一词预测）→ 高质量数据微调（公司花数亿美元购买的书籍、精作文本）→ 指令微调（指令-问答对，含 CoT 微调，人工+合成数据）→ RLHF（人类对模型输出做偏好排序，训练奖励模型，再用 RL 将模型参数导向高奖励生成；奖励可按正确性、有用性、无害性等加权）。 3. 推理时扩展：约一年半前开启的新前沿 这是全课技术上最重的部分。Azalia 介绍了她实验室的工作 Large Language Monkeys（名字取自“无限猴子定理”）：让模型对同一问题并行采样最多 1 万次，再用验证器（如单元测试）挑出正确答案。核心发现： · 覆盖率（至少一个样本解出问题的比例）随样本数呈对数线性增长； · Llama 3 8B/70B 单样本不如 GPT-4o，但采样足够多次后反超；模型“知道”的远多于一次提问所暴露的； · 有些难题 1 万个解里只有三四个正确，说明扩展推理计算是触及模型真实能力上限的必要手段。 随后的问答质量很高：重复采样提升的是 pass@k（覆盖），而 o1 这类推理模型提升的是 pass@1；本质是模型通过 RL 学会了“判断哪条推理链是对的”；两者是同一枚硬币的两面。o1 在 AIME 上展示了 pass@1 随测试时计算的对数线性提升，DeepSeek（2024 年 12 月）则把两件事合流：用测试时扩展批量生成可验证的合成数据，回流到训练集再微调模型。这个“生成—验证—回灌”的闭环正是课程标题“自我改进”的技术含义。 4. 从 LLM 到 Agent Aakanksha 的判断很明确：聊天模型和推理模型本质仍是单轮对话，而 2025 年真正意外发生的是 Claude Code、Codex、Deep Research 这类智能体开始端到端完成真实工作流。她给出的 Agent 定义是教科书式的：给定目标 → 规划步骤 → 与环境交互（含工具调用）→ 依据反馈修正 → 判断何时停止或承认失败，并可能需要记忆维持任务状态。 但她同样诚实地指出现状：多数落地系统仍是人工编排的静态工作流图，LLM 调用、LLM-as-judge、工具调用（搜索等），组织成提示链、按复杂度路由、并行扇出再聚合（Deep Research 的做法）、或“LLM 管理者”式规划-执行（Claude Code 的做法）。真正开放式自主循环目前只在编码和深度研究两个领域“出现生命迹象”。编码智能体可靠化的原因被归纳为：更强的模型 + 可验证奖励的 RL（RLVR）+ 训练时扩展，外加自我改进闭环启动，可以自动生成单元测试来验证生成的代码（即 Code Monkeys 一线的思路）。 贯穿全课的一个关键瓶颈：验证 两位老师反复回到 generator-verifier gap：模型生成大量貌似合理的内容很容易，但判断对错需要反馈回路。在数学、代码这类可验证领域，单元测试/标准答案提供了廉价可靠的信号，改进可以持续滚动；而在创意写作等领域，人类反馈成为瓶颈。这个瓶颈直接对应课程第 3 讲「Robust Verification」，也是 Azalia 实验室有论文（如何组合多个验证器）的方向。这是理解当前智能体能力边界的最重要单一变量。 几个值得注意的问答观点 · 推理能力是“训练出来的广义思考者”：数据让模型把分解、回溯、分析等技能泛化成通用能力，而非硬编码的流程模板；模型学到的东西已远超训练数据本身。 · 模型偏爱自己生成的推理轨迹，即使轨迹来自更强的模型，它们也更喜欢自己的。这关系到 STaR 式自我蒸馏为何有效（对应第 5 讲多步推理）。 · 思维链是被“发现”的涌现，不是被设计的：从 GSM8K 首现迹象，到 PaLM 能解释笑话，再到专门训练的推理模型；先是涌现，后是强化。 · 未来值得期待的“涌现”：规划、多步推理、自我纠错，恰好是课程要逐讲展开的能力清单。 应用部分给出四个层次 编码智能体（最适合的是重复性任务：代码迁移、版本升级、重构、数据工程）；客服（实时转写、知识辅助、智能回复、通话摘要）；深度研究/报告（检索→大纲→逐源摘要→综合，课程作业会动手实现）；以及前瞻性的 AI Scientist（创意生成、实验迭代、论文撰写；尽管有幻觉，其头脑风暴常能跳出领域老兵的思维定式）。

13 场讲座 · 9.5 小时浓缩成文：Hamel 的 AI 产品工程笔记，Evals、Context、Systems 的优化顺序 Hamel Husain @HamelHusain（以 LLM Evals 方法论闻名）在他的 Maven 课程「AI Product Engineering」13 场、共 9.5 小时讲座后沉淀的笔记索引（2026 年 8 月发布）。 他把全部内容提炼到约 20 分钟的阅读量，按 Evals、Context、Systems 三大主题组织，也给出了推荐的优化顺序 1. 先优化检索与上下文：最低垂的果实 2. 再改进系统与执行框架 3. 最后才考虑 post-training：且仅在前面手段穷尽之后