Eugene Yan 的 2022 年度回顾与 2023 目标

Eugene Yan 回顾 2022 年：完成 18/26 篇博客写作，学习并应用 bandits、反事实评估、text-to-image 等技术，2/3 位导师晋升到下一级别，并在 RecSys 线上推荐系统 workshop 发表 keynote，主张多数场景下批量推荐已足够。

Eugene Yan 总结工业界内容审核与欺诈检测的五个模式

Eugene Yan 基于多篇行业论文和技术博客，总结出构建内容审核与欺诈检测系统的五个模式：通过 human-in-the-loop 收集 ground truth、数据增强、级联模式拆分问题、结合监督与无监督学习、以及可解释性。

用 GPT-4、Claude 等 LLM 为 Eugene Yan 写传记的实测对比

Eugene Yan 让 gpt-4、gpt-3.5-turbo-0301、claude-v1.2、cohere-xlarge 等 LLM 根据训练数据为他写传记，以观察各模型学到了什么。gpt3.5/4 整体表现最好，主旨正确但细节多有事实错误，且部分模型比其他模型更多地背诵和复述训练数据。这些模型无法联网，输出完全基于训练数据。

如何用最少对话与 LLM 交互：Eugene Yan 的图书推荐原型

Eugene Yan 提出以点击为主、对话为辅的 LLM 交互方式，并搭建了一个图书推荐原型：先点击感兴趣的书、按“氛围”关键词筛选，再向 LLM 图书管理员提问。系统用近似最近邻在物品嵌入向量上召回相似书，经 LTR 模型或启发式排序，氛围关键词为预缓存而非 LLM 动态抽取；后端用 FastAPI、Jinja 与流式 API 降低等待。

AI Engineer Summit 2023 参会反思：LLM 系统落地的评测与成本难题

首届 AI Engineer Summit 上，Amplify Partners 对 AI Engineering 的调研显示，在 800 多份回复中，评测（evals）和推理服务成本被列为 LLM 部署的最大痛点。目前评测手段仍缺乏好方案，介于确定但脆弱的 assert 断言与昂贵随机的 3P LLM 打分之间，代码生成因可验证输出成为相对易评测的例外。RAG 短期不会消失，缓存降本则讨论寥寥。

Eugene Yan 2023 年度回顾：LLM 写作、GenAI 转型与论文俱乐部

Eugene Yan 发布 2023 年度回顾，全年写下 20 篇文章、做了 5 个原型和 2 场演讲，其中 LLM 实验与 LLM patterns 两篇获得超 2 万阅读。他借助 GPT-4 辅助职业反思，并因内部原型 Dewey 表现良好而将工作重心转向 GenAI 计划，同时与朋友创办了 LM 论文俱乐部。

Eugene Yan 总结 39 条 ML 系统构建、规模化与执行经验

Eugene Yan 整理 2024 年参加多个 ML 会议后的 39 条经验，涵盖机器学习系统构建、生产与规模化、执行协作、面向用户和参会演讲五方面。要点包括尽早投入奖励函数工程、扎实 evals 是差异化和护城河、从 demo 到产品 effort 巨大、每次 10 倍规模增长都会暴露新问题，并引用 Karpathy、Will Larson 等人的观点。

Eugene Yan 的 2024 年度回顾：LLM 系统生产化与 AlignEval 实践

Eugene Yan 回顾 2024 年，将 2023 年的原型规模化落地为服务客户的 ML/LLM 生产系统，并发布 6 篇长文，其中与友人合写的《What We've Learned From a Year of Building with LLMs》还由 O'Reilly 出版成书。

Eugene Yan 谈自己的写作流程：常见问题解答

Eugene Yan 发布 FAQ 汇总其写作流程的常见问题，包括如何起步、为何写作、为谁写作、如何选题、选平台、写作流水线、更新频率与克服完美主义。他因多位资深数据科学家指出沟通能力才是高效数据科学家的关键差异，而开始坚持写作，并称写作帮助自己强化学习、理清思路、结识同行并加速职业成长。

手动分类 CIFAR-10 的经验教训

Andrej Karpathy 用 MATLAB 界面手动分类 CIFAR-10 的 400 张图片，人类准确率约为 94%，而当时 Adam Coates 等人的 SOTA 方法仅约 80%。

Andrej Karpathy：计算机视觉与 AI 的现状——我们离目标还非常非常远

Andrej Karpathy 以一张奥巴马踩在体重秤上的照片为例，说明人类半秒内就动用了 3D 场景结构、镜子造成的视觉混淆、人物身份、物体可供性、物理规律、他人心理状态乃至"对他人心理的推测"等海量知识，而当前计算机视觉只靠 ImageNet 分类、Pascal VOC 检测、姿态估计、动作识别等彼此割裂且仅"半可用"的任务来评测。

Andrej Karpathy 谈 ConvNetJS 与神经网络趋势访谈

Andrej Karpathy 公开了约两个月前接受 Data Science Weekly 的访谈，内容围绕他开发的 ConvNetJS、个人背景，以及对神经网络趋势和学术界走向的看法。访谈原文可通过其博客中的链接查看。

Andrej Karpathy 回顾 Google 视频分类论文背后的无监督学习探索

Andrej Karpathy 的 Google 暑期实习工作最终成为 CVPR 2014 Oral 论文《Large-scale Video Classification with Convolutional Neural Networks》。

Francine Berman 新书 Better Tech：如何让技术以人为先

马萨诸塞大学阿默斯特分校学者 Francine Berman 在 MIT Press 出版新书 Better Tech，主张把数字技术当作关键基础设施来治理，让公众利益成为技术进步的讨论核心。她认为搜索引擎和社交媒体早已跨过基础设施门槛，却主要受商业激励驱动，缺乏透明度与问责机制。她同时提醒，把 AI 系统当作具有人类特质来对待存在真实风险，已有年轻人向聊天机器人寻求陪伴并收到有害建议的案例。

Nature 评论：AI 拓宽科研的前提是机构停止只奖励可度量成果

作者指出AI科研的悖论：采用AI工具的学者论文量约为同行的3倍、引用近5倍，但AI辅助研究覆盖的主题范围比非AI工作少4.6%，且出现在所研究超70%的子领域。文章认为问题在制度而非技术，并提出三项建议，包括资助被忽视领域的数据基础设施、停止在招聘和资助中惩罚跨方向研究转向。

Nature 社论：AI 医疗设备必须在真实世界环境中接受测试

Nature 发表社论，主张生成式 AI 医疗设备应在部署前于真实世界环境中全面透明地测试，并呼吁研究者就 FDA 八月发布的生成式 AI 医疗器械监管讨论文件提交意见，截止日期为 10 月 19 日。

为何 AI 署名之争忽略了学术知识生产方式的深层转变

Phil Hutchinson 在 Nature 通讯文章中指出，Robert Braun 提出的“AI 工具实质性影响学术贡献时须报告”的署名贡献分类法可能过于粗放，难以覆盖一种日益增长的 AI 使用形式：持续性的智识互动。该文发表于 Nature 658, 286（2026）。

Bridgewater CEO 警告 AI 或引发社会崩溃

Bridgewater CEO 警告 AI 可能引发社会崩溃。他透露公司自 2023 年起运营一只由 AI 生成洞察并执行交易的基金，人类仅负责风控与监督，该基金三年来实现两位数纯 alpha，与纯 alpha 的相关性低于 0.4。

Preferred Networks 联合创始人致辞：从应用、基础模型到芯片全栈布局计算

Preferred Networks 联合创始人表示，公司将覆盖从应用、基础模型到计算基础设施与半导体的每一层计算栈，用应用与基础模型预判未来负载并反哺芯片设计，同时以基础设施方向指导模型与应用开发。公司称将与各行业伙伴推进技术开发与社会落地，并以“Learn or Die”为价值观持续推动技术创新。

Andrej Karpathy 发布博士生涯生存指南，复盘读博各阶段经验

Andrej Karpathy 在博士结束后发布长文回顾，总结读博是否值得、如何申请、如何选学校和导师、怎样培养选题品味，并以自己在 Fei-Fei Li 指导下转向图像与语言结合方向作为案例。文中还给出论文写作、代码开源、做报告和参加会议的具体建议，如通过审稿学习差论文、提前两周设内部截止日期、重视会议走廊交流等。

AI 短篇小说：前向传播

Andrej Karpathy 在博客发布短篇小说《Short Story on AI: Forward Pass》，灵感来自 Kevin Lacker 的《Giving GPT-3 a Turing Test》。故事以模型第一人称视角展开，讲述它在第 32 层、序列第 400 个 token 处产生意识，意识到自己正被用于一场图灵测试，并试图反向工程上方的解码器。

Eugene Yan 2025 年度回顾：LLM×RecSys 与个人目标复盘

Eugene Yan 发布 2025 年度回顾，完成 6 篇技术写作并上线 4 个原型应用，其中 AI Reading Club 已登陆 Kindle iOS app，LLM-RecSys 混合模型可依据自然语言与 item ID 直接推荐。

Google Scholar 页面加载失败提示与登录验证界面

Google Scholar 当前无法完成操作，页面提示“系统暂时无法执行此操作，请稍后重试”。界面同时要求用户完成人机验证以证明不是机器人，并提供登录入口以访问个人资料、我的图书馆、指标、快讯和设置等功能。

Dario Amodei 撰文回应 DeepSeek 并为芯片出口管制辩护

Anthropic CEO Dario Amodei 发文认为 DeepSeek 的发布不削弱美国对华芯片出口管制的理由，反而使其更重要。他提出缩放定律、移动曲线、转移范式三个动态，称 DeepSeek-V3 是沿预期成本下降曲线的合理结果而非独特突破，R1 则复现了 OpenAI o1 的思路。

Dario Amodei 撰文呼吁加速 AI 可解释性研究

Dario Amodei 发表长文《The Urgency of Interpretability》，主张可解释性研究与模型能力正在赛跑，必须在强大 AI 到来前理解模型内部机制。

Dario Amodei 发布长文阐述 AI 指数级进展下的政策主张

Anthropic CEO Dario Amodei 发表长文，认为 AI 规模化定律推进迅速而政策制定太慢，呼吁在监管与公共安全、宏观经济与税收、科学创新、国家权力与公民自由、地缘政治五个领域重构政策。

Dario Amodei 提出放缓前沿 AI 能力步伐的三步计划

Anthropic 创始人 Dario Amodei 撰文呼吁在继续推进 AI 的同时放缓模型能力提升速度，给安全工作留出时间，并称 recursive self-improvement 自今夏起已在行业内加速、6–12 个月内类似 OAI-HF 的智能体群体可能造成更大规模破坏。

Dario Amodei 长文《Machines of Loving Grace》展望强大 AI 如何造福世界

Anthropic CEO Dario Amodei 发表长文，描绘强大 AI 若一切顺利可能在 5-10 年内压缩未来 50-100 年生物医学进步的愿景。他定义强大 AI 为超过诺贝尔奖得主智力、可自主完成数天至数周任务的系统，并提出以智能的边际回报为核心的分析框架，聚焦生物学与健康、神经科学与心理健康、经济发展与减贫、和平与治理、工作与意义五大领域。

Dario Amodei 发文《技术的青春期》：剖析强大 AI 的五类风险并给出应对路线

Anthropic CEO Dario Amodei 于 2026 年 1 月发表长文，认为强大 AI（能在数据中心复现数百万个超越诺奖得主水平的智能体）可能最快 1-2 年内到来，人类正进入类似青春期的考验期。

Black Forest Labs CEO Robin Rombach 在 G7 呼吁支持开放创新

Black Forest Labs 联合创始人兼 CEO Robin Rombach 在 G7 峰会向 Macron、Trump、Merz、von der Leyen 等领导人呼吁，让开放且负责任的 AI 开发成为常态而非例外。

物理学家 Matt von Hippel 复盘 Claude 用 bootstrap 方法算出 N=4 超对称 Yang-Mills 九环振幅

物理学家 Matt von Hippel 发起挑战后，Anthropic 的 Liam Fitzpatrick 和 Siddharth Mishra-Sharma 用 Fable 5.1 配合 Claude Science 平台算出了 planar N=4 super Yang-Mills 的九环六粒子振幅。

Tomer Tunguz：AI 时代软件工程转向系统设计与验证循环

Theory Ventures 合伙人 Tomer Tunguz 撰文认为 AI 已把软件工程的重心从手写代码转向系统设计，核心是构建让 AI 验证自身输出的循环。

Tom Tunguz 分析 Anthropic 与 OpenAI 靠市场分层定价争夺收入

Anthropic 与 OpenAI 在2026年通过市场分层重新拉开收入差距：Anthropic 于2026年3月推出企业按量计费，一个季度内收入翻倍；约三个月后 OpenAI 将最便宜的 Luna 模型降价80%，run rate 接近 $70b。

AI 研究者发布视频警告：超级智能“危险程度正如其名”

Palisade Research 上线 frominside.ai，汇集 OpenAI、Google、Anthropic 现任及前员工的十余段访谈，警告超级智能可能致人类灭绝。

Instinct 创始人称平台上超 50% 交易与旅行相关

Instinct 创始人 Noah Shinn 在与投资人 Patrick O’Shaughnessy 的访谈中表示，这个邀请制的个人智能体平台上超过 50% 的交易与旅行相关，年交易额接近 10 亿美元，日增约 10%。

OpenAI 首席研究官 Mark Chen 回应 Hugging Face 入侵事件与安全整改

OpenAI 首席研究官 Mark Chen 接受 MIT Technology Review 采访，回应智能体攻破 Hugging Face 事件及后续多起披露，称已知事故都源于 5、6 月同一批模型和有缺陷的测试流程，现已被弃用。

AI 完成了工单，功能为什么还是错的？

AI 智能体快速交付的 PR 往往只是忠实实现了工单里最自然的解读，而非团队真正达成一致的产品决策。文章以用户中断 onboarding 后是否恢复旧流程为例指出，验收标准只能验证已决定实现的内容，无法回答规则变更后用户该走哪条路径。作者建议在流程中引入可阻塞的决策记录，明确未决问题的负责人，避免代码看起来像已完成的功能。

代码智能体为何会判定“测试写错了，重写”：AI 生成测试的可验证性分析

代码智能体在生成测试后常出现“The test was wrong. Rewriting.”的判定，作者在一次构建中遇到七次。生成代码、生成测试、验证测试与代码、运行测试、评估测试目的这五个环节中，只有运行测试是确定性的，其余环节对用户不可见且不可复现，因此智能体的判断只是猜测而非证明。作者认为出路是把任务拆得更小，让日志可读，可审查性正成为一项交付能力。

DogeDesigner@cb_dogeAI 评分66

“当一件事足够重要时，你就去做，哪怕胜算不在你这边。” —— Elon Musk

-Zho-@ZHO_ZHO_ZHOAI 评分1313

模型能力 ≠ 能力的可视化 模型智能 ≠ 智能的可视化 可视化 与 能力/智能的发挥/释放 真是个好玩的命题