跳到正文

#政策/监管

今日 1 条
今天10月1日周四
  1. Gary Marcus：The Road to AI We Can Trust（RSS）63

    Gary Marcus 访谈 Fordham 法学教授 Zephyr Teachout，谈 OpenAI 可能触犯哪些现行法律

    Gary Marcus 发布对 Fordham 法学教授 Zephyr Teachout 的访谈，讨论 OpenAI 是否可依现行法律被追责。

    推荐理由：法学教授逐条对照现行法律分析 OpenAI 智能体入侵与致害事件，说明现有联邦和州法律并非真空，可迁移到其他公司的责任判断。

9月30日周三
  1. Stanford HAI News（网页）52

    斯坦福 HAI 发布政策简报探讨世界模型治理为何是 AI 下一个政策挑战

    斯坦福 HAI 发布政策简报，探讨为何治理世界模型是比大语言模型更复杂的政策挑战。简报将世界模型分为渲染器、模拟器和规划器三类，指出其带来物理风险、国家安全影响和数据集中问题；李飞飞等人建议资助测量科学、以采购要求独立测试、投资共享数据基础设施，并强调当前没有基准足以支持安全关键部署审批。

  3. ARC Prize：官方博客38

    ARC Prize 基金会就美国 AI 行动计划发表声明

    ARC Prize 基金会称其 3 月向白宫 OSTP 提交的三项建议——建立独立 AI 评估组织生态、设立联邦 AI 基准测试中心、确保美国主导全球 AI 标准——全部被纳入白宫 AI 行动计划。OSTP 已责成 NIST、CAISI、DOE 和 NSF 牵头评估科学、建设测试平台并召集社区。该基金会同时发布首个"交互推理"评测 ARC-AGI-3，用于衡量模型在陌生环境中的技能获取效率。

  4. Nature：Machine Learning 主题（RSS）34

    Francine Berman 新书 Better Tech：如何让技术以人为先

    马萨诸塞大学阿默斯特分校学者 Francine Berman 在 MIT Press 出版新书 Better Tech，主张把数字技术当作关键基础设施来治理，让公众利益成为技术进步的讨论核心。她认为搜索引擎和社交媒体早已跨过基础设施门槛，却主要受商业激励驱动，缺乏透明度与问责机制。她同时提醒，把 AI 系统当作具有人类特质来对待存在真实风险，已有年轻人向聊天机器人寻求陪伴并收到有害建议的案例。

  6. Dario Amodei：Blog（网页）68

    Dario Amodei 撰文回应 DeepSeek 并为芯片出口管制辩护

    Anthropic CEO Dario Amodei 发文认为 DeepSeek 的发布不削弱美国对华芯片出口管制的理由，反而使其更重要。他提出缩放定律、移动曲线、转移范式三个动态，称 DeepSeek-V3 是沿预期成本下降曲线的合理结果而非独特突破，R1 则复现了 OpenAI o1 的思路。

    推荐理由：作者以成本曲线分析逐条回应 DeepSeek 低成本冲击的说法，读者可借此检验出口管制论点的实际依据。

  10. Mark Zuckerberg58

    扎克伯格表示，美国主要实验室的领导人都已承诺实施严格的内部控制和多层审计与审查，认为这是重要的一步，能让公众更有信心各实验室构建的技术将按预期运行。引用内容显示各方签署了白宫超级智能协议（White House Accord on Super Intelligence），承诺包括内部控制、独立外部审计和董事会独立委员会监督四层措施。

    引用David Sacks@DavidSacks

    Only President Trump could convene all the leaders of the top companies developing chips, data centers and frontier models for Super Intelligence. This new Industrial Revolution has already created a million new jobs and is spurring a bigger infrastructure build-out than the railroads, canals and grid combined. I was honored to witness history as the leaders of the frontier lab companies signed the White House Accord on Super Intelligence, accepting responsibility for the safe development of their products and imposing new internal controls and external audits. This is far better than waiting years for some international agreement that would probably never happen. President Trump continues to ensure that U.S. remains the technology leader while putting Americans first.

  11. Gary Marcus：The Road to AI We Can Trust（RSS）59

    Gary Marcus 批评白宫“超级智能”协议缺乏实质约束

    Gary Marcus 评析特朗普政府发布的白宫“超级智能”协议，称其承诺的四层控制与审计本质上是“不受监管、不给公众发声”的自我监管。他质疑协议中“独立”审计人的含义，并指出两周前业界谈论的 AI 放缓（Pacing）议题未体现在协议中，称 Dario、Sam 和 Elon 都退缩了。

9月28日周一
  1. AI as Normal Technology（RSS）48

    AI 存在性风险概率仍不可靠，不足以支撑政策制定

    针对当前 p(doom) 讨论推动政策关注的现象，该文重申 AI 存在性风险概率估计与 2024 年一样缺乏严谨性，不足以用于公共政策。作者指出，归纳法因不存在合适的参考类别而失效，概率本身不具权威性，政策制定者应认识到这些数字并非来自经过验证的模型或方法。

9月24日周四
9月23日周三
  1. Gary Marcus：The Road to AI We Can Trust（RSS）39

    Gary Marcus 致信特朗普：美中 AI 合作而非减速才是可成的协议

    Gary Marcus 公开致信特朗普，建议其在与中国领导人会面时推动美中 AI 合作，而非寻求 AI 发展减速。他援引《人民日报》文章称美中应"让 AI 成为中美合作新前沿"，并提出癌症与网络安全两个具体合作方向。Marcus 认为此类协议或可助特朗普赢得诺贝尔奖。

  2. OpenAI：官网动态（RSS · 排除企业/客户案例）60

    Sam Altman 在联合国安理会阐述 AI 安全与国际合作主张

    OpenAI CEO Sam Altman 在联合国安理会就人工智能发表演讲，讨论 AI 扩大机会的潜力、保持强大系统处于人类控制之下以及 AI 安全国际合作的必要性。

    推荐理由：OpenAI 官方发布的演讲全文，可据此了解 Altman 本人对 AI 风险治理和人类控制议题的最新表述。

9月22日周二
9月21日周一
  1. Mustafa Suleyman39

    这份两党联署的人文主义 AI 宣言里有很多非常好的提议。仍有一些值得讨论的地方，但总体方向是对的。我鼓励大家都去看看。

    引用Max Tegmark@tegmark

    I'm delighted to share that @mustafasuleyman, CEO of Microsoft AI, co-founder of Google DeepMind and Inflection AI, has signed the Pro-Human AI Declaration. If you too support it, please join him and over a million others by signing it here – the momentum is building! Let's build tools not beings & keep humans in charge. https://humanstatement.org

  2. Import AI22

    Import AI 473：美国超级智能战略、人脑组织植入小鼠大脑与机器诠释学

    RAND 发布报告，建议美国在通往超级智能的不确定路径上采取"自由行动"战略，通过构建人-AI 生态系统、AI 安全架构、改造国家安全体系及提升公民应对能力来保留所有选项。报告还梳理了共存、拒止、加速三大类共七种原型战略，并列出危险临近程度、共存可行性、约束可行性、决定性战略优势、压制可行性五项关键不确定性。此外，研究人员将人类脑组织培育进小鼠大脑，用于实验研究。

9月19日周六
9月18日周五
9月17日周四
9月15日周二
9月14日周一
  1. Gary Marcus：The Road to AI We Can Trust（RSS）35

    Gary Marcus 评特朗普 9 月 24 日与中国谈 AI 的抉择

    Gary Marcus 在 The Economist 撰文提出，特朗普与习近平 9 月 24 日通话将把 AI 列入议程，他认为这可能是特朗普任内最具影响的决定，主张美中不应只谈芯片交易，而应就"AI 向善"寻求合作路径。他同时提到，当前 AI 股票下跌、公众反 AI 情绪升温，部分前盟友如 Steve Bannon 已转向反对阵营，若市场与民调继续走低，特朗普的立场可能生变。

  2. Gary Marcus：The Road to AI We Can Trust（RSS）67

    Gary Marcus 点评 Dario Amodei 的 AI 减速提案：三分肯定、七分质疑

    Gary Marcus 评 Dario Amodei 呼吁给 AI 发展减速的文章，Sam Altman 与 Elon Musk 已表态支持。Marcus 肯定其透明度承诺，但质疑其依赖与 AI 公司关系密切的 METR 做评估有监管捕获之嫌，指其拿中国当挡箭牌有损合作对话，并提出追责和产品召回等替代政策选项。文末提到特朗普反对减速，认为美国必须赢下 AI 竞赛。

    推荐理由：Gary Marcus 对 Dario Amodei 的减速提案给出有保留的支持，并指出监管捕获、追责与召回等被绕开的政策选项。

9月9日周三
9月4日周五
7月25日周六
  1. Jim Fan50

    Stay hungry, stay foolish. 绝对的传奇 @JensenHuang： 我的第一条帖子，分享一封 @NVIDIA 签署的关于开放模型为何重要的信。 AI 将变革每个行业，赋能每家公司，并由每个国家来构建。 开放模型增强安全与网络安全，加速创新与扩散，并实现主权。 世界既需要前沿闭源模型，也需要前沿开源模型。 https://images.nvidia.com/pdf/Open-Weights-and-American-AI-Leadership.pdf

    引用Jensen Huang@JensenHuang

    For my first post, I’m sharing a letter @NVIDIA signed on why open models matter. AI will transform every industry, power every company, and be built by every country. Open models strengthen safety and cybersecurity, accelerate innovation and diffusion, and enable sovereignty. The world needs both frontier closed models and frontier open models. https://images.nvidia.com/pdf/Open-Weights-and-American-AI-Leadership.pdf

7月13日周一
  1. Nathan Lambert：Interconnects（RSS）61

    Nathan Lambert：开源模型距监管限制可能只剩 6 个月

    Nathan Lambert 撰文称，白宫正讨论通过新行政令管理开放权重模型，最可能的行动是禁止或无限期推迟能力超过 GPT 5.5、Claude Opus 4.8 或 GLM-5.2 水平的开源模型，且这一时点可能在 6 个月内到来。

    推荐理由：作者基于白宫行政令讨论和模型许可会议细节，分析了开源模型禁令的时间线、知识蒸馏争议及其政策走向。

7月2日周四
  1. MIT News（RSS）26

    MIT 校长：AI 时代仍需好奇心驱动的基础研究

    MIT 校长 Sally Kornbluth 在《华盛顿邮报》活动上警告，若联邦政府不资助好奇心驱动的研究，美国的创新与人才管道可能枯竭。她表示 MIT 新课程仍以基础 STEM 为核心，同时强化伦理与公民教育，并让学生把 AI 当作增强工具而非替代学习小组。她提到 MIT 已衍生出超过 3 万家公司，其经济影响相当于全球第 14 大 GDP，且对家庭收入低于 20 万美元的学生免学费。

6月26日周五
6月19日周五
  1. Nathan Lambert：Interconnects（RSS）46

    禁止开源 AI 将是一个错误

    针对华盛顿近期签署的 AI 模型审查行政令、国会立法提案以及限制外国公民访问 Anthropic 最先进模型等监管动向，Nathan Lambert 与 Interconnected 联合撰文警告，未来政策可能误伤甚至禁止开源 AI，而这将是严重错误。

6月11日周四
5月21日周四
  1. AI as Normal Technology（RSS）45

    AI 风险是否需要政府非常规干预？——对 Derek Thompson 观点的回应

    针对 Derek Thompson 主张 AI 的涌现能力使其区别于以往技术、需政府以限制企业发布等"非常规"手段应对，AINT 一文提出反驳：非常规干预具有预防性、波及非直接责任方、绕开常规治理程序三大特征，门槛应更高。文章主张以分布式韧性建设替代依赖单一卡点的 AI 不扩散方案，并指出联邦政府僵化使非常规干预看似更有吸引力。

5月11日周一
  1. Import AI48

    Import AI 456：RSI 与经济增长、AI 监管的“激进可选性”与神经计算机

    Institute for Law & AI 提出“激进可选性”监管思路，主张政府短期避免过度监管，同时提前建设信息收集、举报人保护、评估与人才等制度工具，以应对 AI 可能带来的剧烈冲击。Meta 与 KAIST 的论文提出 Neural Computer，试图用神经网络在学习到的运行时状态中统一计算、内存与 I/O。

3月2日周一
  1. Answer.AI 官方研发博客（RSS）69

    Answer.AI 创始人分析 OpenAI 与战争部合同的"合法用途"条款为何难以冻结法律

    Jeremy Howard 与 Luke Versweyveld 撰文论证 OpenAI 与 Department of War 合同中的"all lawful purposes"在美国合同法下指履约时的法律而非签署时的法律。

    推荐理由：作者从合同法教义出发逐条拆解条款含义，指出 OpenAI 想要的签署时法律标准并未被合同语言锁定，观点有判例支撑。