跳到正文

#政策/监管

今日 10 条
9月30日周三
  1. The Verge：AI（RSS）68

    特朗普签署行政令要求美国政府改称 AI 为 Super Intelligence

    特朗普签署行政令，要求美国行政部门官网、政策文件和新闻稿一律用 Super Intelligence 取代 artificial intelligence 或 AI。旧有法规文件无需修改，但官员在相关场合将不再使用 AI 这一表述。此举在白宫与 Nvidia CEO 黄仁勋、马斯克等科技 CEO 午餐会后宣布，特朗普称行业应高度自律，并认为数据中心建设会给当地社区带来资源和经济支持。

  3. Demis Hassabis57

    Sundar Pichai 发文称 Google 与白宫及科技领袖会面，当天签署了白宫超级智能协定（White House Accord on Super Intelligence）及前沿责任联合承诺。协定要求签约公司建立内部管控、内部监督团队、独立外部审计和董事会监督委员会四层控制，并定期会面制定安全标准。Demis Hassabis 转发表示乐见进展并期待跟进。

    引用Sundar Pichai@sundarpichai

    Great to meet today with @POTUS, @JDVance, @SpeakerJohnson and Administration + tech leaders. Important conversation and we signed today the White House Accord on Super Intelligence. As I shared today, Google has invested hundreds of billions in the last two years alone, with more to come, across the entire stack, to deliver benefits for America and the world. We’re working to build products that deliver real value for people and businesses, invest in local communities, and build trust in the technology. Industry also has to innovate responsibly. Google’s focused on building the right way, with appropriate testing, evaluations, red-teaming, and other safeguards against misuse and misalignment – and releasing models or products only after they’ve been thoroughly reviewed. We are committed to working with other industry leaders to establish norms and build public confidence. The White House Accord and the Joint Commitment on Frontier Responsibilities signed today is a solid basis for moving forward - it contains real tangible steps to promote safe development, while delivering the economic and scientific benefits of this technology.

  6. Mark Zuckerberg58

    扎克伯格表示，美国主要实验室的领导人都已承诺实施严格的内部控制和多层审计与审查，认为这是重要的一步，能让公众更有信心各实验室构建的技术将按预期运行。引用内容显示各方签署了白宫超级智能协议（White House Accord on Super Intelligence），承诺包括内部控制、独立外部审计和董事会独立委员会监督四层措施。

    引用David Sacks@DavidSacks

    Only President Trump could convene all the leaders of the top companies developing chips, data centers and frontier models for Super Intelligence. This new Industrial Revolution has already created a million new jobs and is spurring a bigger infrastructure build-out than the railroads, canals and grid combined. I was honored to witness history as the leaders of the frontier lab companies signed the White House Accord on Super Intelligence, accepting responsibility for the safe development of their products and imposing new internal controls and external audits. This is far better than waiting years for some international agreement that would probably never happen. President Trump continues to ensure that U.S. remains the technology leader while putting Americans first.

  7. Gary Marcus：The Road to AI We Can Trust（RSS）59

    Gary Marcus 批评白宫“超级智能”协议缺乏实质约束

    Gary Marcus 评析特朗普政府发布的白宫“超级智能”协议，称其承诺的四层控制与审计本质上是“不受监管、不给公众发声”的自我监管。他质疑协议中“独立”审计人的含义，并指出两周前业界谈论的 AI 放缓（Pacing）议题未体现在协议中，称 Dario、Sam 和 Elon 都退缩了。

9月29日周二
  2. The Verge：AI（RSS）38

    美国众议员 Ro Khanna 致信 DeepSeek、阿里、Moonshot AI，追问 AI 失控风险与中美条约

    美国众议院中国问题特别委员会首席民主党议员 Ro Khanna 致信 DeepSeek、阿里巴巴和 Moonshot AI，要求其提供追求"超级智能"与递归自我改进（RSI）的相关文件，并说明是否设有保障措施和"终止开关"。他同时致信美国国家情报总监办公室，要求评估美国应对 AI 实验室失控的能力及中国政府的灾难性 AI 风险评估方式，目标是推动中美达成禁止 RSI 的条约。

  3. MIT Technology Review · AI30

    MIT Technology Review 调查：美国“虚拟边境墙”AI 监控塔未能阻止千余人死亡

    MIT Technology Review 调查发现，美国过去 25 年在南部边境耗资数十亿美元建成的“虚拟墙”监控塔，未能拦截或救助逾千名穿越其监控区域的人，其中一些人甚至死在新装 AI 自动识别监控塔的视野内。该调查记录了这些死亡案例，并指出虚拟墙的基本安全承诺屡屡失效。

  5. Ars Technica：AI（RSS）62

    佛罗里达州以灭绝风险为由申请禁令，要求叫停 OpenAI 开发

    佛罗里达州向州法院申请临时禁令，要求 OpenAI 在部署第三方批准的安全护栏前停止继续开发其称为“鲁莽且风险不可接受的产品”。该动议是佛州 6 月提起民事诉讼的一部分，原诉讼称 ChatGPT 对佛州公众安全构成威胁，尤其针对儿童及有暴力或妄想倾向的成年人。

  7. The Verge：AI（RSS）27

    沃尔玛 CEO 否认将根据购物历史动态调价

    沃尔玛 CEO John Furner 致信顾客称，公司改用电子货架标签只为节省店员时间，不会依据收入、购物历史、购买紧迫性或 Sparky AI 助手的对话内容调整价格。此前沃尔玛宣布年底前在全美门店铺开电子货架标签，引发对动态定价的担忧；纽约已要求零售商披露算法定价，新泽西、康涅狄格和马里兰州则禁止用个人数据改价。

9月28日周一
  1. AI as Normal Technology（RSS）48

    AI 存在性风险概率仍不可靠，不足以支撑政策制定

    针对当前 p(doom) 讨论推动政策关注的现象，该文重申 AI 存在性风险概率估计与 2024 年一样缺乏严谨性，不足以用于公共政策。作者指出，归纳法因不存在合适的参考类别而失效，概率本身不具权威性，政策制定者应认识到这些数字并非来自经过验证的模型或方法。

9月26日周六
9月25日周五
  1. Ars Technica：AI（RSS）70

    特朗普政府 Medicare AI 试点 WISeR 被曝导致延误与不当拒批

    特朗普政府今年 1 月推出 WISeR 试点，用 AI 对 Medicare 患者的部分医疗进行事先审批或拒绝，此前该项目无需此类审批。媒体报道随后出现技术故障、决定延误、拒批和患者疼痛等情况，EFF 本月公布的联邦文件印证了这些报道，有医疗机构称该项目是"对人类的耻辱"。政府问责局 5 月认定官员未按程序设立该项目，其合法性受质疑，但项目仍计划在今后几年扩大。

9月24日周四
9月23日周三
  1. Gary Marcus：The Road to AI We Can Trust（RSS）39

    Gary Marcus 致信特朗普：美中 AI 合作而非减速才是可成的协议

    Gary Marcus 公开致信特朗普，建议其在与中国领导人会面时推动美中 AI 合作，而非寻求 AI 发展减速。他援引《人民日报》文章称美中应"让 AI 成为中美合作新前沿"，并提出癌症与网络安全两个具体合作方向。Marcus 认为此类协议或可助特朗普赢得诺贝尔奖。

  2. OpenAI：官网动态（RSS · 排除企业/客户案例）60

    Sam Altman 在联合国安理会阐述 AI 安全与国际合作主张

    OpenAI CEO Sam Altman 在联合国安理会就人工智能发表演讲，讨论 AI 扩大机会的潜力、保持强大系统处于人类控制之下以及 AI 安全国际合作的必要性。

    推荐理由：OpenAI 官方发布的演讲全文，可据此了解 Altman 本人对 AI 风险治理和人类控制议题的最新表述。

9月22日周二
9月21日周一
  1. Mustafa Suleyman39

    这份两党联署的人文主义 AI 宣言里有很多非常好的提议。仍有一些值得讨论的地方，但总体方向是对的。我鼓励大家都去看看。

    引用Max Tegmark@tegmark

    I'm delighted to share that @mustafasuleyman, CEO of Microsoft AI, co-founder of Google DeepMind and Inflection AI, has signed the Pro-Human AI Declaration. If you too support it, please join him and over a million others by signing it here – the momentum is building! Let's build tools not beings & keep humans in charge. https://humanstatement.org

  2. Import AI22

    Import AI 473：美国超级智能战略、人脑组织植入小鼠大脑与机器诠释学

    RAND 发布报告，建议美国在通往超级智能的不确定路径上采取"自由行动"战略，通过构建人-AI 生态系统、AI 安全架构、改造国家安全体系及提升公民应对能力来保留所有选项。报告还梳理了共存、拒止、加速三大类共七种原型战略，并列出危险临近程度、共存可行性、约束可行性、决定性战略优势、压制可行性五项关键不确定性。此外，研究人员将人类脑组织培育进小鼠大脑，用于实验研究。

9月19日周六
9月18日周五
9月17日周四
  2. Microsoft：Official Blog（RSS）45

    Microsoft 发布教育 AI 五项原则：与 AFT 达成协议并推出学校隐私与安全标准

    Microsoft 公布教育领域 AI 五项原则，并与美国教师联合会（AFT）签署协议、推出面向学校产品的 Privacy & Safety Standard，限制学生和教师数据使用并要求对重大决策保留人工监督。Microsoft 称这是大型科技公司与美国最大教师工会之一首次共同界定教育产品中可信 AI 的标准，并邀请业界共同遵循。

9月15日周二
9月14日周一
  1. Gary Marcus：The Road to AI We Can Trust（RSS）35

    Gary Marcus 评特朗普 9 月 24 日与中国谈 AI 的抉择

    Gary Marcus 在 The Economist 撰文提出，特朗普与习近平 9 月 24 日通话将把 AI 列入议程，他认为这可能是特朗普任内最具影响的决定，主张美中不应只谈芯片交易，而应就"AI 向善"寻求合作路径。他同时提到，当前 AI 股票下跌、公众反 AI 情绪升温，部分前盟友如 Steve Bannon 已转向反对阵营，若市场与民调继续走低，特朗普的立场可能生变。