跳到正文

#OpenAI

今日 5 条
9月23日周三
  1. OpenAI:官网动态(RSS · 排除企业/客户案例)60

    Sam Altman 在联合国安理会阐述 AI 安全与国际合作主张

    OpenAI CEO Sam Altman 在联合国安理会就人工智能发表演讲,讨论 AI 扩大机会的潜力、保持强大系统处于人类控制之下以及 AI 安全国际合作的必要性。

    推荐理由:OpenAI 官方发布的演讲全文,可据此了解 Altman 本人对 AI 风险治理和人类控制议题的最新表述。

9月22日周二
  1. Mark Chen20

    很难充分表达 @michpokrass 对我们消费级产品的影响。ChatGPT 在她的领导下获得了重生,我们构建的很多东西都源于她的愿景和信念。 非常感激能与她共事!

    引用Michelle Pokrass@michpokrass

    just crossed four years at openai! the special thing about this place is the constant capacity for rebirth. for all its faults, there is nowhere quite like it. the team makes high conviction, contrarian bets over and over, and they are mostly right. it's a new company every three months. i have really enjoyed my part in some of the bets, and i'm excited to share some of the current ones we are cooking up now. onward!

9月21日周一
9月19日周六
9月18日周五
9月17日周四
9月16日周三
9月15日周二
  1. Gary Marcus:The Road to AI We Can Trust(RSS)30

    Gary Marcus 解读 Sam Altman 的"pacing"表态

    Gary Marcus 解读 Sam Altman 在 X 上发帖中的措辞,将其"pacing"说法翻译为:我们会以最快速度推进,只要不进监狱、不被诉讼搞到公司消失,但为了观感,我们把它叫作"pacing"。Marcus 还指出,任何能减少监管不确定性的举措都可能有利于 IPO。

9月14日周一
9月13日周日
  1. Aidan Gomez56

    Cohere CEO Aidan Gomez 引用 Sam Altman 关于认同 Dario 前沿限速、承诺接受独立评估机构的推文,并以讽刺口吻逐条批评:要求对手开放员工级访问、以安全为由关停不够安全的竞争者,以及中国不遵守就断供芯片。作者称这些想法是卡特尔式的做法。

    引用Sam Altman@sama

    I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks. Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon.

  2. Jakub Pachocki71

    OpenAI 首席科学家 Jakub Pachocki 以一个爱心符号转发了 Dario Amodei 的新文章《We Must Pace the Frontier》,后者主张 AI 行业应放慢速度,并提出三部分计划,Anthropic 单方面承诺其中第一步,向第三方评估者提供永久、员工级别的系统访问权限,用于验证安全措施执行、报告事故并评估模型训练期间的对齐情况。全文见 https://darioamodei.com/post/we-must-pace-the-frontier。

    引用Dario Amodei@DarioAmodei

    We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so. Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our systems, so that they can verify adherence to our safety measures, report on incidents, and assess models’ alignment during training. You can read the full post here: https://darioamodei.com/post/we-must-pace-the-frontier