OpenAI 联合多家机构发布论文，预测 AI 的恶意使用风险及防范措施
OpenAI 联合 Future of Humanity Institute、Centre for the Study of Existential Risk。
推荐理由：OpenAI 与多家机构合作发布预测 AI 恶意用途的论文，读者可从中了解威胁类型与对应的防范缓解思路。
OpenAI / ChatGPT
全部主题OpenAI 的全部动态：GPT 系列模型、ChatGPT 与 Sora 产品、公司战略与人事的持续追踪。
329条精选相关主题Anthropic / ClaudeGoogle / Gemini模型发布
最新精选
第 321–329 条 · 共 329 条OpenAI：官网动态（RSS · 排除企业/客户案例）精选AI 评分6464
OpenAI：官网动态（RSS · 排除企业/客户案例）精选AI 评分7575 OpenAI 谈 Dota 2：自我对弈让系统从远低于人类水平跃升至超人类
OpenAI 表示其 Dota 2 结果显示，在足够算力下自我对弈（self-play）能让机器学习系统从远低于人类水平跃升至超人类。系统在一个月内从勉强匹敌高排名玩家进步到击败顶尖职业选手，且此后仍在提升。监督深度学习系统只能达到训练数据集的水平，而自我对弈系统中可用数据会随智能体变强自动改善。
推荐理由：OpenAI 以 Dota 2 自我对弈为例，说明数据随智能体变强而自动改善，与监督学习的数据上限形成对照。
OpenAI：官网动态（RSS · 排除企业/客户案例）精选AI 评分7979 OpenAI 打造在 Dota 2 标准 1v1 规则下击败世界顶尖职业选手的 bot
OpenAI 宣布打造出一个在 Dota 2 标准 1v1 比赛规则下击败世界顶尖职业选手的 bot。该 bot 通过自博弈从零学会游戏，不使用模仿学习或树搜索。OpenAI 称这是迈向能在涉及真实人类的复杂混乱场景中完成明确目标的 AI 系统的一步。
推荐理由：OpenAI 官方说明该 bot 从零自学习、不用模仿学习或树搜索，读者可据此了解早期自博弈强化学习的思路。
OpenAI：官网动态（RSS · 排除企业/客户案例）精选AI 评分7575 OpenAI 发布强化学习算法 Proximal Policy Optimization（PPO）
OpenAI 发布一类新的强化学习算法 Proximal Policy Optimization（PPO），性能与当时最先进方法相当或更好，且实现和调参更简单。凭借易用性和良好表现，PPO 已成为 OpenAI 的默认强化学习算法。
推荐理由：原文说明 PPO 性能可比肩或超过 SOTA 方法且更易实现调参，读者可据此了解它为何成为 OpenAI 默认强化学习算法。
OpenAI：官网动态（RSS · 排除企业/客户案例）精选AI 评分7272 OpenAI 与 DeepMind 合作研究从人类偏好中学习
OpenAI 与 DeepMind 安全团队合作开发一种算法，通过让人类判断两个候选行为哪个更好来推断人类意图。该工作旨在免去人工编写目标函数，避免用简单代理近似复杂目标时引发危险行为，是构建安全 AI 系统的一步。
推荐理由：OpenAI 与 DeepMind 安全团队合作的算法，通过人类偏好比较推断目标，减少人工写目标函数带来的风险。
OpenAI：官网动态（RSS · 排除企业/客户案例）精选AI 评分6969 OpenAI 发布 Universe 平台，用游戏、网站和应用训练 AI 通用智能
OpenAI 发布 Universe，一个用于测量和训练 AI 通用智能的软件平台，覆盖全球的游戏、网站及其他应用程序。
推荐理由：原文给出 Universe 的定位是跨游戏、网站和应用测量与训练 AI 通用智能的平台，可据此了解其覆盖范围。
OpenAI：官网动态（RSS · 排除企业/客户案例）精选AI 评分7272 OpenAI 参与 Google Brain 主导的论文《Concrete Problems in AI Safety》
OpenAI 与 Berkeley、Stanford 研究者共同署名 Google Brain 研究人员主导的论文《Concrete Problems in AI Safety》。论文探讨了让现代机器学习系统按预期运行的多项研究问题。
推荐理由：OpenAI 联合 Berkeley、Stanford 研究者参与 Google Brain 主导的论文，读者可从中了解 AI 安全的具体研究问题方向。
OpenAI：官网动态（RSS · 排除企业/客户案例）精选AI 评分7474 OpenAI Gym 公开测试版发布
OpenAI 发布 OpenAI Gym 公开测试版，这是一个用于开发和比较强化学习（RL）算法的工具包。它包含一套持续扩充的环境（从模拟机器人到 Atari 游戏），并提供一个用于比较和复现结果的网站。
推荐理由：OpenAI 官方发布强化学习算法开发与比较工具包的公开测试版，读者可据此了解其环境套件与结果复现机制。
OpenAI：官网动态（RSS · 排除企业/客户案例）精选AI 评分8484 OpenAI 宣布成立：非营利 AI 研究公司
OpenAI 宣布成立，是一家非营利人工智能研究公司。其目标是让数字智能以最有可能造福全人类的方式发展，不受产生财务回报的需求约束，从而更专注于对人类的正面影响。
推荐理由：OpenAI 官方首次说明自身定位，非营利与不受财务回报约束的目标是理解其后续路线的背景。