跳到正文

技术方向

多模态 最新动态

文本之外的能力:视觉理解、图文混合、音视频输入输出的模型与产品进展。

142 条精选近 30 天 64 条共收录 1,725 条

更新

精选归档 · 第 8 页

2021年1月5日周二第 141–142 条
  1. OpenAI:官网动态82

    OpenAI 发布 CLIP:连接文本与图像的神经网络

    OpenAI 推出神经网络 CLIP,通过自然语言监督高效学习视觉概念。只需提供待识别视觉类别的名称,CLIP 即可应用于任何视觉分类基准,类似 GPT-2 和 GPT-3 的零样本能力。

    推荐理由:官方介绍 CLIP 用自然语言监督学习视觉概念,可零样本适配任意视觉分类基准,读者可了解其与 GPT 系列能力思路的关联。

2019年4月23日周二
  1. OpenAI:官网动态65

    OpenAI 发布 Sparse Transformer,可处理比此前长 30 倍的序列

    OpenAI 开发了 Sparse Transformer,一种在预测文本、图像或声音序列下一项任务上创下新纪录的深度神经网络。它通过改进注意力机制的算法,能从比此前可能的长 30 倍的序列中提取模式。

    推荐理由:原文给出 Sparse Transformer 的核心改进点,即注意力算法可处理比此前长 30 倍的序列,读者可据此了解其技术方向。