OpenAI 发布基于无监督预训练的语言理解系统并取得多项 SOTA

OpenAI 宣布用一个可扩展、任务无关的系统在多项多样化语言任务上取得 SOTA 结果，并同时开放该系统。其方法结合 Transformer 与无监督预训练两个已有思路，作者希望这一结果能推动在更大、更多样数据集上的进一步研究。