语言模型内部存在可辨别事件可能性的模态差异向量

一项 arXiv 计算语言学研究称，在多种语言模型内部识别出能够区分句子模态类别（如可能、不可能、完全无意义）的线性表示，称为“模态差异向量”，其可靠性高于此前报告的水平。研究者称，这些向量随训练步数、层数和参数量的增加按一致顺序出现，并可用于建模人类对模态类别的细粒度判断行为。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。