GloVe:基于共现矩阵的词向量

GloVe 从全局词共现统计出发训练词向量,与 Word2Vec 的局部上下文思路互补。它曾是词向量的另一主流方案,在多项任务上与 Word2Vec 各有胜负。

Word2Vec 与 GloVe 的对比很像两种学习方式:一个在大量具体句子中感悟(局部),一个先做全局统计再提炼规律(全局)。殊途同归,都在逼近同一个目标——把语言的意义映射到数学空间。

## 核心要点


图片[1]-GloVe:基于共现矩阵的词向量-子比笔记

图片来源:Openverse / Rain Rabbit(https://www.flickr.com/photos/37996583811@N01/8895324739)

1. GloVe 利用了语料库的全局统计信息。

2. 它训练一次即可,推理时不需要查上下文。

3. 在词类比与相似度任务上表现稳定。

4. 最终两者都被上下文相关的表示所取代。

图片[2]-GloVe:基于共现矩阵的词向量-子比笔记

图片来源:Openverse / Rick Bolin(https://www.flickr.com/photos/9242564@N07/6841816565)

## 写在最后

以上是关于「GloVe」的科普介绍。人工智能正在快速发展,相关概念和方法也在不断演进。希望本文能帮你建立对这一主题的基本认识。

© 版权声明
THE END
喜欢就支持一下吧
点赞6 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片快捷回复

    请登录后查看评论内容