面试题库 › 算法 / 大模型 › Word2Vec 的原理与优化

Word2Vec 的原理与优化

难度 ★★★在 9 场真实面经中被问到 方向:算法 / 大模型考点:词向量与文本表示

哪些公司问过

美团1滴滴1京东1拼多多1vivo13601金山1算法岗1

常见岗位:NLP / 语音、人工智能、机器学习算法(泛)、推荐搜索广告

答案要点

  1. Word2Vec 把词映射为低维稠密向量,语义相近的词向量也相近
  2. 两种结构:CBOW(上下文预测中心词)、Skip-gram(中心词预测上下文)
  3. 训练后输入层到隐藏层的权重就是词向量
  4. 优化:层次 Softmax(哈夫曼树)、负采样,避免对整个词表做 softmax
  5. 局限:一个词只有一个向量,不能处理多义词;可捕捉类比关系

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题