为了了解从N-gram到神经模型的转变如何反映在现实世界的产品中，这是来自我最喜欢的Android键盘Swiftkey的一篇2015年的博文，介绍了他们的神经语言模型并将其与之前的N-gram模型进行了比较。一个经验法则是较小的窗口大小（2-15）会得到这样的嵌入：其中两个嵌入之间的高相似度分数表示这些单词可以互换（请注意，如果只看它们周围的单词，反义词通常是可以互换的，例如“good”和“bad