NLP-AHU-093NLP 早期主流方法为基于统计的语言模型，其中 n-gram 模型应用最为广泛，但其存在明显的局限性。例如为了构建n-gram模型，需要计算当前词对应的条件概率，而若要捕捉相距较远词语间的依赖关系，就需要增大 n 值，这就要求配套语料库的规模也随之扩大。与此同时，随着 n 值的增大，模型所需参数（即所有可能的词语组合对应的概率）数量及计算量会呈指数级增长，对内存与存储资源提出