logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

自然语言处理 第一周:循环神经网络 (三)语言模型

概念原理比喻不同类型的 RNN根据输入序列长度 �� 与输出序列长度 �� 的对应关系,RNN 可适配不同任务结构,如分类、序列标注、生成等不同规格的传送带:有的只收一件吐一件,有的收一排给一个结果语言模型(LM)建模序列的条件概率分布 �(��∣�<�),在已知前文的情况下预测下一个 token根据已经写下的内容,猜作者下一笔会写什么语言模型的训练逻辑在时间步 �,用前 �−1 个 token

#自然语言处理#rnn#语言模型
到底了