TextCNN结构以下为原论文中的模型结构图：embedding卷积层MaxPoolingFlatten全连接层卷积操作在卷积神经网络中仅涉及离散卷积的情形。卷积运算的作用就类似与滤波，因此也称卷积核为filter滤波器。卷积神经网络的核心思想是捕捉局部特征（n-gram）。CNN的优势在于能够自动地对g-gram特征进行组合和筛选，获得不同抽象层次的语义信息。下图为用于文本分类任务的TextCN

基于RNN的Seq2Seq的基本假设：原始序列的最后一个隐含状态（一个向量）包含了该序列的全部信息。（这显然是不合理的）Seg2Seg问题：记忆长序列能力不足解决：当要生成一个目标语言单词的时候，不光考虑前一个时刻的状态和已经生成的单词，还要考虑当前要生成的单词和源句子中的哪些单词更加相关，即更关注源句子中的哪些词，这种做法就叫做注意力机制（Attention）AttentionLuong等人在2

单句文本分类是最常见的自然语言处理任务，需要将输入文本分成不同类别。例如：在情感分类任务SST-2中，需要将影评文本输入文本分类模型中，并将其分成褒义或贬义。1. 建模方法应用BERT处理单句文本分类任务的模型由输入层、BERT编码层和分类输出层构成。处理过程如下图所示（图源李宏毅老师课件）：首先在句子的开头加一个代表分类的符号[CLS]然后将该位置的output输入到Linear Classif

情感分析技术背景近些年来，随着电子商务和社交网络兴起和发展，互联网上出现了大量的主观性文本任务定义对带有感情色彩的主观性文本进行分析、处理、归纳和推理的过程应用电商评论分析：抽取用户评论的观点以及观点的极性舆情分析：对某个人物或某一事件的看法（以下百分数为支持的比例）主观性文本分析：技术难点背景知识电视机的声音小（消极）电冰箱的声音小（积极）反讽/隐晦情感表达我觉得你的香水不错，你应该关起窗户省着