登录社区云，与社区用户共同成长
邀请您加入社区
【Python自然语言处理】文本向量化的六种常见模型讲解（独热编码、词袋模型、词频-逆文档频率模型、N元模型、单词-向量模型、文档-向量模型）
清华NLP公开课笔记记录，全网最全，截图全面
一、分词工具ansj、hanlp、jieba二、优缺点1.ansj优点: 提供多种分词方式 可直接根据内部词库分出人名、机构等信息 可构造多个词库，在分词时可动态选择所要使用的词库缺点: 自定义词典时，系统词典还是被优先使用，导致词性不是自定义词典中的词性 多单词英文姓名无法分出适用场景 若不使用自定义分词，可直接使用ansj2.hanlp优点: 自定义分词、词性方便...
本文介绍了一次ASR项目开发，包括知识介绍、模型选择、部署、封装、流式逻辑实现等内容。
Transformer机制：自注意力通过Query、Key、Value三个矩阵计算token间关系，多头注意力从不同子空间捕获特征，位置编码注入序列顺序信息。模型对比：BERT适合理解类任务（分类、抽取），GPT擅长生成类任务（续写、对话），LLaMA在参数效率和推理速度上做了优化，GLM融合了自编码和自回归优势。微调策略：全量微调成本高但效果好，LoRA通过低秩矩阵减少参数量，Adapter插入
市面上很多 LLM 博客聚焦 “大模型应用”“基础原理（如 Transformer 入门）”，而这篇文章专门拆解近期流行 “模型结构优化”（如 Norm 层位置、MoE 架构、激活函数选择），还有MoE 架构（Mixtral、GPT4 传闻）、LLaMA2 结构等—— 这些是工程落地、性能调优的关键，能解决 “为什么同样是 Transformer，不同模型速度 / 效果差很多” 的核心问题，对有一
大语言模型通过提示工程的辅助，能够应对数学问题和常识推理等复杂任务。这些模型本身并不具备直接处理此类任务的能力，需要通过指导和优化来扩展其功能，以有效执行更广泛的任务。通过使用提示词，可以明确输出格式，提供背景知识，或引导模型完成复杂任务。运用如思维链（Chain-of-Thought，CoT）这样的高级提示技巧，能显著提升模型解决问题的效率。
Sentiment Analysis
LLM大模型、LightRAG、论文解读、代码分析、SEO优化，增强检索，图数据库、实体关系抽取
nlp
——nlp
联系我们（工作时间：8:30-22:00）
400-660-0108 kefu@csdn.net
魔乐社区
北京朝阳AI社区
2048 AI社区
EazyDevelop社区
