登录社区云，与社区用户共同成长
邀请您加入社区
弱电工程师常因NTP时钟服务器选型忽视场景需求，导致调试失败、验收延误。选型应先梳理全量终端适配清单，涵盖设备类型与操作系统（含鸿蒙、欧拉等信创系统），核对海康、大华等安防设备兼容性；确保授时源为北斗信号，满足信创合规要求；根据项目规模匹配并发性能与接口需求，工业场景需考虑工业级输出与供电适应性；结合部署环境确认安装尺寸、天线位置及供电条件；不同行业侧重各异：安防重并发同步，政务重国产适配与日志记
工具：jupyter notebook环境：安装spacy库，以及en模型（用于英语English聊天机器人的搭建）尽量掌握自然语言处理知识，不过没有这方面的知识也可以，只不过搭建的chatbots不够好。搭建聊天机器人所使用的自然语言处理基本方法：方法一，词性标注（pos):给一段文本的每个单词或短语分配词性，例如：名词（noun），动词（verb），形容词（adjective）等等。代码例子：
这节课讲解使用lmdeploy工具包对模型部署和量化的相关知识，主讲人是HuggingLLM负责人长琴，课程文档分享连接。
InternVL 是一种用于多模态任务的深度学习模型，旨在处理和理解多种类型的数据输入，如图像和文本。它结合了视觉和语言模型，能够执行复杂的跨模态任务，比如图文匹配、图像描述生成等。与 qlora 微调的一个很大区别在于内存占用，采用了量化策略的 qlora内存占用更低（memory：22947（qlora）-25286（lora））；第二个区别是 lora 微调的情况下，loss会更低一点。两个
如题
Triton Inference Server简介Docker构建Triton Inference Server环境Triton Inference Server部署一个线性模型Triton Inference Server是一款开源的推理服务框架，它的核心库基于C++编写的，旨在在生产环境中提供快速且可扩展的AI推理能力，具有以下优势支持多种深度学习框架：包括PyTorch，Tensorflow
本博客是第四期书生大模型实战营进阶岛的第四个大任务，我们将学习多模态大模型的基本原理，并用给定数据集利用XTuner微调InternVL2-2B，用LMDeploy部署多模态大模型。多模态大语言模型(Multimodal Large Lanquage Model)是指能够处理和融合多种不同类型数据(如文本、图像、音频、视频等)的大型人工智能模型。这些模型通常基于深度学习技术能够理解和生成多种模态的
在模拟环境中，环境信息是已知的，大语言模型和控制算法可以分别完成任务规划和运动规划的功能。生成的具体流程是先确定轮廓和房间布局，再放置地面大型物体，最后在大型物体上放置小物体，这个过程主要利用标注的物体出现、组合、摆放的先验知识，比如。LEGENT平台支持大规模生成可直接用于训练具身智能体的轨迹数据，这种轨迹数据由一系列连续的第一人称视角观察和对应的执行行动组成，即观察-行动序列。通过这种方式，可
DeepSeek-R1-Distill-Qwen-1.5B 是一个基于 Qwen-1.5B 模型的知识蒸馏版本，适用于多种自然语言处理任务，如文本生成、问答、对话系统等。本文档将指导您如何部署该模型。
本文超越单纯比拼“每秒输出Token”速度，深入剖析本地大模型工具的真实体验差异，聚焦模型下载、加载、Agent接入、长对话优化及小内存运行等关键问题。对比LMStudio（易用）、Unsloth（训练强）、Herdsman（Agent集成与AISSD加速）、llama.cpp（性能极致）和Ollama（API便捷），指出真正决定体验的是：能否稳定下载模型、顺畅接入工作流、支持低配硬件运行大模型，
本文以一个具体现象（“塌了”在 AI 文本评价中的高频固化输出）为切口，分析大模型模板词的形成机制、反馈降频为什么无效，以及“模型污染语料→拿语料自证”的闭环是怎么建立的。适合做 NLP、Prompt 工程、AI 产品评测的人看。
大模型最底层的手艺只有一件——文字接龙。Token 到底是什么、temperature 和 top-p 这两个旋钮在拧什么、为什么回答是一个字一个字蹦出来的
为什么使用外挂知识库？尽管大模型在自然语言处理任务中表现出色，但它们仍然存在一定的局限性，如对最新信息的获取不足、特定领域知识的欠缺等。为了弥补这些不足，我们采用了RAG技术，通过给大模型外挂知识库，提升其回答问题的准确性和时效性。LangChain的作用LangChain是一个强大的工具集，提供了丰富的函数和模块，帮助我们轻松实现RAG流程中的各个环节。它不仅简化了开发过程，还提高了系统的灵活性
本文从概率视角讲解语言模型核心原理，区分通俗理解与标准数学定义，借助链式法则拆解序列联合概率的推导过程，搭配多组文本案例对比概率差异，清晰说明语言模型打分与下一词预测两种等价理解方式。同时对比传统N-gram统计语言模型与Transformer自回归大模型的差异，介绍PPL等评估指标与落地场景，梳理初学者常见认知误区，纠正“概率高等于事实正确”的错误想法。作为大模型入门基础，为后续学习预训练、RA
说明：本章的环境安装在第一章已经进行了详细的说明了。需要环境搭建好，才好运行本篇的代码。
大模型，具体说就是大语言模型，LLM，large language model，这个领域其实就是NLP，所以本专栏也是NLP专栏的延续，是NLP的高阶内容。
本文以"自然语言处理（NLP）"为核心，整合了三部分内容——（一）NLP编程文档，以四大名著案例为参照，系统梳理NLP程序的功能、设计思想、核心库与输出结果；（二）以小说《回到过去变成猫》为实战对象，手把手编写了一套涵盖分词、词频统计、词性标注、饼状图/柱状图/关系图/词云可视化、自定义词典、人名/地名/武器统计的完整NLP程序；（三）探讨AI嵌入式编辑器（如Trae+DeepSeek、Claud
本文介绍了自然语言处理中的语言模型概念，重点讲解了n-gram语言模型的工作原理。文章首先阐述了语言模型的核心任务是预测下一个词的概率分布，并详细说明了如何通过n-gram方法和马尔可夫假设来简化计算。接着分析了n-gram模型面临的稀疏性问题及其解决方案（平滑和回退），最后讨论了文本生成过程和n-gram模型的局限性（上下文窗口有限导致逻辑不连贯）。文章指出这些局限性正是推动神经网络语言模型发展
本文介绍了自然语言处理中的词嵌入技术，重点讲解了Word2Vec模型及其两种变体CBOW和Skip-gram。文章阐述了词嵌入如何解决one-hot编码的高维稀疏问题，通过训练学习词的特征向量，使语义相近的词在向量空间中距离接近。详细说明了神经语言模型、层次softmax和负采样等训练方法，以及它们在序列建模中的应用。最后介绍了序列到序列模型及其在机器翻译中的实现，包括编码器-解码器结构、束搜索和
外层循环 (Epoch): 控制对整个数据集的遍历次数。内层循环 (Update Step / Micro-batch)它是一个复合结构，服务于梯度累积。外半部分按“优化步”迭代，决定了的调用频率。内半部分按“micro-batch”迭代，执行实际的前向/反向传播，并将梯度累积起来。这种设计将数据迭代（epoch）、模型更新（update step）和梯度计算（micro-batch）清晰地分离开
摘要：本文详细介绍了基于BERT的中文掩码语言模型(MLM)实现过程。主要包括：1) 使用Hugging Face的BertTokenizer和BertModel加载预训练模型；2) 自定义数据预处理函数collate_fn2，构建包含[MASK]的输入序列和对应标签；3) 设计包含线性输出层的MyModel模型架构；4) 采用AdamW优化器和交叉熵损失进行模型训练；5) 实现模型评估流程。关键
我是一个刚刚开始接触这一领域的新手，说的不对的地方，请多指正。我的系统是ubuntu 24.10本文是我在看了几个教程都翻车了之后，摸索出来的。
Transformers是一种基于注意力机制的深度学习模型架构，由谷歌团队在2017年首次提出。该模型架构在自然语言处理（NLP）领域取得了显著成就，并迅速扩展到计算机视觉、语音处理等其他领域。Transformers的核心在于其独特的编码器-解码器结构、多头注意力机制以及位置编码。它通过并行计算多个自注意力子层来捕捉输入序列中不同位置之间的依赖关系，从而有效地建模长距离依赖。位置编码的加入则解决
Coconut方法通过在传统CoT过程中引入一个简单的修改来实现潜在空间的推理。具体来说，Coconut将最后隐藏状态（即“连续思维”）直接作为下一个输入嵌入，而不是将其解码为词令。
我们进行了一系列实验，在一系列推理基准上比较了所提出的自一致性方法与现有方法。我们发现自一致性大大提高了所考虑的每个语言模型的推理精度，跨越了广泛的模型尺度。任务和数据集。我们在以下推理基准上评估自一致性。3•算术推理。对于这些任务，我们使用了Math Word Problem Repository (KoncelKedziorski等人，2016)，包括AddSub (Hosseini等人，20
我们提出了一种轻量级的自适应方法，可以有效地将LLaMA微调为指令遵循模型。lama - adapter采用52K自指导演示，在冻结的LLaMA 7B模型上只引入1.2M可学习参数，在8个A100 gpu上进行微调花费不到一个小时。具体来说，我们采用了一组可学习的自适应提示符，并将它们添加到更高的转换器层的单词令牌中。然后，提出了一种带有零门控的零初始化注意机制，该机制自适应地将新的教学线索注入到
增强语言模型(ALMs)将大型语言模型(LLMs)的推理能力与允许知识检索和操作执行的工具混合在一起。现有ALM系统触发LLM思维过程，同时以交错的方式从这些工具中提取观察结果。具体来说，LLM调用外部工具的原因，暂停以获取工具的响应，然后根据前面的所有响应令牌决定下一个操作。这种范例虽然简单且易于实现，但由于冗余提示和重复执行，通常会导致巨大的计算复杂性。本研究首次解决了这些挑战，提出了一种模块
（对应 “ai”）（
语言模型建模是针对句子建模，主要分为掩码语言模型和自回归语言模型。我们从corpus中截取一句话作为例子，这句话是bpe分词后的句子：1994 年 5 月 17 日 安全 理事会 第 33@@ 77 次 会议 通过掩码语言模型的主要机制是：例如将33@@ 77这两个分词做掩码，这样句子变成了1994 年 5 月 17 日 安全 理事会 第 [MASK] [MASK] 会议 通过。
我们研究了语言模型执行组合推理任务的能力，其中整体解决方案依赖于正确组合子问题的答案。我们衡量模型能够正确回答所有子问题但不能生成整体解决方案的频率，我们称之为组合性差距。我们通过提出多跳问题来评估这一比率，这些问题的答案需要组合在预训练期间不太可能同时观察到的多个事实。在GPT-3系列模型中，随着模型大小的增加，我们发现单跳问答性能比多跳问答性能提高得更快，因此组合性差距没有减小。这个令人惊讶的
DB-CHATVannaDAIL-SQL。
nlp
——nlp
联系我们（工作时间：8:30-22:00）
400-660-0108 kefu@csdn.net
人工智能6S服务平台
地瓜机器人开发者社区
北京朝阳AI社区
AtomGit AI 社区
乐奇 Rokid 开放社区
