登录社区云，与社区用户共同成长
邀请您加入社区
本文记录了作者从零开始学习LangChain框架的完整历程。文章分为七个部分：1.环境搭建，介绍使用Miniconda创建隔离环境并配置阿里云百炼API；2.核心基础，讲解模型调用、消息类型和链式调用；3.工具调用，演示如何定义和使用工具；4.核心组件，包括消息管理、提示词模板和输出解析；5.RAG实现，涵盖文档加载、文本切分和检索增强生成；6.Agent雏形，展示如何将检索器封装为工具；7.学习
大语言模型（英文：Large Language Model，缩写LLM），也称大型语言模型，是一种人工智能模型，旨在理解和生成人类语言。大语言模型 (LLM) 指包含数百亿（或更多）参数的语言模型，这些模型在大量的文本数据上进行训练，例如国外的有GPT-3 、GPT-4、PaLM 、Galactica 和 LLaMA 等，国内的有ChatGLM、文心一言、通义千问、讯飞星火等。研究界给这些庞大的语
R1-Zero 证明了纯 RL 可以训出推理能力。但一个能推理的模型，离一个能交给用户正常使用的模型，中间还有好几道坎。第一道坎是语言。基座模型 DeepSeek-V3 是在中英文混合数据上预训练的，R1-Zero 做推理的时候经常中英文乱窜——前一句还是英文的数学推导，后一句变成了中文感叹。如果你用中文提问，它可能用英文推理；用英文提问，它又可能给你塞几句中文。对普通用户来说，这种体验很差。第二
上一篇文章提到，DeepSeek-R1-Zero 没有用传统的 PPO 算法，而是用了一种叫的算法。要理解 GRPO 为什么被选中，得先搞清楚 PPO 在训练大模型时到底有什么问题。
下面我们从零基础出发，逐步拆解这段 YOLOv8-l 配置中backbone（主干网络）和head（检测头）的语法与功能，并结合常见输入分辨率 640×640，画出骨架结构示意图，标注各层的输入／输出特征图大小。
文章摘要：作者在运行transformers模型时遇到一个TypeError错误，提示ALL_PARALLEL_STYLES变量为NoneType不可迭代。解决方法是在llamafactory的训练代码开头（如tuner.py文件）添加代码片段，检查并初始化modeling_utils模块中的ALL_PARALLEL_STYLES变量，将其设置为包含"tp"、"non
提前从官网下载torch-2.3.1+cu121-cp310-cp310-linux_x86_64.whl、torchaudio-2.3.1+cu121-cp310-cp310-linux_x86_64.whl、torchvision-0.18.1+cu121-cp310-cp310-linux_x86_64.whl。前几天尝试了用vllm部署DeepSeek-32B模型，这次采用docker部署
1. 解决Deepseek服务器繁忙问题，无需等待使用Deepseek：Chatbox本地部署 + 硅基流动API调用，绕过官方限流无限速调用2. 两个简单步骤：从配置到运行全部有截图
快速验证模型效果，再根据性能需求切换到优化方案。：CPU/Mac环境、低资源设备。：国产硬件适配（如华为昇腾）：快速原型验证、全精度推理。实时监控资源使用情况。
在这里我们根据自己的电脑配置，选择自己的模型，因为默认安装在C盘，所以我这里选择第一个1.5b约占用空间1.1GB，7b模型是4.7GB，8b模型是4.9GB，14b模型是9.0GB，32b是20GB，70b是43GB，671b是404GB，大家根据自己的C盘空间做出选择，原则上数据越大，回答的问题就越全面。回答这个问题，很简单，目前deepseek是免费，不代表以后是免费的，重要的是deepse
满血deepseek-671b，8*H100
🍏🍏这是一个自己制作的AI智能体(模型自己选择:打包、chatgtp、deepseek、文心一言、kimi、通义千问等)🍎🍎功能🍒可以上传自己的知识库，打造一个基于自己知识库的专业AI
一键本地化部署DeepSeek大模型
本文介绍了PyTorch中nn.Transformer模块的实现与应用。nn.Transformer包含编码器(TransformerEncoder)、解码器(TransformerDecoder)及多层注意力机制组件，适用于序列任务。文章详细解析了各核心模块的功能，包括多头注意力机制(MultiheadAttention)和层归一化等。通过代码示例展示了如何快速创建标准Transformer模型
git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.gitcd LLaMA-Factorypip install -e ".[torch,metrics]"pip install --no-deps -e .llamafactory-cli train examples/train_lora/llama3_lora_sft.ya
国内外包括豆包，文心一言，智谱，通义千问等主流大数据模型，均降价幅度在90%左右，而gpt4，4Turbo，3.5等模型，均有50%-75%不等的降价幅度（在其发布后一段时间内）包括Gemini各个模型以及其他的国外大数据模型的API都有不同程度的降价幅度，其降价范围处在ChatGPT与国内大数据模型普遍降价范围区间内，也不再阐述。Claude 2性能提升：在 Claude 1 的基础上，Clau
Ollama 是一款基于大语言模型（LLM）的智能协作平台，旨在简化团队沟通、任务管理和知识共享。它通过集成多种 AI 技术，提供流畅、高效的用户体验。Ollama 通过结合强大的语言模型和创新的协作功能，为用户带来了全新的生产力体验。无论是团队管理还是知识共享，Ollama 都展示了其强大的适应性和实用性。如果你对 Ollama 感兴趣，可以访问官网了解更多内容。如有问题，欢迎留言讨论！
模型初始化、tokenizer、位置编码、mask、模型前向传播，生成下一分词的循环过程
大家好，今天来聊聊gpt转写小说文案，希望能给大家提供一点参考。小说文案在吸引读者和推动销售方面起着至关重要的作用。
本文系统梳理了语言模型的演进历程：从2003年NNLM首次用神经网络替代统计模型，到2013年Word2Vec通过简化架构实现效率突破（CBOW聚合上下文预测中心词，Skip-gram中心词预测上下文），再到2018年BERT采用深层Transformer实现动态语境建模。模型发展呈现从静态词向量到动态上下文表示、从局部窗口到全局双向理解的趋势。不同模型在计算效率、语义捕捉、一词多义处理等方面各具
vLLM 是一款专为大语言模型推理加速而设计的框架，实现了 KV 缓存内存几乎零浪费，解决了内存管理瓶颈问题。更多 vLLM 中文文档及教程可访问 →。
vLLM 是一款专为大语言模型推理加速而设计的框架，实现了 KV 缓存内存几乎零浪费，解决了内存管理瓶颈问题。
pytorch 张量入门与numpy的张量的关系pytorch 张量与梯度pytorch 神经网络（LeNet）pytorch 实现cifar10分类器pytorch 模型保存与重载https://github.com/yolochai/jupyternb/blob/master/pytorch_notebook.ipynb顺便抹把泪，conda安装pytorch和torchvisio...
本文介绍 TorchScript，它是 PyTorch 模型（nn.Module的子类）的中间表示，可以在 C++ 等高性能环境中运行。forward我们希望在您完成本教程后，您将继续 学习，该教程将引导您了解从 C++ 实际调用 TorchScript 模型的示例。
本文主要介绍PyTorch的基础知识，PyTorch的优点，案例，PyTorch和Tensorflow的对比，让我们对PyTorch的框架有一个基本的了解。
Pytorch安装目录前言1.配置虚拟环境2.下载pytorch3.完成测试目录前言最近代码的学习基本上都是需要啥用啥。整体来说基础特别的差。所以打算重新零基础的学习下Pytorch,基础学起，从安装开始，今后也一直更新。也好好学习一下csdn的排版。最近也是真的太浮躁了。急于求成，(。_。)参考文章：https://www.cnblogs.com/zhouzhiyao/p/11784055.ht
开源模型本地部署， 利用本地模型开发口语听力培训工具
如果你需要让局域网内的其他设备也能访问你的 Ollama 服务，可以配置 OLLAMA_HOST 环境变量。变量值可以设置为0.0.0.0:11434 (或者指定的端口号，默认端口是 11434)。可以像其他软件一样在电脑上完成一键安装，不同的是，建议按照实际需求配置下系统环境变量参数。当然不设置也可以，系统会自动下载到C盘。OLLAMA_ORIGINS也需要新建环境变量，表示HTTP 客户端的请
本文章采用AutoDL平台创建部署（感觉它比较方便，价格便宜），这个不是硬要求，按自己情况来（如公司自己有服务器就可以用自己的；【模型大小：(1.5b：1.1G) (7b：4.7G) (8b：4.9G) (14b：9G) (32b：20G) (70b：43G) (671b：404G)】安装完成后，在服务器平台复制链接地址，使用vscode链接ssh，链接的时候会提示输入密码，也是在服务器平台复制密
LLaMA-Factory是一个适合小白使用的训练平台。提供了基于Gradio的网页版工作台。
本文介绍了一套开源、合规的金融报告生成系统，采用五维验证机制确保报告质量。系统基于Baichuan2或ChatGLM3模型，通过RAG技术从央行等官方政策构建知识库，支持INT4量化在消费级显卡运行。主要功能包括：1)政策数据向量化存储与检索；2)结构化报告生成；3)自动验证可读性、准确性、安全性、合规性和权威性。系统采用MIT/Apache2.0协议组件，符合中国金融监管要求，提供Gradio交
实际上，使用pip install -e后可能显示BNB已经安装，但是在运行python -m bitsandbytes的时候出现如https://github.com/ChangyuanWang17/QVLM/issues/15里面的。但是也要记得问gemini nvidia的nvcc等怎么配，比如qvlm项目里面的BNB只支持到cuda120，而我用的是cuda121，现在也能安装。1 新的t
GraphAgent是一个创新的自动化智能体框架，通过多智能体协作机制，无缝整合结构化图数据与非结构化文本信息，实现图预测任务和文本生成任务的统一处理。用户仅需用自然语言提问，无需图论或机器学习背景，即可获得智能分析结果。该框架由三个核心智能体组成：图生成智能体构建语义知识图谱、任务规划智能体解析用户意图、任务执行智能体自动完成预测与生成。实验表明，基于开源小模型（如LLaMA-8B）的Graph
但是，就像前文介绍的那样，RAG技术是一项应用面广、门槛很低、但同时上限也很高的一项技术。
通过引入传感器知识增强和状态引导机制，该方法有望解决传统多变量时间序列分类中语义信息缺失和状态理解不足的问题，为工业智能、医疗健康等领域的时序数据分析提供新的解决方案。作者: Yuhan Jing, Bo He, Haifeng Sun, Qi Qi, Zirui Zhuang, Lei Zhang, Jianxin Liao, Jing-Yu Wang。基于LLM的方法Time-LLM, GPT
模型就是数学公式+参数的组合设计模型，就是设计能解决真实问题的数学公式。输入：给定一组符合要求的输入数据（需要判断类别）已知：类别总数为n（n选1）输出：经过一系列数学公式计算后，输出n个概率，分别代表属于某类别的概率理论讲得再多，不如一次实际案例来得更直接、更明了。接下来我将用一个经典案例——“识别鳄鱼与蛇的模型”，来具体说明模型内数学公式的实际运作机制。这个案例源于我2018年初学人工智能时，
神经网络
——神经网络
联系我们（工作时间：8:30-22:00）
400-660-0108 kefu@csdn.net
MCP技术社区
AtomGit AI 社区
AI Agent技术社区
AI编程社区
AtomGit开源社区
AMD开发者中国社区
龙虾开发者社区
