敏感数据无需上传云端，全程在本地运行。支持接入企业知识库/行业数据库（PDF/Excel/Markdown等格式）。单张消费级显卡即可运行，长期使用成本低于云服务。NVIDIA显卡（≥8GB显存） → 适合7B/8B模型。NVIDIA显卡（≥16GB显存） → 支持14B大模型。可使用CPU模式运行（速度约为GPU的20%）。Windows 10/11（21H2及以上版本）。若只需运行DeepSe

从整体上看，训练LLM主要包括两个关键阶段：预训练（Pre-training）后训练（Post-training）：微调、RL和RLHF。上述流程整合了预训练、微调、RLHF等核心阶段，适用于自然语言处理和多模态大模型：1.

如果微调打分模型效果一定会更好。如果每个步骤都使用不同的模型数一数要用多少个模型？

从数据库里拿到原始数据后，我们得给用户生成一个人类能看懂的自然语言响应。这就得利用语言模型的能力，把原始数据转换成容易理解的内容。我们可以写一个函数，它接收（用户问题）、schema（结构）、sql（SQL 查询）、datatemplate = """根据表结构、问题、SQL 查询和 SQL 响应，提供一个结构化的、人类可读的响应。仅提取响应中可用的字段，并正确格式化它们。{schema}问题：{

通过搭建GraphRAG本地demo后，笔者通过少量的文本内容（三国演义第一章），初略对比了一下传统RAG方案与GraphRAG方案，基于少量文本内容而言，GraphRAG的效果还是符合其宣传内容的，后续更严谨的测试还是需要海量数据的进行验证。希望本文能帮助到对GraphRAG有兴趣的朋友，毕竟读万卷书不如行万里路，看再多的理论介绍，不如自己亲自去动手验证一把来的实在~​。

今天，我们暂时抛开知识库这类的聊天问答场景，看看DeepSeek能直接给我们打工人带来什么直接的好处。这个话题比较大，本期就先以我们打工人最常见的苦恼来举例吧，是什么呢？对，就是PPT，相信每个职场人一定都经历过那种加班加点去撰写和美化PPT的场景，深夜改第8版PPT的职场人第二天还要挤早班地铁赶去给客户做汇报，充满了辛酸，打工人真是太难了！但实际上，PPT中的核心内容，每个制作人心里都清楚，但要

如果你有一些NLP的经验，你可能知道标记化是任何NLP管道的舵手。标记化通常被认为是NLP的一个子领域，但它有自己的。现在，它支撑着许多最先进的NLP模型。这篇文章是关于通过利用从头开始训练标记化**。**在我们进入训练和比较不同标记器的有趣部分之前，我想给你一个关于算法之间关键差异的简要总结。主要区别在于要合并的，以及每个算法用来生成最终标记集的。

DeepSeek作为可以私有化本地部署的大模型，加上Dify这个组合，我们还可以有很多其他应用场景，比如：智能客服，智能题库。也可以把自己的个人资料，过往输出文章，日记等所有个人信息上传到本地知识库，打造自己的私人助理。Dify还有很多其他功能，有了deepseek这样的优秀国产AI大模型加持，我们可以做更多智能体应用。当然，Dify也可以像coze一样，发布为对外服务的api，这样，它就可以结合

综述blog：Processing Data for LLM，下面是这个blog整理后的内容。这里更多讨论的是对预训练中如何处理整个互联网语料的讨论，一些行业头部公司自然会有很高的行业数据壁垒，但是从整个互联网的语料得到供模型学习的“高质量”的数据就是一项很广泛且重要的议题了。LLMs之所以强大，有很大一部分源自其在超大规模数据集上的训练，使得它们各方面能力超越小模型，这就是Scaling的魔力。

可能大家都想学习AI大模型技术，也想通过这项技能真正达到升职加薪，就业或是副业的目的，但是不知道该如何开始学习，因为网上的资料太多太杂乱了，如果不能系统的学习就相当于是白学。由于我之前已经问过一次了，可以从这次回答的思考中看出来，这次回答是对上次回答的补充，不过我有些奇怪，使用 ollama 的 generate 接口也会有之前的聊天记忆吗。大模型岗位需求越来越大，但是相关岗位人才难求，薪资持续走