创建好 llm 模型实例之后，就可以构建模型需要的Prompt(提示词)。最终调用 llm 模型的 invoke 方法就可以获取大模型的返回结果了。建好 PromptTemplate 之后，就可以通过LangChain将 LLM 和 prompt 对象进行组合，并调用大模型方法获取结果。LangChain 最核心的功能就是能够集成各种大模型LLM，后续所有的功能实现以及扩展都是基于此功能的基础之上

正如红框中内容所示，此时 Moonshot 大模型是不知道 "它" 代表的是什么的，也就是说大模型默认是没有上下文功能的。这篇文章中介绍了 LangChain 的简单使用，其中重点介绍了 LangChain 中 Models和Prompts 这 2 个模块的功能。可以看到，根据我们之前预设到 memory 中的内容，大模型 kimi_llm 已经可以给出正确的答案。目前国内最火的大模型当属 Kim

OpenAI 在它的多个版本的模型里提供了一个非常有用的功能叫 Function Calling，就是你传递一些方法的信息给到大模型，大模型根据用户的提问选择合适的方法Function，然后输出给你，你再来决定是否执行。之所以需要Function Calling，通俗来讲就是大模型不具备实时性。因为模型是基于之前的数据训练出来的。而 Function Calling 具备实时性的优势，比如调用第三

这篇文章介绍如何在Android项目中集成大模型LLM，并展示大模型 text-to-text 结果。主要依赖如下2项：MediaPipeGemma 2BMediaPipeGoogle 在2017年发布了 TensorFlow Lite， 它是一个用于在Mobile和IoT上进行 ML 推断的轻量级框架。主要用于将 TensorFlow 模型转换为适用于移动设备(Android、IOS)的轻量级模

除了集成网络 API之，很多公司都会通过数据收集、积累等方式搭建自有数据知识库。可以看出搜索 “公办小学划片” 结果颗粒度太粗，没有精准匹配。可以看出，在TextLoader加载之后，会生成一个Document的数组类型。先将 school_info.txt 加载到内存中，需要使用 TextLoader。这篇文章就来介绍，如何基于公司内部私有知识，实现 Agentic RAG 查询。可以看出，经过

最近在自己电脑上尝试着部署了下大模型，仅用此篇流水账记录一下。环境准备电脑是 16寸 Mac M2 Pro，运行时内存是 16 GB。Mac 并没有独立显存，GPU 显存是和系统内存共享。 模型选择的是ChatGLM-6B ，它基本可以说是 10B 以下级别模型中性能最强之一。并且 ChatGLM-6B 有一个强点，就是在中英文切换对话方面表现突出。语言选择 Python，使用的是 3....

在上一篇文章荒腔走板Mac电脑本地部署 LLM中介绍过本地部署大模型之后，可以通过定制 prompt 来实现 domain 提取等各种各样的需求。但是实际上，部署本地大模型这种方式对于个人开发者来说实在是不太友好。一方面需要投入大量资金确保设备的算力足够支撑LLM的训练和推理；另一方面本地部署的大模型的量级都不会太大，所以效果也不会太理想。对于个人开发者来说，想开发一个 AI 应用，最快的...

这篇文章主要受以下这篇文章的启发:How to refresh the content of a Dialog via setState?在上面链接中的这篇文章中，主要介绍了在Flutter中使用setState刷新Dialog的问题，并提供了一种解决方案。这篇文章大部分内容翻译自这个链接，另外除了坐着提出的方案之外，另外再介绍一种更简单实用的解决方案。学习到的内容：如何在Flutter...

上一节主要介绍了什么是 Stream，以及Stream的一些简单交互。

什么是GraphQL这篇文章主要是看一下如何在Flutter项目中使用GraphQL，如果不清楚GraphQL是什么，建议先看下官网对其介绍：https://graphql.org/https://www.howtographql.comGraphQL体验先介绍一个免费试用GraphQL语法的网站： https://countries.trevorblades.com/打开此链接，默认...