OpenAI 在它的多个版本的模型里提供了一个非常有用的功能叫 Function Calling，就是你传递一些方法的信息给到大模型，大模型根据用户的提问选择合适的方法Function，然后输出给你，你再来决定是否执行。之所以需要Function Calling，通俗来讲就是大模型不具备实时性。因为模型是基于之前的数据训练出来的。而 Function Calling 具备实时性的优势，比如调用第三

这篇文章介绍如何在Android项目中集成大模型LLM，并展示大模型 text-to-text 结果。主要依赖如下2项：MediaPipeGemma 2BMediaPipeGoogle 在2017年发布了 TensorFlow Lite， 它是一个用于在Mobile和IoT上进行 ML 推断的轻量级框架。主要用于将 TensorFlow 模型转换为适用于移动设备(Android、IOS)的轻量级模

在上一篇文章荒腔走板Mac电脑本地部署 LLM中介绍过本地部署大模型之后，可以通过定制 prompt 来实现 domain 提取等各种各样的需求。但是实际上，部署本地大模型这种方式对于个人开发者来说实在是不太友好。一方面需要投入大量资金确保设备的算力足够支撑LLM的训练和推理；另一方面本地部署的大模型的量级都不会太大，所以效果也不会太理想。对于个人开发者来说，想开发一个 AI 应用，最快的...

除了集成网络 API之，很多公司都会通过数据收集、积累等方式搭建自有数据知识库。可以看出搜索 “公办小学划片” 结果颗粒度太粗，没有精准匹配。可以看出，在TextLoader加载之后，会生成一个Document的数组类型。先将 school_info.txt 加载到内存中，需要使用 TextLoader。这篇文章就来介绍，如何基于公司内部私有知识，实现 Agentic RAG 查询。可以看出，经过

最近在自己电脑上尝试着部署了下大模型，仅用此篇流水账记录一下。环境准备电脑是 16寸 Mac M2 Pro，运行时内存是 16 GB。Mac 并没有独立显存，GPU 显存是和系统内存共享。 模型选择的是ChatGLM-6B ，它基本可以说是 10B 以下级别模型中性能最强之一。并且 ChatGLM-6B 有一个强点，就是在中英文切换对话方面表现突出。语言选择 Python，使用的是 3....

在上一篇文章荒腔走板Mac电脑本地部署 LLM中介绍过本地部署大模型之后，可以通过定制 prompt 来实现 domain 提取等各种各样的需求。但是实际上，部署本地大模型这种方式对于个人开发者来说实在是不太友好。一方面需要投入大量资金确保设备的算力足够支撑LLM的训练和推理；另一方面本地部署的大模型的量级都不会太大，所以效果也不会太理想。对于个人开发者来说，想开发一个 AI 应用，最快的...

这篇文章主要受以下这篇文章的启发:How to refresh the content of a Dialog via setState?在上面链接中的这篇文章中，主要介绍了在Flutter中使用setState刷新Dialog的问题，并提供了一种解决方案。这篇文章大部分内容翻译自这个链接，另外除了坐着提出的方案之外，另外再介绍一种更简单实用的解决方案。学习到的内容：如何在Flutter...

上一节主要介绍了什么是 Stream，以及Stream的一些简单交互。

什么是GraphQL这篇文章主要是看一下如何在Flutter项目中使用GraphQL，如果不清楚GraphQL是什么，建议先看下官网对其介绍：https://graphql.org/https://www.howtographql.comGraphQL体验先介绍一个免费试用GraphQL语法的网站： https://countries.trevorblades.com/打开此链接，默认...

通过之前的两节课，相信你应该已经掌握了Stream的使用。这节课我们来看下如何使用在Flutter中使用Stream来更新Widget UI。不过在这之前，我们可以先看下Flutter常规刷新界面的操作，通过对比我们能了解Stream的优势。setState当我们在Studio中创建一个Flutter项目时，Studio会默认给我们创建如下代码从图中红色框的指示可以看出，在 Floati...