
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
比如,如果大模型的响应中,包含了调用自定义函数的名称和参数。这就要求响应的处理方,缓存已经接收到的部分参数值,聚合成完整的参数值之后,再进行实际的函数调用。SSE 最大的优势在于,构建在已有的 HTTP 基础设施之上,实现和维护的成本低,学习的成本也低。随着 AI 大模型和 MCP 相关开发的流行,服务器推送事件(Server-sent Events,SSE),这个相对小众的技术又一次出现在大家的
在进行 AI 大模型应用开发时,很多人接触到的第一个相对陌生的概念,就是 token。但是 token 又是绕不开的名词,token 是大模型输入和输出的计量单位,更重要的,token 也是使用大模型时的计费单位。token 是大模型对文本进行编码的一种方式。计算机理解的不是文本,而是数值。不管是文本,还是图像和视频,在计算机内部的编码方式都是数值。更具体的来说,是数值的数组,也就是向量。以文本来
当需要运行Java应用时,不管在机器上还是容器里,一般的做法是运行java命令。一些 Java 应用会被打包成单个可执行的 JAR 文件,如 Spring Boot 应用。对于这样的 ...
Cursor (https://www.cursor.so/)是 GPT-4 驱动的一款强大代码编辑器,可以辅助程序员进行日常的编码。下面通过一个实际的例子来展示 Cursor 如何帮助你编程。这个例子做的事情是网页抓取。抓取的目标是百度首页上的百度热搜,如下图所示。我用的是 JavaScript 来实现的。同时按下 Ctrl + K,给出的提示是:抓取 https://www.baidu.com
Cursor (https://www.cursor.so/)是 GPT-4 驱动的一款强大代码编辑器,可以辅助程序员进行日常的编码。下面通过一个实际的例子来展示 Cursor 如何帮助你编程。这个例子做的事情是网页抓取。抓取的目标是百度首页上的百度热搜,如下图所示。我用的是 JavaScript 来实现的。同时按下 Ctrl + K,给出的提示是:抓取 https://www.baidu.com
在执行任务时,智能体会准备这些变量的值,填充到模板之后,得到实际的提示内容。任务执行是最特殊的模式。推理模型很强大,但是任务执行智能体所执行的任务,应该是简单和直接的。这里介绍的任务执行模式是狭义上的概念,也是最小的任务单元。任务在执行时,发送请求给大模型,以大模型的结构化输出作为任务的执行结果。模板中对生成的用户进行了清晰的限制,给出了 User 中的每个字段的要求。实际上,现在的大模型的能力很
在进行 AI 大模型应用开发时,很多人接触到的第一个相对陌生的概念,就是 token。但是 token 又是绕不开的名词,token 是大模型输入和输出的计量单位,更重要的,token 也是使用大模型时的计费单位。token 是大模型对文本进行编码的一种方式。计算机理解的不是文本,而是数值。不管是文本,还是图像和视频,在计算机内部的编码方式都是数值。更具体的来说,是数值的数组,也就是向量。以文本来
使用 Spring AI 开发 AI 应用时,Ollama 通常在本地开发和测试时使用,用来在本地运行大模型。由于本地开发机器的资源限制,当使用 Ollama 运行较大的模型时,大模型给出响应的时间会比较长。Spring AI 提供的 OllamaChatModel 与 Ollama 服务器交互时,默认的超时时间是 30 秒。也就是说,如果 Ollama 服务器无法在 30 秒内给出响应,Spri
在本地开发中使用 Docker 时,一个常用的命令是docker pull,用来拉取镜像到本地。如下面代码所示:docker pull nginx上面的代码仅包含了nginx,这是一个...
在 OCI 容器镜像规范中,最重要的概念是层(layer)。如果需要对容器镜像的存储尺寸进行优化,就离不开对层的理解。变化集层表示的是文件系统的变化集(Changeset)。每个层表示的是...







