logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

spring Ai框架整合Ollama,调用本地大模型

Ollama是一个用于在本地计算机上运行大模型的软件软件运行后端口,自己写的程序要调大模型就用这个端口ollama list:显示模型列表ollama show:显示模型的信息ollama pull:拉取模型ollama push:推送模型ollama cp:拷贝一个模型ollama rm:删除一个模型ollama run:运行一个模型。

文章图片
#人工智能#后端
第2篇:Spring Boot + WebSocket + 消息队列STOMP协议(Rabbitmq) 架构原理

项目说明RabbitMQ 的 IP 或域名RabbitMQ STOMP 插件监听的端口(不是 AMQP 的 5672)用户名/密码必须在 RabbitMQ 中创建对应用户,并赋予stomp权限目标前缀/topic/queue必须与 RabbitMQ STOMP 插件的默认 destination 映射规则一致。

#后端#websocket
Sentinel第 21 篇:SpringCloud 普通微服务 整合 sentinel,限流降级的规则保存在nacos中,sentinel从nacos拉取规则使用

sentinel的web控制台,就能看见写的规则了,可以测试了。除非你对Sentinel Dashboard 源码 二次开发。不要在sentinel web控制台改。后期 更改规则 从 nacos 中改。nacos中编写限流,熔断的规则。改了,也不会保存进nacos。

#sentinel#spring cloud#微服务
vLLM 大模型部署

本文介绍了Qwen2.5-0.5B-Instruct模型的部署与调用方法。首先通过HuggingFace或ModelScope平台下载模型,然后使用vllmserve命令启动推理服务,详细解析了包括模型路径、服务端口、并行度、上下文长度等核心参数配置。最后说明可通过HTTP端口8000进行API调用,建议先用curl或Postman测试连通性。

大模型客户端工具如Cherry Studio,Cursor 配置mcp服务,容易踩的坑,总结

MCP服务配置使用指南:建议提前通过uv(Python)或npm(Node.js)安装所需依赖包,避免直接复制JSON配置导致连接失败。不同操作系统(Linux/Mac/Windows)的JSON命令存在差异,应优先选用提供多平台配置的MCP服务。接入方式推荐简单的SSE(仅需API key),若使用stdio需特别注意依赖安装。此外,需注意部分大模型不支持MCP服务。

MCP服务 SSE / Streamable HTTP 这两种数据传输机制,怎么用 http 请求查询这个MCP服务支持哪些工具调用, 和怎么调用其中一个工具

传递给该工具的输入参数,这里传入了 {"city": "北京"}。: "maps_weather":指明要调用的具体工具名称。:本次请求的唯一标识符,用于匹配服务器返回的响应结果。:声明遵循 JSON-RPC 2.0 协议版本。目的,主要是好奇,想了解MCP服务 底层的原理。:指定要执行的方法为“调用工具”。JSON-RPC 2.0 协议。

#http#网络协议#网络
MCP服务 SSE / Streamable HTTP 这两种数据传输机制,怎么用 http 请求查询这个MCP服务支持哪些工具调用, 和怎么调用其中一个工具

传递给该工具的输入参数,这里传入了 {"city": "北京"}。: "maps_weather":指明要调用的具体工具名称。:本次请求的唯一标识符,用于匹配服务器返回的响应结果。:声明遵循 JSON-RPC 2.0 协议版本。目的,主要是好奇,想了解MCP服务 底层的原理。:指定要执行的方法为“调用工具”。JSON-RPC 2.0 协议。

#http#网络协议#网络
vLLM 大模型部署

本文介绍了Qwen2.5-0.5B-Instruct模型的部署与调用方法。首先通过HuggingFace或ModelScope平台下载模型,然后使用vllmserve命令启动推理服务,详细解析了包括模型路径、服务端口、并行度、上下文长度等核心参数配置。最后说明可通过HTTP端口8000进行API调用,建议先用curl或Postman测试连通性。

jenkins持续集成入门19 - (Pipeline Script from SCM)流水线项目 整合SonarQube代码审查

工作流程图1 jenkins安装SonarQube Scanner插件2 jenkins添加SonarQube凭证3 Manage Jenkins->Configure System->SonarQube servers4Manage Jenkins->Global Tool Configuration5SonaQube-web界面中关闭审查结果上传到SCM功能6项目根目录下,创

#jenkins#ci/cd
jenkins持续集成入门15 - 构建项目方式--轮询SCM

轮询SCM:远程代码分支上(Svn/Git)只要有任何更新,则在一定的时间表达式范围内,执行构建任务。注意:这次构建触发器,Jenkins会定时扫描本地整个项目的代码,增大系统的开销,不建议使用。新建或修改项目,配置如下,时间表达式有很多,自行查阅...

#jenkins#ci/cd
    共 56 条
  • 1
  • 2
  • 3
  • 6
  • 请选择