
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
LangChain4j 1.5.0 正式来袭:异步 Agent、Gemini 出图、Bedrock Prompt 缓存、MCP 注册中心一次给齐!
本文介绍了Xinference框架的部署与应用,涵盖推理引擎选择、安装配置、模型管理与调用等关键环节。Xinference支持多引擎统一(vLLM/SGLang/llama.cpp等),提供OpenAI兼容API,便于现有项目迁移。文章详细展示了Embedding模型的管理流程、REST API调用示例,以及LLM模型(如qwen2.5-instruct)的启动与交互方法,同时介绍了集群部署模式和
摘要: gijela-core-chat 是一个专为 Java 大模型项目设计的联调工作台,解决了传统开发中模型切换混乱、RAG 验证分散、日志排障困难等问题。其核心价值在于整合了 LLM 调用、知识库管理、图谱抽取、附件处理等全链路能力,提供可视化操作界面,支持同步/流式验证、会话管理、实时预览等功能。通过自研 OkHttp 工具链替代第三方框架,实现了可控的模型调用与调试闭环,显著提升了开发效
《gijela-core-chat-flow:LLM工作流编排实战指南》摘要: 该工具通过可视化界面解决LLM项目开发中的流程管理痛点,提供从流程定义到调试运行的全闭环解决方案。核心功能包括: 模型配置管理,支持团队协作调试 双模式LLM节点(chat/transform)满足对话与数据处理需求 实时调试面板展示输入/输出快照 版本对比与状态管理确保发布可靠性 运行历史追溯功能提升排障效率 技术栈
本文记录了在Tesla V100(4×32GB)环境下使用Docker和vLLM部署Qwen3-ASR-1.7B语音识别模型的过程。由于V100显卡的Compute Capability为7.0,不支持FlashAttention 2和bfloat16,需采用float16精度并调整参数。关键步骤包括:通过ModelScope或HuggingFace下载模型,配置Docker容器时指定显存使用率(
在 Agent 系统中,大模型本身只能生成文本。它不能直接读取文件、执行命令、访问网页或操作浏览器。要让模型具备这些能力,需要引入Tool Calling(工具调用)Java 程序实现工具的具体功能;Java 程序把工具名称、描述和参数 Schema 发送给大模型;大模型根据用户问题决定是否调用工具;Java 程序执行模型返回的工具调用;Java 程序把工具执行结果再次发送给大模型;大模型结合工具
SearXNG:负责搜索互联网OpenClaw:负责封装成 Agent Tool大模型:负责决定何时搜索并理解搜索结果镜像:searxng/searxng:latest宿主机端口:8078容器端口:8080搜索接口:http://127.0.0.1:8078/searchOpenClaw 环境变量:OPENCLAW_SEARCH_ENDPOINT当 SearXNG 正常启动,并且 OpenClaw
STM32CubeProgrammer(简称STM32CubeProg)是意法半导体官方推出的全能型编程工具,用于在各类环境中对STM32微控制器和微处理器进行烧录。
本文记录了在Tesla V100(4×32GB)环境下使用Docker和vLLM部署Qwen3-ASR-1.7B语音识别模型的过程。由于V100显卡的Compute Capability为7.0,不支持FlashAttention 2和bfloat16,需采用float16精度并调整参数。关键步骤包括:通过ModelScope或HuggingFace下载模型,配置Docker容器时指定显存使用率(
摘要: gijela-core-chat 是一个专为 Java 大模型项目设计的联调工作台,解决了传统开发中模型切换混乱、RAG 验证分散、日志排障困难等问题。其核心价值在于整合了 LLM 调用、知识库管理、图谱抽取、附件处理等全链路能力,提供可视化操作界面,支持同步/流式验证、会话管理、实时预览等功能。通过自研 OkHttp 工具链替代第三方框架,实现了可控的模型调用与调试闭环,显著提升了开发效







