这是大模型调用工具的信息, 工具的自定义参数是大模型产生的,agent信息在ToolRuntime中,ToolRuntime中的信息 包含messages(对话信息),context(上下文信息),config(运行的配置),stream_writer,tool_call_id(当前调用工具id),store。:系统提示词,信息发送给模型的时候会添加,运行时是看不到的,无论是工具还是中间件,都不会

是一个WSGI 服务器兼进程管理器，本身主要用于同步框架（如 Flask），但在生产环境中，常被用来管理 Uvicorn 进程，充分利用多核 CPU 提升并发能力。同步框架:当服务器（如 Gunicorn）收到请求时，会分配一个线程 / 进程处理该请求，线程会全程阻塞直到请求处理完成（包括等待 I/O 操作，如数据库查询）异步框架: 请求处理过程中遇到 I/O 等待时，不会阻塞线程，而是主动让出资

一个是针对所有sql ,添加引号,一个是对mybatisplus分页sql 改写的。尤其要注意的是库名 里面不能有横杠 类似这样"RY-VUE5",这就容易出问题;前置条件: 达梦数据库设置了大小写敏感,我比较菜,改不动!因为设置了大小写敏感,所以所有的sql语句都要加 引号;剩下的就在mybatis-plus配置类中添加两个拦截器。所以只需要将表名和字段名都加上引号就行了。指定库要用 schem

docker 搭建mqtt服务器

会给模型带来巨大的处理负担，使模型难以准确地捕捉和理解其中的关键内容，容易出现混淆和错误的关联，进而影响其对意图和槽位的准确识别和抽取。通过提示词设计，无需添加复杂的额外算法或模型架构，就可使 AI 智能体快速具备意图识别和槽位抽取能力。目的是需要智能体能够理解准确各种各样、形式各异但意思相近的问题,（比如方言类、反问语气、情绪化语气等），这就要求 LLM 节点得有很强的泛化和识别能力。但比较贵,

如果你发现某个容器反复重启,就是用docker logs 容器id 看一下具体原因,然后将日志丢给豆包之类的大模型,然后一步步解决问题;前置条件 docker, docker-compose。最后登录在浏览器中输入 http://服务器ip。首次登录是要设置账号密码的。docker 换国内源。

mysql 判断字段是否存在, 不存在则添加

大模型量化 是一种模型压缩技术，其核心思想是使用更低精度的数据类型（如8位整数INT8）来表示和计算原本更高精度的数据类型（如32位浮点数FP32或16位浮点数BF16/FP16）的模型参数和激活值。目前发现不使用4字节FP32精度转而使用2字节FP16半精度可以获得几乎相同的推理结果,这样就可以部署在存储空间不大,计算速度不快的设备上了(如手机,嵌入式设备,边缘计算);如果每个参数占的字节数少点

生成包含工具调用的消息(如tool_calls: [{“name”: “add”, “args”: {“a”:3, “b”:4}, “id”: “call_1”}]）。判断要不要调用工具 若需要调用工具, 则进入tool_node节点, 执行工具,messages追加 工具消息ToolMessage , 并更新状态。此时状态更新为messages追加模型消息(除了用户消息, 系统消息 还有大模型第

流式 ASR:实时采集音频，按固定时长(200-500ms)切分「音频块」,每处理一个音频块，就输出增量更新的识别文本。FunASR实时输出有个特性 ：每次解码后输出「中间结果」（实时更新），静音时输出「最终结果」，完成一句话的识别闭环；非流式 ASR:麦克风采集到语音生成语音文件(wav/mp3),ASR模型读取语音文件,然后输出识别结果。核心技术是: ASR (语音识别)+ LLM (推理和内