logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

agent工作模式之ReAct实战

这段代码是一个很典型的显式 ReAct demo:模型负责思考和选择工具,程序负责执行工具和回填 observation,最后由模型基于证据链生成排障报告真正使用 ReAct 时,基础的prompt是固定的,重要的是把工具边界、参数校验、最大轮次、成本控制、审计日志和证据链做好。

#react.js#前端#javascript
r3.41+deepseek-v4+dio+getx纯手搓桌面客户端ai流式智能对话系统

flutter3-win-ai使用最新跨平台框架 flutter3.41 构建项目,对接 deepseek 智能大模型。'展开' : '收缩',flutter create flutter_winseek 快速构建一个flutter3初始化项目。申请一个deepseek apikey,替换如下文件里的key字段,即可畅快体验流式对话功能。Flutter3-Deepseek-WinAI桌面端ai项目

#sql#mysql
19706806201----xa4p1bxo1s9HrS4o----dc_sid=ba2dfc91b3aa44fb76e36fa454830e0c;HMACCOUNT=E91EE404C1F6672

可是历史对话记录一方面数量很多,另一方面存在大量冗余,而每次发给AI大模型的提示词都会消耗宝贵的Token,于是AI应用开发者就得想办法精简历史对话记录,以得到提炼了主要意思的上下文信息。为了让AI在不同的语境中准确理解用户的意图,在开启新会话时有必要把之前的历史对话记录发给AI,以便AI理解当前对话所处的上下文环境,才好做出有针对性的回答。在RAG第3步的“向量化文本”,介绍了两种文本嵌入模型,

#人工智能#深度学习
开源大模型本地部署硬件选型深度指南

/ 百万 token(3 年 TCO 分摊)Mac 512GPRO6000×1PRO6000×28×H2008×B2008×B300NVL72Atlas 910B×8876543210$ / M tok。8× H200 节点跑 DeepSeek-V3 671B FP8 原生,单节点 1,500–2,500 tok/s 总吞吐(SGLang / vLLM,batch 64+),参考。,沿海一线城市

#开源
到底了