写文章
- @u013214505
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
基于Redis的分布式任务调用框架实现
本文介绍了基于Redis Stream实现的分布式任务框架Demo，主要功能包括Agent节点管理、异步/同步调用及消息追踪。通过Redis HASH和SET实现Agent上下线管理，利用Stream进行消息传递：异步调用通过XADD发送消息，XACK确认处理；同步调用结合键空间通知机制实现结果等待。框架支持消息查询跟踪，建议开启AOF持久化并使用事务保证操作一致性。该方案可作为轻量级消息队列替代
大模型概念总结
本文介绍了大模型部署与应用的关键环节。首先概述了开源大模型平台(HuggingFace/ModelScope)和模型分类，重点讲解了模型量化与蒸馏技术。随后详细分析了大模型基础设施(OS/虚拟机/容器)和推理引擎(vLLM/Ollama等)的核心功能，包括提速优化、资源管理、兼容性适配等。接着介绍了大模型微调框架的分类选型，以及智能体开发平台的对比(Coze/Dify等)。文章系统性地梳理了大模型
到底了