Agent智能体是人工智能领域中的一个重要概念，指的是具有智能的实体，能够感知环境、做出决策并采取行动。关键特性感知能力：Agent能够理解环境，包括语言交互、处理和解释来自不同感官的信息（如视觉、听觉、触觉等）。推理能力：Agent具备推理能力，能够进行复杂的逻辑推理，如在大语言模型（LLM）的帮助下，其表现得到了显著提升。行动能力：Agent能够通过语言输出参与社会交流，如谈判、冲突解决或教学

本文介绍了基于Flask框架实现大模型流式输出的Python方案。主要内容包括：1）使用Flask搭建后端服务，提供GET/POST两种请求方式的流式输出接口；2）通过OpenAI API调用DeepSeek模型实现流式响应；3）前端使用Fetch API或EventSource接收分块数据并实时展示。文章还提供了完整的代码示例，涵盖流式处理、数据封装、后置处理等关键环节，并展示了测试运行效果。该

Dify是一款开源的大语言模型(LLM)应用开发平台，结合后端即服务和LLMOps理念，帮助开发者快速构建生成式AI应用。本文介绍Dify，并详细的介绍了dify的本地化安装部署。

本文对比介绍了vLLM和Ollama两种大模型部署工具。vLLM是高性能推理框架，适合企业级API服务，需Python/CUDA环境，支持多GPU并行；Ollama是轻量级本地工具，适合个人开发测试，安装简单。文章详细提供了两者的安装部署教程，包括环境准备、模型下载、参数配置等步骤，并列出常见问题解决方法。

本文介绍了一种基于YOLOv8的工业视觉检测方案，文章对比了多模态大模型与轻量级小模型的适用性，最终选择YOLOv8作为解决方案，详细阐述了从数据收集标注、模型训练到部署应用的全流程。方案采用500-1000张多样化场景图片进行训练，通过迁移学习微调预训练模型，实现了高效准确的工业质检功能。文章还提供了完整的数据处理脚本、训练代码和Flask接口封装方法，特别强调了工业场景下数据多样性和模型轻量化

在实际开发过程中，我们经常需要调用对方提供的接口或测试自己写的接口是否合适。很多项目都会封装规定好本身项目的接口规范，所以大多数需要去调用对方提供的接口或第三方接口（短信、天气等）。若是普通java工程推荐使用OkHttpClient，若是spring工程推荐使用RestTemplate。，若是springcloud微服务可以用openFeign或Dubbo

LabelImg是一款开源的图像标注工具，支持PASCAL VOC和COCO数据集格式。安装可通过下载免安装版或pip命令完成。使用时需注意快捷键操作（如W画框、D切换图片）和标注格式转换问题。常见错误如TypeError可通过修改canvas.py文件中的浮点数转换解决。该工具简单易用，适合目标检测任务的图像标注工作。本文主要介绍labeling的安装与使用教程以及过程中遇到的问题。

​2023年7月，GitHub上有一个利用langchain思想实现的基于本地知识库的问答应用：langchain-ChatGLM (这是其GitHub地址，当然还有和它类似的但现已支持Vicuna-13b的项目，比如LangChain-ChatGLM-Webui)，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案

LLM的火爆程度不用多说，如果想深入理解大语言模型（LLM），一些必要的论文还是要读的。以下是汇总的LLM大语言模型学习资料网站（Git、Gitee、模型社区等）

过去半年，随着ChatGPT的火爆，直接带火了整个LLM这个方向，然LLM毕竟更多是基于过去的经验数据预训练而来，没法获取最新的知识，以及各企业私有的知识为了获取最新的知识，ChatGPT plus版集成了bing搜索的功能，有的模型则会调用一个定位于 “链接各种AI模型、工具”的langchain的bing功能为了处理企业私有的知识，要么基于开源模型微调，要么更可以基于langchain里集成的