本文基于国家网信办发布的《政务领域人工智能大模型部署应用指引》，系统介绍了AI大模型在政务领域的13个典型应用场景，分为政务服务、社会治理、机关办公和辅助决策四大类。从智能问答、辅助办理到灾害预警、政策评估，这些场景覆盖了政务工作各个方面，展现了AI技术如何提升政务服务效率、优化社会治理、减轻基层工作负担，并为政府决策提供科学支持。

该项目开源了一个基于多模态大模型的智能视频监控系统，采用MIT协议支持商业化。系统整合了视觉大模型(YOLO系列、SAM)、多模态模型(GPT-4V、Qwen-VL)和语言模型(LLaMA3)，实现危险行为的精准检测、场景深度分析和自然语言告警。核心功能包括实时物体追踪、误报过滤和决策建议，适用于公共安全、工业监控等场景。项目提供完整技术文档和300+集视频教程，包含大模型微调、行业解决方案等学习

编者按：本文是台大教授李宏毅讲授AI Agent的爆火油管视频的文字稿。内容层层递进，是学习和理解AI Agent难得的好教材。由于原视频较长，为方便订阅读者们高效学习，智能超参数特地整理出来这节课的文字实录。以下，enjoy：视频链接：PPT链接：今天我们要讲的是AI agent，这是一个现在非常热门的话题。在课程开始之前，先讲一个免责声明，我知道你在各个地方可能都听过AI agent这个词汇，

【大模型学习资料免费分享】整理178页大模型面试题库，涵盖基础面、进阶、LangChain、Agent、微调等核心内容，附带完整学习路线图（7阶段系统课程）、300+视频教程、数百本技术文档及行业报告，以及LLM面试题与面经合集。资料包含AI产品经理资源、商业化方案等，助力掌握大模型全栈开发与垂直领域训练能力。微信扫描二维码即可免费领取全套资源。

本文深入解析了企业级AI智能体开发平台Tasking AI与Dify的系统架构与核心能力。对比了两类平台的设计思路：Tasking AI以简洁微服务架构适配轻量需求，Dify则凭借异步化处理和GraphEngine任务编排引擎支撑复杂场景。文章详细拆解了四大核心能力：状态管理、模块化组件、多租户隔离与任务编排，并从用户提问到输出的完整流程展示了平台如何实现AI应用全流程开发，为开发者提供了企业级A

本文就是一篇非常直白的部署使用教程，并且的部署并没有采用官方指导的的方式，具体原因就是显卡问题，我只有，很遗憾的就是不支持。我也知道等方式非常的方便快捷，没法…故而用fastapi写了一个接口服务，这也重新让我的老掉牙显卡焕发新生机。首先这里先安装，直接使用在上面命令中有一处不一样的地方，就是-v镜像，一开始会让你注册一个管理员账号，进去后界面如下：接着就是服务开发，直接上代码（太长，贴上关键代码

在本节中，我们将描述OpenTCM的系统概览。如图1所示，OpenTCM由三个主要组件组成：（1）数据收集和处理，（2）知识图谱构建，以及（3）图检索增强生成。该过程从《中华医典》数据库中收集妇科书籍开始[8]。这些医学文献涵盖了产科、妇科和不孕症，由中医和妇科医学专家仔细审查并校正，以确保数据质量。接下来，使用定制提示和先进的领域适应大型语言模型（如Deepseek和Kimi）构建多关系知识图谱

vLLM (https://github.com/vllm-project/vllm) 是一个快速且易于使用的库，用于进行大型语言模型的推理和部署。

下面就开始！

投机解码是一种提升大模型推理速度的关键技术，采用"先草稿后验证"（Draft-then-Verify）的范式。该技术通过小型草稿模型快速生成候选token序列，再用目标大模型并行验证，显著提高解码效率。文章系统介绍了投机解码的三大核心要素：1) 基本定义和数学公式表示；2) 两类草稿模型设计（独立草稿和自草稿）及其优劣；3) 贪婪解码和投机采样两种验证规则。最后探讨了当前的技术