LLM对外部工具的使用现在可谓其必备技能之一。当我们使用LangChain/LangGraph等框架去编排定制一些或简单或复杂的LLM应用时，自定义LLM在处理用户提问时需要用到的工具是一个非常常见的步骤，熟练掌握自定义工具的过程是很有必要的。由此，本篇博客将尽可能详细地介绍如何基于LangChain相关python库中提供的模块组件进行工具的自定义，一起来学习吧！本篇博客内容将参考 LangCh

大型语言模型（LLM）在网络安全领域展现出巨大商业价值，主要应用包括：1）实时威胁检测与响应，如Qualys TotalAI解决方案；2）自动化漏洞管理，可降低30%误报率；3）高级威胁情报分析，处理10万+token数据；4）钓鱼/恶意软件检测；5）事件响应与取证；6）SOC运营增强；7）合规性管理；8）安全培训模拟；9）红队C2平台；10）URL扫描。

我们需要通过各种方式手段让LLM具备符合我们期望的结构化输出能力，即模型能够按照用户指定的格式或规则生成内容（而不仅仅是自由形式的文本）的能力。这种能力使LLM的输出结果更易于被程序解析、集成到自动化流程中，以一种更为可控的方式满足特定落地场景的需求。

在使用 Dify 的 Custom Tool（自定义工具）功能调用外部 API 时，你是否遇到过这样的问题：- 工具调用反复重试，日志中出现多次相同请求- API 明明执行成功了，但 Dify 显示超时失败- 复杂的 AI 处理流程总是在中途断开如果你正在被这些问题困扰，这篇文章将帮你彻底解决！

官网介绍：https://milvus.io/introMilvus 是一个以高效检索和高扩展性为特点的开源向量数据库，支持对大量的非结构化数据（如文本，图像还有多模态数据信息等）进行组织和检索。Milvus 使用Go和C++编程语言开发实现， 并通过CPU/GPU指令级优化，以实现最佳的向量搜索性能。Milvus 提供多种本地部署1. 基于 Kubernetes (K8s) 的全分布式架构:处理

LLM对外部工具的使用现在可谓其必备技能之一。当我们使用LangChain/LangGraph等框架去编排定制一些或简单或复杂的LLM应用时，自定义LLM在处理用户提问时需要用到的工具是一个非常常见的步骤，熟练掌握自定义工具的过程是很有必要的。由此，本篇博客将尽可能详细地介绍如何基于LangChain相关python库中提供的模块组件进行工具的自定义，一起来学习吧！本篇博客内容将参考 LangCh

在LLM基于本地或外部知识库的问答机器人应用开发中，当模型外部知识的索引需要通过语义匹配而非基于正则表达式实现的精确匹配时，我们往往会借助基于深度学习训练得到的embeddings模型对文本进行向量化（当然也可以使用基于词频的算法，如TF-IDF、BM25等），然后通过相似度检索的方式得到与用户提问（user query）相关度最高的外部知识内容。本篇博客将介绍如何通过本地化使用embedding

我们需要通过各种方式手段让LLM具备符合我们期望的结构化输出能力，即模型能够按照用户指定的格式或规则生成内容（而不仅仅是自由形式的文本）的能力。这种能力使LLM的输出结果更易于被程序解析、集成到自动化流程中，以一种更为可控的方式满足特定落地场景的需求。

在本篇博客中，我们将进一步学习了解对模型输出进行结构化控制的其他方案，分别是 少样本示例引导（Few-shot prompting）、结构化方法指定（Specifying the method for structuring outputs）和 直接解析模型输出（Direct prompting and parsing）。

火山引擎 Doubao-1.5-pro-32k 大模型开启联网回答提问，“什么是Agentic AI?”