markdown是一种轻量级标记语言，用于使用纯文本编辑器创建格式化文本。在这里将介绍如何将 markdown文档加载到 langChain Document对象中，并构建RAG系统。这里假设langchain框架已经安装，具体过程参考。

ElasticSearch以其文本快速检索闻名，是构建文档类知识库的首选。这里尝试基于ElasticsearchRetriever，基于langchain，构建RAG知识库系统。

这里示例通过自定义parser的方式，解决上述的抽取失败的问题。针对2.2小节抽取失败案例，通过PydanticOutputParser自定义parser方式，实现结构化信息抽取。核心逻辑如下所示：1) 通过PydanticOutputParser自定义parser，识别GuardrailsOutput中需要抽取的内容。2）system_prompt中增加如下明确提示目的是提示llm在输出内容时，

随着llm的能力越来越强，基于LLM的多模态AI agent框架和桌面工具越来越接近实用。这里收集这些开源的ai agent框架和桌面助手工具。

UAD是面向大语言模型（LLM）评估去偏的完整实现框架，旨在解决当不同大语言模型作为“裁判”评估其他模型答案时产生的系统性偏差问题。这里尝试解析UAD核心机制，并提供关键代码片段的解读和一个简化的可运行模拟版本。

现有LLM推理中，温度参数是优化模型输出敏感性的重要手段，论文指明这种方式也是有限制的。基于softmax的注意力机制本质上是一个“分辨率有限的选择器”。它在关键信息只占上下文很小一部分时工作良好，一旦需要关注的信息比例变大，其性能就会可预测地衰减。LLM的“注意力”极限，本质上是现有Transformer架构在计算效率、信息密度和资源分配上的根本性约束。它不是一个“bug”，而是当前技术路径下的

将LLM（大语言模型）作为“大脑”来控制计算机完成任务，正在从概念验证快速走向实际应用。这不仅仅是简单的自动化，而是朝着创建通用AI助理/代理的方向发展。以下是对这个领域的进一步探索，涵盖不同层次、现有工具、技术挑战和未来展望。

OpenAI采用流模式时，思考过程也是通过流式输出的。这意味着可以像接收最终回答一样，实时逐片段获取模型思考过程，实现边推理边展示的效果。这里尝试基于网络资料，尝试解锁这一过程的具体实现方式。

虽然提示词中可以通过json格式示例方式，指定模型的结构话输出。然而这种方式比较容易出错，轻微的输出不规范，就会导致json解析失败。目前使用OpenAI API进行JSON结构化输出，主要有两种推荐的方法：其中，Structured Outputs是更新、更可靠的方式，能保证模型输出符合定义的JSON Schema。这时尝试基于网络资料，给出具体的实现方法和代码示例。

定义可用工具，在这里即指定义Function。需要以 JSON 格式描述函数，包括函数名、描述和参数。tools = ["description": "获取指定城市的当前天气信息","city": {"description": "城市名称，例如：北京、上海"},"unit": {"description": "温度单位，默认为摄氏度"},