提示工程无疑是开发 LLM 原生应用程序最关键的技能，因为制作正确的提示可以显著影响应用程序的性能和可靠性。⁤本文根据LLM 三角原则，介绍了八个实用的提示工程技巧，以提高您的 LLM 提示水平。“LLM-Native 应用程序 10% 是复杂模型，90% 是实验数据驱动的工程工作。在本文中，我们将使用“登陆页面生成器”示例来演示如何应用每个技巧来增强现实世界的 LLM 应用程序。首先定义每个代理

如果您和我一样，那么大约十二年前，您就因为 Eric Ries 而加入了 MVP/精益创业潮流。谁不想“利用持续创新打造出极为成功的企业”呢？但当你读到这句话时，你可能会注意到一些事情。精益求精并专注于最低限度的可行性是给初创公司的建议——超越竞争对手进入市场，节省时间/金钱/资源，并更快地实现盈利。当然，客户也在这个等式中，但只是飞轮上的一个齿轮，它告诉公司产品需要哪些最低限度的功能才能建立发展

幻觉或“编造”是大型语言模型 (LLM) 的常见故障模式，它们会产生事实上不正确或无意义的内容。当模型不确定真正的答案时，它会试图通过捏造信息来提供过度的帮助。该模型缺乏适当的基础、背景和常识来确定事实的错误。该模型尚未经过明确训练以避免虚假内容。通过精心设计我们提供给这些模型的提示，可以降低人工智能产生幻觉的可能性。各种提示工程技术都侧重于引导模型产生更真实、更理性、更符合常识的反应。让我们探索

对于拥有内部机器学习和数据科学工程师的初创公司来说，投资定制模型开发可以带来定制性能、垂直优化、可防御的 IP 以及适应独特或特权数据资产的优势。2024 年，这里的选择将大大扩展，包括 CNN、RNN、Transformer、图神经网络、强化学习、联邦学习，以及结合偏差缓解、稳健性、反事实和集成技术。缺点在于构建成本较高、招聘困难、模型漂移/退化风险以及生产前需要进行大量测试。由于资源限制，并非

LLMCompiler是一种代理架构，旨在通过有向无环图（DAG）中的即时执行任务来加速代理任务的执行，并减少对大型语言模型（LLM）的调用次数以节省成本。它包含三个主要组件：规划器（Planner）、任务获取单元（PlanandSchedule）和连接器（Joiner）。LLMCompiler借鉴了编译器的设计理念，将用户的高级指令分解为一系列低级操作，并通过图结构动态执行这些操作。它特别适用于

MemoryManager是一个基于LLM的API，用于从对话中提取关键信息并管理长期记忆。它支持添加、更新和删除记忆，并通过定义具体的数据结构（如UserFoodPreference）来优化信息整理。代码示例展示了如何使用Pydantic创建记忆结构，并通过create_memory_manager生成MemoryManager实例。该API利用LLM工具调用来更新记忆，但不同模型的准确性可能有

该行为的核心是能解析PDF文件，并且其中的图片内容可以通过OCR获取到文字，进行识别和解析。

DeepSeek 的第一代推理模型，在数学、代码和推理任务中实现了与 OpenAI-o1 相当的性能。Meta 的全新先进 70B型号具有与 Llama 3.1 405B 型号相似的性能。Meta Llama 3.3 多语言大型语言模型 (LLM) 是一个经过预训练和指令调整的生成模型，大小为 70B（文本输入/文本输出）。Llama 3.3 指令调整纯文本模型针对多语言对话用例进行了优化，在常见

本文探讨了将长期记忆与大型语言模型（LLM）结合使用的实现方法，重点介绍了LangMem中的两种长期记忆模式：HotPath和Background。HotPath模式在每次对话时实时更新长期记忆，适用于需要即时记忆的场景。我们通过LangGraph内存存储和自定义管理器实现了HotPath模式，具体步骤包括：从存储中搜索用户相关的长期记忆、将记忆嵌入系统消息、将对话内容反映至长期记忆。通过代码示例

自动语音识别 (ASR)，也称为语音到文本或音频转录，是一种将存储在音频或视频文件中的口语转换为书面文本的技术。ASR 旨在通过两种方式使计算机与人类用户之间的交流更加顺畅：让计算机理解口头命令，并从基于语音的来源（例如，根据口述或会议记录）转录文本，目的是以易于处理和显示的方式存储记录。尽管 ASR 已经存在了几十年，但导致转录变得广泛可用的真正突破发生在过去十年，这得益于训练数据的日益普及、硬