摘要：上下文工程的核心挑战是合理分配有限的 token 预算。建议将总 token 划分为四个"资金池"：指令与边界、历史与记忆、检索块（RAG）、工具返回，并预留输出空间。当预算不足时，优先采用确定性截断/分页，再用摘要补位；工具返回仅保留关键字段，其余数据存库但不进上下文。 关键词：Token预算；上下文压缩；摘要；滑动窗口；分页；工具输出截断

openvino系列 11. PyTorch pt 模型与 ONNX 模型转化 IR 模型本章节将介绍 OpenVINO Model Optimizer 模块，以及如何将PyTorch pt 模型与 ONNX 模型 模型转化为 IR 模型。文章目录openvino系列 11. PyTorch pt 模型与 ONNX 模型转化 IR 模型1 Model Optimizer 介绍2 PyTorch `

本案例演示在 OpenVINO 中使用 MidasNet 进行单目深度估计，输入图片情况。

基本的图像分割的例子，遵循下面三个步骤：首先，我们需要读取模型（ie.read_model）并且编译（ie.compile_model）；第二步，我们读取图片，并且reshape其大小以符合模型的输入；第三部，模型推理（compiled_model([input_image])[output_layer_ir]）。得到的结果的尺寸和模型的输出尺寸相符。

对于某些设备，例如 GPU，加载模型可能需要一些时间。 openvino通过将模型缓存在缓存目录中来解决此问题。

将OpenVINO的 SSDLite MobileNetV2 物体识别算法在视频流中进行推理。另外，如何通过多线程的方式进行视频读取，以及视频分析。

GMCNN 图像修复案例：1. 下载模型`gmcnn-places2-tf`以及中间件`IR`转换；2. 加载`IR`模型；3. 导入测试图片，新建mask，两者合成为mask测试图片；4. 调整mask以及mask测试图片大小，使之与模型输入大小匹配；5. 模型推理，显示结果。

本案例展示了如何将 MobileNetV3 模型从PaddleHub加载到本地，最终转换为 OpenVINO IR 模型。我们还展示了如何使用 OpenVINO 的 推理引擎对样本图像执行分类推理，并比较 PaddlePaddle 模型与 IR 模型。

基本的图像分割的例子，遵循下面三个步骤：首先，我们需要读取模型（ie.read_model）并且编译（ie.compile_model）；第二步，我们读取图片，并且reshape其大小以符合模型的输入；第三部，模型推理（compiled_model([input_image])[output_layer_ir]）。得到的结果的尺寸和模型的输出尺寸相符。

Docker每日一阅（6）：Docker 练习：Dockerfile环境变量，打包镜像文章目录Docker每日一阅（6）：Docker 练习：Dockerfile环境变量，打包镜像0 回顾0 任务描述1 练习：Dockerfile的环境变量1.1 问题1.2 答案2 练习：查错2.1 问题2.2 答案3 练习：打包镜像3.1 问题3.2 答案4 练习：容器命名4.1 问题4.2 答案5 练习：文件