虽然你也可以用 LangChain（https://www.langchain.com/ ）、LangGraph （https://github.com/langchain-ai/langgraph ）或 LlamaIndex （https://www.llamaindex.ai/ ）来做编排，但这个示例使用的是。当智能体需要真实数据时，就会调用这些工具。最常见的扩展方式是：新增一个专家智能体（比

本文分享一个真实跑通的案例：在AI PC上，使用 Unsloth 进行 LoRA 微调，对 meta-llama/Llama-3.2-3B-Instruct 进行训练，让模型具备 Function Calling（工具调用） 能力，并完成推理与评测。

本文会通过实时语音翻译示例，带你一步步了解如何通过 Intel® OpenVINO™ 工具，把这两个模型优化成更轻量、推理更快、部署更灵活的版本，从而在 AIPC 上获得理想的性能。

OpenVINO™ Java API，旨在推动 OpenVINO™在Java领域的应用。

无论您是在构建响应迅速的聊天机器人、高效的虚拟助手，还是具备可扩展性的创意应用，OpenVINO™ 正在重新定义 AI 推理的可能性。在理想情况下，草稿模型的预测完全符合主模型的预期，使得验证过程可以在单次请求内完成。这些说明涵盖了常见的设置流程，例如：安装必需的工具（CMake、Visual Studio、Python），运行 setupvars.bat 文件，导航到适当的目录。OpenVINO

OpenVINO™作为一个跨平台的深度学习模型部署工具，可以极大优化大语言的模型的推理性能，在充分激活硬件算力同时，降低对于内存资源的占用。本文将介绍如何利用OpenVINO™工具套件在本地部署MiniCPM-V4.0模型。

点击蓝字关注我们,让开发变得更有趣作者 | 武卓 英特尔 OpenVINO™ 布道师OpenVINO™新年快乐！2025年首个 OpenVINO™ 版本正式发布 生成式AI（GenAI）在模型质量与应用范围上持续爆发式增长，DeepSeek 等顶尖模型已引发行业热议，这种势头预计将在 2025年延续。本次更新聚焦性能提升、更多生成式AI 模型的支持，并针对英特尔®神经处理单元（NPU）推出关键优化

让我们一起看看本次版本如何继续推动我们的使命——让 AI 模型在 Intel 硬件上的部署变得更快、更高效、更易用。

OpenVINO™-GenAI开发包OpenCV2025已经支持多种大语言模型

帮助上位机开发者提升机器视觉算法能力