DeepInfer通过针对特定模型的极致优化(如 Wide-EP、EPLB、SWA Bounded Replay)、生产级的稳定性特性(如确定性推理、异步调度)，以及对英伟达/昇腾双平台的支持，为有能力管理大规模 GPU 集群的团队提供了一个经过实战检验的高性能推理选项。需要注意的是，其生产部署的最小有效单元(如64卡 Prefill + 64卡Decode)门槛较高，它主要面向的是具备集群资源的

DeepInfer通过针对特定模型的极致优化(如 Wide-EP、EPLB、SWA Bounded Replay)、生产级的稳定性特性(如确定性推理、异步调度)，以及对英伟达/昇腾双平台的支持，为有能力管理大规模 GPU 集群的团队提供了一个经过实战检验的高性能推理选项。需要注意的是，其生产部署的最小有效单元(如64卡 Prefill + 64卡Decode)门槛较高，它主要面向的是具备集群资源的

离线环境使用sentence-transformers，需要在有网环境下载好模型，再将文件迁移到离线机器上。这里尝试基于网络资料，详细示例sentence-transformers下载模型和离线加载模型的过程。

python借助于pymysql运行sql查询，能返回数据库数据，但一般都没有标志数据的列名。这里参考网络资料，尝试从一个从复杂的sql select语句中提取列名。

在Windows 上安装uv工具有多种方法，这里尝试用官方脚本安装，适用于所有 Windows 用户。

mstsc是windows系统的远程桌面连接工具。这里尝试基于网络资料，解决windows找不到mstsc.exe时，mstsc不在"C:\Windows\System32"，而是下在C:\windows\WinSxS\anmd64xxx"的问题。

之前探索了能控制电脑桌面的开源agent工具。这里进一步探索能控制手机屏幕的开源agent多模态工具。

之前探索了elasticsearch如何插入数据和检索。这里进一步探索多字段的组合查询，同时涉及精确查询和模糊查询。所用示例参考和修改自网络资料。

点击如下链接，选择community,Linux/Mac Executor，点击Download Community。将下载的安装包neo4j-community-2025.06.2-unix.tar.gz移动到neo4j目录，然后解压。本文使用conda环境安装，neo4j所依赖jdk也采用conda install的方式安装。本文下载的安装包是 neo4j-community-2025.06.

deepseek-r1:8b 比较适合笔记本部署，大约5G左右，当然也可以根据电脑配置选择其他版本。ollama将deepseek-r1:8b拉到本地后，就可以开始交互测试了。相比llama.cpp，ollama因为集成各种工具，使用更简单。在mac m1基于llama.cpp运行deepseek。在ollama的官网下载mac m1版本的ollama。2运行deepseek r1。最终获得如下所