logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

build_bkm_repair_index_from_pdfs.py

索引构建脚本: scripts/build_bkm_repair_index_from_pdfs.py ,用仓库现有 pypdf 按页抽取 PDF 文本并生成 bkm_repair.json (字段: id/title/question/action/root_cause/pdf/page/snippet ),并支持可选 --enrich ollama 生成卡片所需的 action/root_ca

#java#大数据#前端
模型性能测试脚本

明白了,你们现在的环境非常“纯粹”:只有一个裸的GPT模型(比如gpt-4o-mini)接口,没有挂载内部知识库,也没有对话历史管理。这种情况下,前面的完整评估框架里有些项(如工具调用、基于私域知识的准确性)可以暂时跳过,我们把焦点缩到两个直接诉求上:脚本测试的核心,就是把这个GPT接口当成一个“黑盒HTTP服务”,用并发的方式模拟用户发消息,然后收集数据。推荐工具:k6(轻量,脚本化)或 Pyt

#人工智能#大数据#算法
模型比对gpt5.4nano

企业私有化本地部署、中文业务:首选(开源免费权重,可离线)云端API做自动化Agent、复杂编程、多轮深度推理:首选高并发低成本批量文本处理(标签、摘要):首选老GPT5-mini已无选型价值,全维度被新款nano超越。

gpu安装milvus问题解决

看到这个报错先别急,这个问题通常是由于你拉取的 Milvus 镜像版本与系统的 NVIDIA 驱动,或是与 NVIDIA Container Toolkit 版本不兼容导致的。这是一个软硬件版本匹配的问题。我们可以通过以下三步,重新配置一个能正确调用 GPU 的 Milvus 环境。

#milvus#java#eureka
libcudart.so.12: cannot open shared object file: No such file or directory

这个错误信息。这通常意味着 Docker 的 GPU 运行时(即)可能没有正确安装或配置,导致容器无法访问宿主机的 CUDA 库。

#数据库
docker无法连接GPU资源解决方案

确认 Docker 安装方式:如果不是通过官方仓库安装,需要先卸载现有版本(尤其是 Snap 版)。安装并配置 NVIDIA Container Toolkit:这是让容器访问 GPU 的关键。验证配置:重新运行,如果能看到类似Tesla T4的显卡信息,就代表成功了。

#docker#eureka#容器
docker镜像配置

这些服务无需注册即可使用,但在速度和稳定性上各有差异,建议配置2-3个作为备用。这类服务为自家云服务器提供了内网加速,其他环境使用也能获得稳定提速。推荐选择你当前服务器所在的云厂商。以下是几个典型例子,如果还在使用,建议从配置中移除,以免影响镜像拉取。镜像源的可用性是动态变化的,建议在配置后,通过。字段来验证是否配置成功。

#docker#容器#运维
模型比对gpt5.4nano

企业私有化本地部署、中文业务:首选(开源免费权重,可离线)云端API做自动化Agent、复杂编程、多轮深度推理:首选高并发低成本批量文本处理(标签、摘要):首选老GPT5-mini已无选型价值,全维度被新款nano超越。

模型性能测试脚本

明白了,你们现在的环境非常“纯粹”:只有一个裸的GPT模型(比如gpt-4o-mini)接口,没有挂载内部知识库,也没有对话历史管理。这种情况下,前面的完整评估框架里有些项(如工具调用、基于私域知识的准确性)可以暂时跳过,我们把焦点缩到两个直接诉求上:脚本测试的核心,就是把这个GPT接口当成一个“黑盒HTTP服务”,用并发的方式模拟用户发消息,然后收集数据。推荐工具:k6(轻量,脚本化)或 Pyt

#人工智能#大数据#算法
模型评估方法

评估一个内接大模型的聊天机器人的方法和思路是通用的。下面我为你梳理一套完整的评估框架,涵盖功能、性能和实施方法,你可以直接套用。

    共 14 条
  • 1
  • 2
  • 请选择