logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

L2 OpenCompass 评测书生大模型实践【自存】

OpenCompass是由上海人工智能实验室开发的开源大模型评测平台,旨在全面评估大语言模型和多模态模型的能力。在 OpenCompass 中评估一个模型通常包括以下几个阶段:配置 -> 推理 -> 评估 -> 可视化。

#人工智能
L2 LMDeploy 量化部署书生大模型实践【自存】

L2 LMDeploy 量化部署书生大模型实践本课程将以LMDeploy 工具为核心,带您掌握大模型部署全链路实战。学员将掌握如何搭建一个支持多模态任务的 OpenAI 兼容 API 服务,解决显存不足问题并通过 INT4 量化技术优化模型性能。此外,我们还将通过批处理和 KV Cache 技术,显著提升并发能力,确保大规模用户请求下的高效响应。

#android
L1 玩转书生大模型 API 与 MCP【自存】

MCP(Model Control Protocol)是一种专为 AI 设计的协议(类别 USB-C接口转换器),其核心作用是扩充 AI 的能力。获取外部数据操作文件系统调用各种服务接口实现复杂的工作流程通过本教程,您将掌握如何让 Intern-S1 API 突破传统对话限制,实现以下核心功能:外部数据获取:连接并处理来自各种外部源的数据文件系统操作:具备完整的文件创建、读取、修改和删除能力,实现

#python#人工智能
到底了