登录社区云,与社区用户共同成长
邀请您加入社区
依托京东云自研推理框架,结合PD分离部署、KV Cache缓存、投机采样等推理优化技术,实现模型推理吞吐与响应效率的进一步提升,为开发者和企业用户带来更高效、更稳定的大模型服务体验。面向未来,京东云将持续深化 AI 基础设施与模型服务能力建设,携手模型厂商、开发者社区及产业伙伴,共同构建开放、多元、繁荣的 AI 生态。即日起,用户登录京东云官网,在 JoyBuilder 模型开发平台即可一键调用最
京东云
——京东云
联系我们(工作时间:8:30-22:00)
400-660-0108 kefu@csdn.net