logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

AIBrix: 专为 vLLM 打造的可扩展、高性价比控制面

2025年2月21日,vLLM通过官方博客宣布了由字节跳动开发的AIBrix大模型推理系统开源,为vLLM推理引擎提供可扩展且高性价比的控制面。开源72 小时内,AIBrix 收获的GitHub Star 数已超 1000, 96 小时突破2000, 截止本文发布保持着榜第一的位置。

文章图片
#开源
AIO Sandbox:为 AI Agent 打造的一体化、可定制的沙箱环境

AIO Sandbox 通过一个 Docker 镜像整合所有能力,提供统一文件系统与鉴权,并支持镜像定制,提升了 Agent 任务执行与交付效率。

文章图片
#人工智能#开源
AIBrix v0.5.0 正式发布:实现批量API支持、KVCache v1连接器升级,全面提升P/D架构协同效能

今日,我们正式发布 AIBrix v0.5.0。此版本引入与 OpenAI 兼容的批处理 API,专为处理高吞吐、时延不敏感的离线推理与评估任务设计,有效避免对实时端点造成干扰。同时,新版本集成了全新的 KVCache 连接器(AIBrixOffloadingConnectorV1Type3),借助其流水线式预取与分层卸载机制,显著提升 KVCache 卸载与复用的效率。

文章图片
#架构#人工智能#云原生 +1
大幅降低数据科学门槛!豆包大模型团队开源AutoKaggle,端到端解决数据处理

字节跳动豆包大模型团队与 M-A-P 社区于近日提出 AutoKaggle ,为数据科学家提供了一个端到端的数据处理解决方案,帮助简化和优化日常数据科学工作流程的同时,极大降低数据科学的门槛,可帮助更多没有相关背景的使用者进行有价值的探索。最后,我们统计了不同错误类型及出现次数,可以看到,每个子任务阶段都有可能发生错误。未来,团队成员还将继续探索智数据科学课题及相关开源工作,并关注 Kaggle

文章图片
#开源#数据分析
字节云原生数仓 ByConity 开源一周年!听听 Committer 们怎么说

通过和几位 committer 的沟通,我们发现他们对于想参与社区的同学给出了几乎类似的建议。兴趣驱动和业务驱动是两个主要方面,但是只有先用起来,才会发现问题,并通过在社区上寻求帮助或反馈问题逐渐加入社区。同时也非常欢迎大家把使用或者迁移经验分享到社区,并通过丰富社区生态,让 ByConity 社区逐渐壮大。–END–

#云原生#开源#大数据
AIO Sandbox:为 AI Agent 打造的一体化、可定制的沙箱环境

AIO Sandbox 通过一个 Docker 镜像整合所有能力,提供统一文件系统与鉴权,并支持镜像定制,提升了 Agent 任务执行与交付效率。

文章图片
#人工智能#开源
字节跳动开放计算最佳实践,亮相 2024 开放计算中国峰会

8 月 8 日,由两大开放计算组织 OCP(Open Compute Project)与 OCTC(开放计算标准工作委员会)联合主办的主题为 “开放协同:协作、智慧、创新” 的 2024 开放计算中国峰会在北京举行,以期与全球开放计算领域的社区和企业领袖、技术专家以及行业先锋,共同探讨新时代开放计算技术的最新进展和实践经验,促进生态融合、智能化实践和技术创新。而随着人工智能、大模型的爆发,传统的计

文章图片
#开源#硬件工程#系统架构 +1
大幅降低数据科学门槛!豆包大模型团队开源AutoKaggle,端到端解决数据处理

字节跳动豆包大模型团队与 M-A-P 社区于近日提出 AutoKaggle ,为数据科学家提供了一个端到端的数据处理解决方案,帮助简化和优化日常数据科学工作流程的同时,极大降低数据科学的门槛,可帮助更多没有相关背景的使用者进行有价值的探索。最后,我们统计了不同错误类型及出现次数,可以看到,每个子任务阶段都有可能发生错误。未来,团队成员还将继续探索智数据科学课题及相关开源工作,并关注 Kaggle

文章图片
#开源#数据分析
大幅降低数据科学门槛!豆包大模型团队开源AutoKaggle,端到端解决数据处理

字节跳动豆包大模型团队与 M-A-P 社区于近日提出 AutoKaggle ,为数据科学家提供了一个端到端的数据处理解决方案,帮助简化和优化日常数据科学工作流程的同时,极大降低数据科学的门槛,可帮助更多没有相关背景的使用者进行有价值的探索。最后,我们统计了不同错误类型及出现次数,可以看到,每个子任务阶段都有可能发生错误。未来,团队成员还将继续探索智数据科学课题及相关开源工作,并关注 Kaggle

文章图片
#开源#数据分析
AIBrix: 专为 vLLM 打造的可扩展、高性价比控制面

2025年2月21日,vLLM通过官方博客宣布了由字节跳动开发的AIBrix大模型推理系统开源,为vLLM推理引擎提供可扩展且高性价比的控制面。开源72 小时内,AIBrix 收获的GitHub Star 数已超 1000, 96 小时突破2000, 截止本文发布保持着榜第一的位置。

文章图片
#开源
    共 13 条
  • 1
  • 2
  • 请选择