logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

AI开发平台TAI:PD分离加持,让大模型推理“快且稳”

当你向大模型发送一个请求时,系统需要完成两件事:首先,理解你输入的内容(Prompt),这涉及对输入Token的并行计算,生成中间状态(KV Cache)并输出第一个Token——这就是。想象一下:Prefill任务正在执行大量并行计算,GPU的计算单元被占满,此时一个简单的单Token Decode请求来了,却发现计算资源被锁定,只能等待。而Decode阶段则是。第二步:使用PD模式后,平台提供

#人工智能
WebRTC Simulcast 大小流介绍与优化实践

Simulcast 是 WebRTC 中的一种标准化技术 ,简称大小流。通过 Simulcast,客户端可以同时发送同一视频的多个版本。每个版本都以不同的分辨率和帧率独立编码,带宽较多的拉流端可以接收较高质量的视频流,带宽有限的拉流端则可以接收较低质量版本的视频流,从而保障每个参会者都能有流畅的观看体验。在我们的视频会议产品中,支持参会者启用大小流功能,以提高整体会议质量。1为什么选择大小流在网络

#webrtc
<span class=“js_title_inner“>PostgreSQL 图数据库化方案:Apache AGE 的引入与实践</span>

在 PostgreSQL 图数据库化的实践中,Apache AGE 的引入为传统关系型数据库注入了强大的图计算能力。作为 PostgreSQL 的插件,AGE 无需额外独立部署,便可在熟悉的数据库环境中管理节点、关系及属性,实现图数据的存储与查询。未来,我们计划在此基础上引入更多 PostgreSQL 插件,进一步拓展数据库的功能边界,为企业数据应用提供更多可能性。360智汇云是以"汇聚数据价值,

#数据库#postgresql#apache
360 智汇云 Kafka 云原生架构演进

360智汇云是以"汇聚数据价值,助力智能未来"为目标的企业应用开放服务平台,融合360丰富的产品、技术力量,为客户提供平台服务。具体的测试场景为:集群初始只有 1 个 Broker,启动 OpenMessaging 直接将发送流量设置为 1 GiB/s,此时应急扩容到 16 个 Broker,观察从扩容到新 Broker 到自动承载流量的耗时。未来,我们也将持续推动 AutoMQ 在更多业务场景中

#kafka#云原生#架构 +1
PostgreSQL 全文检索深度指南:内置 FTS、zhparser 与 pg_search 全解

PostgreSQL 从很早就内置了完整的全文检索功能,近年来还涌现出 zhparser(中文分词)和 pg_search(BM25 相关度排序)两个强力补充,使得 PG 的检索能力足以与 Elasticsearch 一较高下。360智汇云是以"汇聚数据价值,助力智能未来"为目标的企业应用开放服务平台,融合360丰富的产品、技术力量,为客户提供平台服务。在 AI 与海量文本检索的时代,Postgr

#postgresql#全文检索#数据库
Golang Context 的巧妙应用:提高并发管理的艺术

通过这种方式,我们能够精细地控制不同任务的取消逻辑,避免不必要的资源浪费。考虑一个应用场景:在处理多个异步操作时,一个任务的取消可能会影响到其他相关任务的取消。在复杂的业务逻辑中,一个操作的超时可能会导致其他相关操作的取消,的超时和取消特性,我们可以轻松地实现一个并发任务池,控制任务的最大执行时间和最大并发数。的超时机制,我们能够方便地控制任务的执行时间,并确保任务池不会无限期地阻塞。的方式,往往

#golang#开发语言#后端
给OpenClaw戴上“安全锁“:AI沙箱基于E2B的硬件级隔离实践

【代码】给OpenClaw戴上“安全锁“:AI沙箱基于E2B的硬件级隔离实践。

#安全#人工智能
360扫地机原理大揭秘,竟还有无人驾驶技术?——浅析家用机器人SLAM方案

女主宣言2018年年初,360推出了扫地机器人。这款机器人应用了SLAM技术。SLAM技术可以对未知环境自动建立地图,并为智能设备导航。这一技术广泛地应用于各种可移动的智...

PostgreSQL 图数据库化方案:Apache AGE 的引入与实践

在 PostgreSQL 图数据库化的实践中,Apache AGE 的引入为传统关系型数据库注入了强大的图计算能力。作为 PostgreSQL 的插件,AGE 无需额外独立部署,便可在熟悉的数据库环境中管理节点、关系及属性,实现图数据的存储与查询。未来,我们计划在此基础上引入更多 PostgreSQL 插件,进一步拓展数据库的功能边界,为企业数据应用提供更多可能性。360智汇云是以"汇聚数据价值,

#数据库#postgresql#apache
时序数据库VictoriaMetrics 原理

这里引入了LSM的概念,数据会通过TSID 做hash,打散到若干的shard里面,之所以是多个shard是因为需要减少,shard 转入pending rows的时间,pinging rows 中会每5s将rows flush 到 in-memory parts中,parts中是由若干block组成的。这里Metric raw name,做hash决定发往哪个vmstorage节点,将此时间序列

#时序数据库#数据库
    共 48 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择