
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
2019年2月4号谷歌发布Chrome 80稳定版后,关于cookie的SameSite属性做了以下更改:(1)没有设置SameSite属性的默认SameSite=Lax;(2)SameSite=None的cookie则必须设置为Secure,即安全链接(https)。大家可能不是很了解SameSite属性,它是在Chrome51版本新增的一个属性,主要是用来防止第三方恶意获取c...
大模型推理服务的生产化,本质是在显存延迟吞吐解决了显存碎片问题,让 32k 上下文不再 OOM连续批处理把 GPU 利用率从 35% 拉到 90%+,吞吐提升 20 倍平衡了 TTFT 和吞吐,长文本场景延迟降低 60%让 RAG/Agent 场景的重复前缀零成本但 vLLM 跑起来只是开始,真正的难点在参数调优 + 监控告警 + 容量规划。这期没讲完的还有:多 LoRA 热加载、动态量化切换、K
连接管理 · 背压限流 · 心跳保活 · 熔断降级 · 可观测性 · 企业微信 / 电商推送全链路拆解
Java虚拟线程在AI推理场景中展现出显著优势,特别适合高I/O等待(95%时间)的任务。相比传统OS线程,虚拟线程内存开销仅1KB/个,吞吐量提升14倍。生产架构采用网关+并发推理+聚合模式,结合JDK21的StructuredTaskScope实现多模型竞速调用。关键实践包括:手动传递traceId保证链路追踪、Semaphore控制并发、Resilience4j熔断保护下游。需注意虚拟线程不
Service Mesh / Istio / Envoy
告别线程泄漏与上下文丢失 — Project Loom 终极利器
LangGraph 状态机 × Spring AI 工具链 × 生产级可观测性
Java虚拟线程在AI推理场景中展现出显著优势,特别适合高I/O等待(95%时间)的任务。相比传统OS线程,虚拟线程内存开销仅1KB/个,吞吐量提升14倍。生产架构采用网关+并发推理+聚合模式,结合JDK21的StructuredTaskScope实现多模型竞速调用。关键实践包括:手动传递traceId保证链路追踪、Semaphore控制并发、Resilience4j熔断保护下游。需注意虚拟线程不
这几天开发vue3项目,引用elment中的el-select和el-option进行下拉框的渲染。在此过程中出现了这样的问题(下述代码有所简化):首先,我通过下述代码对el-option进行数据绑定<div class="myInfo_type"><span@click="handleClick"></span></div><div clas







