logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型推理框架性能对比与选型指南

大模型推理框架对比摘要 本报告对比分析了五大主流LLM推理框架(vLLM、SGLang、TensorRT-LLM、LMDeploy、TGI)的核心技术与适用场景。vLLM凭借PagedAttention和Continuous Batching技术,在显存利用率和易用性上表现突出;SGLang专长于结构化生成与复杂推理,RadixAttention技术显著提升多轮对话效率;TensorRT-LLM在

#人工智能#sglang
opencv图像处理问题AttributeError: ‘NoneType‘ object has no attribute ‘copy‘

解决方法:1、路径不能包含中文,仔细检查一下,有中文的话改改2、图片是否在该路径下,确保路径没有问题。3、路径中单斜杠’‘替换成双斜杠’\‘或’//'或‘/’。

#opencv#python#tensorflow
计算机视觉中的注意力机制

展开全文目录概要为什么需要视觉注意力注意力分类与基本概念软注意力The application of two-level attention models in deep convolutional neural network for fine-grained image classification---CVPR20151. Spatial Transformer Networks(空间域注意

#计算机视觉#深度学习#算法
diskpart误删磁盘后的分区数据恢复

前几天用diskpart删除系统保留分区的时候不小心照着教程clean一下,完事发现硬盘分区还有文件什么的全没了,一下子慌了,赶紧百度有什么方法恢复。

#windows#经验分享
Ball k-means:一种无界的快速自适应精确k-means算法

k-means是人工智能领域最常用的快速基础算法之一,广泛用于聚类、数据预分析及与改进其他机器学习算法等。为了进一步提高k-means算法效率,很多优秀的k-means算法通过对每个样本维持一个上下界来减少样本距离计算次数,达到加速目的。比如最早的Elkan,以及在此基础上发展出来的harmly, ann, exp, yingyang等...

#人工智能#机器学习#python
到底了