logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【大模型】AI平台 joyagent 2.0 的部署与测试

在vscode下面终端界面中,点击【PORTS】,保证里面的 【PORT】和【Forwarded Address】的端口号是相同的。本篇博客记录下自己在配置joyagent的过程,以【手动初始化环境,启动服务】为例,后端调用的deepseek-chat大模型。当确保上面的异常都排除完后,出现【“任务执行失败,请联系管理员”】,这个时候就要排查 MCP客户端是否能正常被调用。若端口被占用,清除对应的

文章图片
#人工智能
ubuntu配置环境 || 虚拟环境中【快速】安装pytorch等cudatoolkit相关环境

1 深度学习的工作环境,一般流程安装好conda创建虚拟环境并且激活conda create -n pytorch python=3.6source activate pytorch.需要知道,使用conda命令安装库时,会安装其他的依赖库(或相关库),而且这些库也有默认的版本。所以在多个库相互兼容的情况下,想要安装指定版本的库,可以使用pip进行单独安装2 安装pytorch进入pytorch官

#pytorch#ubuntu
论文阅读 || 目标检测系列—— Mask R-CNN详解

论文链接:https://arxiv.org/abs/1703.06870mask RCNN是He Kaiming大神2017的力作,其在进行目标检测的同时进行实例分割,取得了出色的效果,取得了COCO 2016比赛的冠军图像分割的集中方式:语义分割、实例分割、全景分割。如下图所示Mask RCNN沿用了Faster RCNN的思想。Mask RCNN = (ResNet-FPN)...

论文阅读 || 目标检测系列 —— Faster RCNN详解

1 Faster RCNN操作流程1. 卷积层(conv layer):【输入为整张图片,输出为提取的feature map】用于提取图片的特征,比如VGG16。2. RPN模块(Region Proposal Network):【输入为feature map,输出为候选区域】。这里替代之前的search selective。首先生成很多Anchor box,对其进行裁...

【大模型】理论知识:ZeRO-3、FSDP 和 分页优化器的介绍与对比

本文分析了深度学习模型训练过程中的显存占用情况,重点介绍了ZeRO-3优化技术。在训练过程中,显存主要存储模型参数、梯度和优化器状态,其中优化器状态(如Adam优化器的动量、方差等)占用最大。采用混合精度训练时,还需额外存储FP32主参数副本,使得优化器状态总量可达模型参数量的3倍。动态部分包括与batch大小线性相关的激活值和临时梯度缓存。ZeRO-3技术通过将优化器状态、梯度和参数分区存储在多

【大模型】理论知识:LoRA、QLoRA、全量微调的介绍和对比

LoRA(低秩自适应)是一种高效的模型微调方法,其核心思想是利用低秩矩阵近似权重更新。它通过冻结预训练模型的主权重矩阵W,并引入两个低秩矩阵A(降维)和B(升维)作为旁路分支,学习任务特定的增量更新(ΔW=BA)。训练时仅优化A和B,大幅减少参数量(如仅需原参数的2%)。B初始化为零确保训练平稳开始,最终增量可合并回W实现无损推理。LoRA的设计借鉴残差思想,主路保留通用知识,旁路学习精细调整,实

论文翻译 || 模型剪枝(1)—— PRUNING FILTERS FOR EFFICIENT CONVNETS

ABSTRACT在各种应用中的成功伴随着计算和参数存储成本的显著增加。最近为减少这些开销所做的努力包括在不损害原有精度的情况下修剪和压缩各层的权重。然而,基于大小的权值剪枝从完全连通的层中减少了大量的参数,由于剪枝后的网络具有不规则的稀疏性,可能不能充分降低卷积层的计算成本。我们提出了一种cnn的加速方法,我们从被识别为对输出精度影响很小的cnn中删除滤波器。通过去除网络中所有的过滤器及其连接的特

文章图片
#剪枝#深度学习#人工智能
【大模型】Xinference的安装和部署

Xinference通过提供简单API和强大的功能,使得私有化模型的大规模部署成为可能,无论是在个人电脑还是分布式集群中,都能够发挥异构硬件的全部潜力,达到最极致的吞吐量与最低的推理延迟。:Xinference简化了包括大语言模型、多模态模型、语音识别模型等模型部署的过程,允许用户轻松一键部署自己的模型或内置的前沿开源模型。:Xinference专注于优化模型的推理性能,并支持多种类型的模型,包括

文章图片
ubuntu 下pcl1.8的安装与测试

已经安装过pcl多次,记录下。!!!!一定注意,安装时候,要把anconda的环境变量去掉

文章图片
【相机与图像】2. 相机内外参的标定的代码示例

3D的点的生成:在每张图片上,共存在11*8个角点存在。每张图存在自己的世界坐标系,是以右上角(长边为底边)为3D坐标原点,所以在代码中需要生成一个shape=(11*8,3) 的numpy数组。存放着世界坐标系中的棋盘格点,例如(0,0,0), (1,0,0), (2,0,0) …使用将要标定的摄像头,以不同的角度采集棋盘格,要保证视野内出现完整的棋盘格。图片上的2D角点检测:该工作在openc

文章图片
#算法
    共 96 条
  • 1
  • 2
  • 3
  • 10
  • 请选择