logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Python----大模型(GPT-2模型训练加速,训练策略)

本文介绍了GPT-2模型的训练加速与优化技巧。在加速方面,主要采用四种方法:1)利用NVIDIA TensorCore进行混合精度计算加速;2)使用PyTorch的混合精度训练减少显存占用;3)应用torch.compile进行模型编译优化;4)采用FlashAttention加速长序列处理。 在训练技巧方面,重点包括:1)梯度裁剪防止梯度爆炸;2)采用余弦退火学习率调度策略;3)参数分组正则化;

文章图片
#python#pytorch#人工智能
Python----计算机视觉处理(Opencv:道路检测完整版:透视变换,提取车道线,车道线拟合,车道线显示,)

在道路检测的完整流程中,首先通过**透视变换**将驾驶视角的图像转换为俯视图,以便更清晰地分析车道线。接着,通过**提取车道线**的方法,包括梯度和颜色提取,准确识别图像中的车道线。随后,应用**车道线拟合**技术,对提取的车道线进行曲线拟合,以形成更精确的车道模型。最后,通过**车道线显示**将拟合结果叠加到原始图像上,实现可视化,便于后续的自动驾驶系统进行决策与控制。

文章图片
#opencv#计算机视觉#python +2
Python----大模型(从预训练到分布式优化的核心技术解析)

本文系统介绍了大语言模型(LLM)的训练流程与分布式训练优化技术。LLM训练分为四个阶段:预训练(构建基础语言能力)、监督微调(指令遵循)、奖励模型训练(人类偏好对齐)和强化学习微调(优化输出质量)。针对分布式训练,详细分析了数据并行(DP)、张量并行、流水线并行等加速方法,重点比较了DP与分布式数据并行(DDP)的差异,并介绍了DeepSpeed的ZeRO优化技术和混合精度训练方案。这些技术通过

文章图片
#人工智能#深度学习#python
Python----大模型(基于Fastapi+gradio的对话机器人)

本文介绍了如何搭建一个基于通义千问7B模型的聊天机器人系统。系统采用三部分架构:1) 使用ModelScope下载大模型并启动vLLM服务;2) 通过FastAPI构建后端接口,支持流式响应和参数调节;3) 采用Gradio设计交互界面,包含对话历史管理和生成参数控制。重点讲解了temperature和top_p参数的作用机制及不同场景下的推荐配置值,如代码生成(0.2/0.1)、创意写作(0.7

文章图片
#python#fastapi#机器人 +1
Python----大模型(ollama部署Qwen2.5-0.5B)

Ollama是一款开源的大语言模型管理工具,简化了本地部署和运行流程。支持MacOS、Linux和Windows系统,通过简单命令即可操作。安装默认在C盘,可修改环境变量更换安装路径(需重启生效)。基本操作包括模型部署(如Qwen2.5-0.5B)、启动服务、查看/删除模型等,常用命令如ollama run/pull/list等。使用前需验证安装(ollama list),适合快速搭建本地大模型环

文章图片
#人工智能#语言模型#python
Python----OpenCV(几何变换--图像平移、图像旋转、放射变换、图像缩放、透视变换)

本文介绍了OpenCV中常用的图像几何变换方法,包括: 图像平移:通过2×3变换矩阵实现像素位移; 图像旋转:使用getRotationMatrix2D获取旋转矩阵,包含两种实现方式(带裁剪和不裁剪); 仿射变换:通过三组对应点实现线性变换,支持平移、缩放、旋转等操作; 图像缩放:使用resize函数,可指定目标尺寸或缩放因子,推荐不同场景的插值方法; 透视变换:通过四组对应点进行投影变换,适用于

文章图片
#python#opencv#开发语言 +2
Python----计算机视觉处理(Opencv:直方图均衡化)

在计算机视觉处理中,使用 OpenCV 的直方图均衡化可以改善图像的对比度和亮度。通过 `cv2.equalizeHist()` 函数对灰度图像进行处理,可以有效地分散像素强度,从而增强细节和可视性,特别是在光照不均的情况下,使得图像更加清晰和易于分析。

文章图片
#计算机视觉#python#opencv +1
Python----大模型(Langchain-Prompt提示词)

本文介绍了LangChain中的Prompt模板使用方法,包括: 单个变量PromptTemplate的两种创建方式(自动提取变量和显式声明) 多个变量PromptTemplate的应用场景和格式化方法 聊天提示模板ChatPromptTemplate的组成要素(系统消息、用户消息和AI消息模板) 各类消息模板的具体用途和使用示例 重点说明了不同模板的特性差异、适用场景和最佳实践,帮助开发者灵活构

文章图片
#人工智能#python#语言模型
Python----OpenCV(图像分割——彩色图像分割,GrabCut算法分割图像)

摘要:本文介绍了两种图像分割方法:彩色图像分割和GrabCut算法。彩色图像分割利用颜色特征(RGB、HSV、Lab等色彩空间)通过cv2.inRange()和cv2.bitwise_and()函数实现目标提取,并讨论了光照变化等常见问题的解决方法。GrabCut算法则基于高斯混合模型,通过用户交互式选择ROI区域,结合图割理论实现精确的前景提取。两种方法均附有OpenCV实现代码,适用于人像抠图

文章图片
#python#opencv#开发语言 +3
Python----大模型(量化 Quantization)

大模型量化技术通过降低参数精度来压缩模型,提高推理效率。主要方法包括FP16/INT8/INT4等不同精度的转换,可显著减少存储空间和计算开销。GPTQ采用逐层分组量化策略,结合INT4权重和FP16激活值的混合精度,兼顾效率与精度。AWQ则通过分析激活分布识别关键权重通道,保留少量FP16参数以降低量化误差。两种方法均能在保持模型性能的同时实现4-8倍的压缩比,适用于边缘计算、服务器部署等场景,

文章图片
#人工智能#python
    共 157 条
  • 1
  • 2
  • 3
  • 16
  • 请选择