logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

vLLM GPU 安装 — Pre-built Wheels AND Build From Source

vLLM 是一个面向高性能 LLM 推理的库,支持多种 GPU 平台(NVIDIA CUDA / AMD ROCm / Intel XPU)。它会:查找当前分支对应的 base commit,下载对应的预编译 wheel,并将其编译库用于本地开发,从而不用重新编译 kernel。场景:你要修改 C++/CUDA kernel 或者需要针对特定平台(aarch64/GH200)做定制。场景:你只需要

#chrome#前端
从零开始:用PyTorch构建CIFAR-10图像分类模型达到接近1的准确率

数据集名称:CIFAR-10数据集简介:CIFAR-10 数据集是一个广泛用于图像分类任务的基准数据集,由 Alex Krizhevsky 在 2009 年创建,是计算机视觉领域最常用的数据集之一。它包含 60000 张 32x32 彩色图像,分为 10 个不同的类别,每个类别有 6000 张图片,其中 50000 张用于训练模型,10000 张用于测试模型性能。

文章图片
#pytorch#分类#人工智能 +1
加速PyTorch模型训练:自动混合精度(AMP)

是一种训练技巧,允许在训练过程中使用低于32位浮点的数值格式(如16位浮点数),从而节省内存并加速训练过程。PyTorch 的 AMP 模块能够自动识别哪些操作可以安全地使用16位精度,而哪些操作需要保持32位精度以保证数值稳定性和准确性。

文章图片
#pytorch#人工智能#python
机器学习评估利器:ROC曲线与AUC的理论与实践

AUC是指ROC曲线下方的面积,它的取值范围是从0到1。AUC的具体含义是:如果随机选择一个正样本和一个负样本,分类器将正样本排在负样本前面的概率。AUCPyy−AUCPy​​y​−​其中y\hat{y}_+y​​和y−\hat{y}_-y​−​分别是模型对正样本和负样本的预测得分。因此,AUC实际上衡量了模型区分正负样本的能力。

文章图片
#机器学习#人工智能#scikit-learn
vLLM GPU 安装 — Pre-built Wheels AND Build From Source

vLLM 是一个面向高性能 LLM 推理的库,支持多种 GPU 平台(NVIDIA CUDA / AMD ROCm / Intel XPU)。它会:查找当前分支对应的 base commit,下载对应的预编译 wheel,并将其编译库用于本地开发,从而不用重新编译 kernel。场景:你要修改 C++/CUDA kernel 或者需要针对特定平台(aarch64/GH200)做定制。场景:你只需要

#chrome#前端
巴塞尔问题详解:计算所有正整数平方的倒数之和

巴塞尔问题(Basel Problem)是数学史上一个著名的问题,由意大利数学家(Pietro Mengoli)在1644年首次提出。但他未能解决,只能给出小数点后六位的近似解是1.644934,但是未能给出精确值。:意大利数学家。生于波伦亚,卒于同地。1650年在波伦亚大学获哲学学位,毕业后留校工作,直到去逝。门戈利在数学上的主要贡献是在他的《算术求积新法》(Novae quadraturae

文章图片
LLM常见名词记录

大模型常见词汇

#人工智能
【计算机网络01】 网络组成与三种交换方式

本文主要介绍了计算机网络的基础概念、因特网的发展、ISP(因特网服务提供者)的作用、因特网的组成以及三种交换方式(电路交换、分组交换和报文交换)。首先,网络是由节点和链路组成的,多个网络通过路由器互连形成互联网,因特网是全球最大的互联网。ISP为用户提供接入因特网的服务,分为不同层次,从主干网到本地网络。因特网由边缘部分(用户直接使用的主机)和核心部分(路由器和网络)组成。最后,文章详细对比了电路

文章图片
#计算机网络#网络
激活函数篇 01 —— 激活函数在神经网络的作用

欢迎来到我的主页:【本篇文章收录于专栏【以下是激活函数系列的相关的所有内容。

文章图片
#机器学习#人工智能#深度学习
激活函数篇 02 —— 双曲正切函数tanh

以下是激活函数系列的相关的所有内容:一文搞懂激活函数在神经网络中的关键作用逻辑回归:Sigmoid函数在分类问题中的应用tanh⁡(x)=ex−e−xex+e−x\tanh(x)=\frac{e^x - e^{-x}}{e^x + e^{-x}}tanh(x)=ex+e−xex−e−x​求导:ddxtanh⁡(x)=ddx(ex−e−xex+e−x)\frac{d}{dx} \tanh(x) =

文章图片
#机器学习#人工智能
    共 13 条
  • 1
  • 2
  • 请选择