logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

开源大模型训练及推理所需显卡成本必读:也看大模型参数与显卡大小的大致映射策略

随着各厂商相继发布大型模型,排行榜变化频繁,新旧交替,呈现出一片繁荣景象。有些技术爱好者也开始心痒难耐,萌生了构建一个庞大模型并进行训练的想法。每天都能看到各个厂家推出内测版本,这让人不禁思考:为何不在本地环境尝试一番呢?然而,当前手头仅有一块性能有限的老破小GPU显卡,这就引发了一个问题:如何在这样的条件下成功运行模型?

文章图片
#人工智能
本地部署|马斯克旗下xAI开源的Grok-1

今日AI资讯今天主要了解一下Grok-1模型规格、本地部署需要有哪些储备、本地部署的步骤以及部署过程中FAQ。

文章图片
#开源#人工智能
开源大模型训练及推理所需显卡成本必读:也看大模型参数与显卡大小的大致映射策略

随着各厂商相继发布大型模型,排行榜变化频繁,新旧交替,呈现出一片繁荣景象。有些技术爱好者也开始心痒难耐,萌生了构建一个庞大模型并进行训练的想法。每天都能看到各个厂家推出内测版本,这让人不禁思考:为何不在本地环境尝试一番呢?然而,当前手头仅有一块性能有限的老破小GPU显卡,这就引发了一个问题:如何在这样的条件下成功运行模型?

文章图片
#人工智能
FFmpeg处理音频视频

FFmpeg是一个开源的跨平台音视频处理工具和多媒体框架。它可以用于处理音频、视频、字幕等多媒体数据,支持多种音视频格式的转码、编辑、解码、编码和流媒体传输等操作。FFmpeg是由Fabrice Bellard在2000年创建的,并由全球社区持续维护和改进。视频转码:将视频从一种格式转换为另一种格式,例如将MP4转换为MKV或WebM。音频转码:将音频从一种格式转换为另一种格式,例如将WAV转换为

文章图片
Ubuntu20.04安装nvidia显卡驱动/CUDA/CUDNN

一、NVIDIA显卡驱动安装方式有哪些?二、安装NVIDIA三、安装CUDA四、安装CUDNN

文章图片
#linux
开源大模型训练及推理所需显卡成本必读:也看大模型参数与显卡大小的大致映射策略

随着各厂商相继发布大型模型,排行榜变化频繁,新旧交替,呈现出一片繁荣景象。有些技术爱好者也开始心痒难耐,萌生了构建一个庞大模型并进行训练的想法。每天都能看到各个厂家推出内测版本,这让人不禁思考:为何不在本地环境尝试一番呢?然而,当前手头仅有一块性能有限的老破小GPU显卡,这就引发了一个问题:如何在这样的条件下成功运行模型?

文章图片
#人工智能
LLM RAG|攻克切片难题

今日AI资讯今天主要针对Langchain的文档切分中4个难点进行展开。

文章图片
#人工智能#语言模型
GrammarGPT:基于监督微调的中文语法纠错开源LLMs探索

语法错误纠正(grammar Error Correction, GEC)旨在不改变句子的意思,自动纠正不符合语法的句子。在此之前研究汉语语法纠错(CGEC)主要是来自国外汉语学习者的错误,很明显这是不对的。因此,本次研究转向了母语人士的语法错误,这更加微妙和具有挑战性。以往对GEC的研究主要采用Seq2edit和Seq2seq两种方法,并在各种GEC上取得了令人印象深刻的性能基准。随着LLMs的

文章图片
#人工智能
本地部署|马斯克旗下xAI开源的Grok-1

今日AI资讯今天主要了解一下Grok-1模型规格、本地部署需要有哪些储备、本地部署的步骤以及部署过程中FAQ。

文章图片
#开源#人工智能
阿里震撼发布Qwen2.5“全能套装”——打造史上最大规模开源盛宴

在 Qwen2 发布后的过去三个月里,许多开发者基于 Qwen2 语言模型构建了新的模型。Qwen2.5。

文章图片
#人工智能
到底了