logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型部署实战(一)——Ziya-LLaMA-13B

Ziya-LLaMA-13B是IDEA基于LLaMa的130亿参数的大规模预训练模型,具备翻译,编程,文本分类,信息抽取,摘要,文案生成,常识问答和数学计算等能力。目前姜子牙通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的训练过程。本文主要用于Ziya-LLaMA-13B的本地部署。

文章图片
#自然语言处理
大模型部署实战(二)——Ziya-BLIP2-14B-Visual

Ziya-Visual多模态大模型基于姜子牙通用大模型V1训练,具有视觉问答和对话能力。今年3月份OpenAI发布具有识图能力的多模态大模型GPT-4,遗憾的是,时至今日绝大部分用户也都还没有拿到GPT-4输入图片的权限,Ziya-Visual参考了Mini-GPT4、LLaVA等优秀的开源实现,补齐了Ziya的识图能力,使中文用户群体可以体验到结合视觉和语言两大模态的大模型的卓越能力。本文主要用

文章图片
#python#人工智能#深度学习
大模型部署实战(四)——ChatGLM2-6B

ChatGLM2-6B 是开源中英双语对话模型 ChatGLM-6B 的第二代版本,在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上,ChatGLM2-6B 引入了如下新特性:更强大的性能、更长的上下文、更高效的推理、更开放的协议。

文章图片
#人工智能#python#开发语言 +1
英伟达NVIDIA服务器显卡多实例技术(MIG)

多实例技术有点类似于vGPU,如果物理服务器安装的是vmware或者KVM这种虚拟机系统,那么如果想给每个虚拟机分配一张显卡显然显卡不够分,一般6U的服务器也就8张显卡,所以需要用到vGPU技术,将显卡虚拟化成多张显卡,而这玩意跟虚拟机系统一样是需要收费的,按照显卡数量进行授权收费。而如果物理服务器安装的不是虚拟机操作系统,例如安装的是Ubuntu系统,然后采用docker等容器技术,也是需要对显

文章图片
#服务器#linux#网络
深入剖析PyTorch和TensorFlow:理解二者的区别与联系

深度学习框架在近年来的快速发展中发挥了至关重要的作用,其中PyTorch和TensorFlow是最受欢迎的两个框架。它们各自具有独特的特点和优势,但也有一些相似之处。本文将深入剖析PyTorch和TensorFlow,从原理、代码实现等方面对它们进行详细介绍,帮助读者更好地理解二者的区别与联系。

文章图片
#tensorflow#pytorch#深度学习
选择正确优化器,加速深度学习模型训练

随着深度学习技术的不断发展和应用,深度学习模型的复杂性也在不断增加。因此,模型训练成为深度学习中最为耗时的过程之一。优化器的选择可以对模型训练的效率和准确性产生巨大影响。在本文中,我们将介绍深度学习中常用的优化器以及其原理,并通过代码实现来说明它们的效果和适用范围。

文章图片
#深度学习#人工智能#机器学习 +2
【跟着ChatGPT学深度学习】ChatGPT带我入门深度学习

跟着ChatGPT学深度学习第一弹,入门深度学习。本次ChatGPT老师共教我三个知识点,分别是深度学习基础、深度学习的学习资源和深度学习需要掌握的技能和知识。最后,ChatGPT老师还贴心地给深度学习新手和老手总结了一些学习建议。

文章图片
#深度学习#机器学习#人工智能 +1
常见NLP模型发展脉络:从传统方法到大语言模型

NLP的发展可以概括为:统计学习 → 深度学习 → 预训练 → 大模型时代 → 多模态智能每一次技术革命,背后都伴随着对语言本质理解的加深与计算资源的飞跃。如今,大模型不仅能聊天写诗,还能辅助编程、分析数据,正在逐步成为我们工作和生活中的重要伙伴。未来,随着模型进一步优化、推理成本降低、多语言/小语种适配增强,NLP将在教育、医疗、金融、法律等领域发挥更大作用。

文章图片
#自然语言处理#语言模型#人工智能
PyTorch动态图 vs. TensorFlow静态图:深度学习框架之争

深度学习框架是机器学习领域中不可或缺的工具。目前,市场上主流的深度学习框架有PyTorch和TensorFlow。其中,PyTorch使用动态图,而TensorFlow使用静态图。两者各有优缺点,本文将从原理、代码以及优缺点三个方面进行详细的介绍和比较。

文章图片
#深度学习#tensorflow#pytorch
【计算机网络相关】内网穿透介绍以及使用FRP实现内网穿透Windows远程桌面

内网穿透介绍以及使用FRP实现内网穿透Windows远程桌面。利用内网穿透技术,将内网的一些设备的数据包进行转发,从而实现公网环境访问内网的设备。公网服务器充当的是一个数据交换的作用,我们访问公网IP,然后公网服务器将我们访问的数据转发到内网设备的IP,内网设备将数据在转发给公网服务器,公网服务器将数据转发给本地客户机,从而实现内网穿透,在任何地方访问内网设备。

文章图片
#windows#网络#服务器
    共 94 条
  • 1
  • 2
  • 3
  • 10
  • 请选择