logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型部署ollama/vLLM/LMDeploy/SGLang区别

高效的大型语言模型推理和部署框架,由加州大学伯克利分校开发,采用 Apache 2.0 许可,以 Python/PyTorch 为基础,优化了显存管理与批处理。基于PagedAttention技术的高吞吐推理框架,在NVIDIA/AMD GPU集群上展现卓越性能,支持多节点张量并行。百万并发不是梦!GPU榨干指南# 创建专用环境 conda create -n vllm python=3.12 -

(2)python之虚拟环境管理工具venv和anaconda

创建python虚拟环境 和 创建python项目目录文件代码,本身是相互不干扰的,独立的。但是由于我们用开发工具开发python项目的时候,要指定用那个python虚拟环境。故而,我们通常会把venv创建的虚拟环境位置放到项目目录下,这样便于操作。假设我们有一个项目目录结构如下├── venv/ # ✅ 虚拟环境目录(存放 Python 依赖,不包含在版本版本控制中,如git)├── app.p

文章图片
#python
Android包APK检测到您的安装包签名为空

新版Android Studio打包APK没有V1 V2勾选框 最近有很多开发者反映,在新版的Android Studio中打包APK时没有了V1和V2勾选框,导致无法选择APK签名方式。这个问题困扰了很多开发者,今天我们就来一起了解一下这个问题的原因以及解决方法。在较新版本的Android Studio中,Google已经默认将APK签名方式设置为V2签名,并移除了V1签名的选项。V2签名是An

文章图片
#android#android-studio
minio通过预签名方式上传,下载,查看

minio通过预签名方式上传,下载,查看

【避坑】minio临时凭证STS实现上传,下载

minio临时凭证STS实现上传,下载

docker安装rabbitmq启动报错 .erlang.cookie must be accessible by owner only

启动错误:.erlang.cookie must be accessible by owner only进入到该容器内:解决方法chmod 600 /var/lib/rabbitmq/.erlang.cookie

#rabbitmq#docker#erlang
Android——Gradle插件项目根目录settings.gradle和build.gradle

一、settings.gradle 构建脚本分析1、Maven 远程仓库配置2、目录配置3、完整代码示例二、根目录下 build.gradle 构建脚本分析_android settings.gradle。settings.gradle 文件对应的gradle api中Settings对象实例,其api如下。settings.gradle文件配置项,实际上及时调用该api中的方法和属性。对应之前的

文章图片
#android
Android——gradle插件配置方式——dependencies和plugins

我们知道Android studio 需要gradle插件进行构建和编译,随着AGP的升级,引入gradle插件也发生了变化。旧版本通过build.gradle文件中dependencies代码块引入,新版本通过plugins代码块引入

文章图片
#android
(二)idea git log

IDEA可视化Log理解Git仓库\历史状态\commit\分支from:https://github.com/tintinng/advanced-git/tree/masterfork from:https://github.com/hcsp/advanced-gitref:https://xiedaimala.com/courses什么是仓库?仓库是指一个历史可追溯(tracked)的文件集合

#git#intellij-idea#github
(五)docker环境中配置hosts

Docker环境中配置hosts的方法,实现域名解析

文章图片
#docker#容器
    共 55 条
  • 1
  • 2
  • 3
  • 6
  • 请选择