logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Windows中使用Docker安装Anythingllm,基于deepseek构建自己的本地知识库问答大模型,可局域网内多用户访问、离线运行

本文介绍了如何在 Windows 系统的 CMD 中使用 Docker 安装 AnythingLLM,并搭建自己的知识库问答大模型

文章图片
#docker#容器
解决chatgpt网络错误,频繁掉线的问题,那就使用KeepChatGPT

该博文介绍了一个名为KeepChatGPT的插件,使用该插件可以避免chatgpt掉线,网络错误等问题,非常的方便。

文章图片
#语言模型
ollama修改配置使用多GPU,使用EvalScope进行模型压力测试,查看使用负载均衡前后的性能区别

由于ollama默认调用模型,模型实例会运行在一张卡上,如果有几张显卡,模型只会永远跑在第一张卡上,除非显存超出,然后才会将模型跑在第二张卡,这造成了资源很大的浪费。网上通过修改ollama.service的配置。修改之后可以负载均衡,显存平均分配在集群中的每张卡上,但是我不太了解这种方式是否会提升模型吞吐量?和默认的调用单卡实例有啥区别呢?

文章图片
#负载均衡#运维#压力测试
Domain Generalization 领域泛化简单介绍

Domain Generalization (领域泛化)是指在训练模型时,模型能够学习到一般化的特征,而不是仅仅适应于训练数据所在的特定领域。例如,一个人脸识别模型在训练时只使用了来自一个特定国家的人脸图像,但是在测试时需要处理来自其他国家的人脸图像。如果该模型具有很好的领域泛化能力,那么它应该能够对来自其他国家的人脸图像进行准确的识别。

文章图片
#人工智能#机器学习#深度学习
领域自适应(Domain Adaptation)的简单介绍

领域自适应(Domain Adaptation)是指通过学习源领域和目标领域之间的差异,来实现将源领域的模型迁移到目标领域的能力。在实际应用中,由于数据的获取和标注成本较高,我们通常会面临数据集不完整、不平衡、标注不准确等问题,这些问题会影响模型的泛化能力和性能。领域自适应可以帮助我们解决这些问题,提升模型的泛化能力和性能。

文章图片
#机器学习#人工智能#算法
使用PyTorch构建神经网络,并使用thop计算参数和FLOPs

FLOPs(floating point operations)是指浮点运算次数,通常用来评估一个计算机算法或者模型的计算复杂度。在机器学习中,FLOPs通常用来衡量神经网络的计算复杂度,因为神经网络的计算主要由矩阵乘法和卷积操作组成,而这些操作都可以转化为浮点运算次数的形式进行计算。

文章图片
#神经网络#深度学习#机器学习 +1
使用PyTorch构建神经网络,并计算参数Params

在深度学习中,模型的参数数量是一个非常重要的指标,通常会影响模型的大小、训练速度和准确度等多个方面。在本教程中,我们将介绍如何计算深度学习模型的参数数量。本教程将以PyTorch为例,展示如何计算一个包含卷积、池化、归一化和全连接等多种层的卷积神经网络的参数数量。具体来说,我们将首先介绍一个具有全连接层的神经网络的参数计算方法,然后扩展到包含卷积、池化、归一化和全连接等多种层的卷积神经网络。

文章图片
#神经网络#pytorch#深度学习
如何使用git更新别人的代码

使用git更新别人的远程代码,并与本地的合并,且不修改自己之前的配置。

文章图片
#git#github
docker的anythingllm和open-webui压缩包分享(国内镜像拉取,百度云压缩包分享)

在使用 Docker 部署应用时,通常需要从 Docker Hub 或其他镜像仓库拉取镜像。但有时候,我们可能需要在没有互联网的环境中部署镜像,或者希望直接分享某个镜像给同事、朋友,而不必让他们重新下载。因为很多人使用docker下载文件非常慢,因此我在这里分享一下我docker当前下载的anythingllm和open-webui压缩包。首先分享镜像获取方式,提供两种方式:一个是切换国内镜像,一

文章图片
#docker#容器#运维
Windows中使用Docker安装Anythingllm,基于deepseek构建自己的本地知识库问答大模型,可局域网内多用户访问、离线运行

本文介绍了如何在 Windows 系统的 CMD 中使用 Docker 安装 AnythingLLM,并搭建自己的知识库问答大模型

文章图片
#docker#容器
    共 61 条
  • 1
  • 2
  • 3
  • 7
  • 请选择