logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

docker内apt-get update Waiting for headers 0%

不同的网络协议(如以太网、PPP、ATM等)都有各自的 MTU 限制。以太网通常使用的是 1500 字节的 MTU,而某些特定网络可能有更大或更小的 MTU。在进行跨网络通信时,需要考虑最小的 MTU 以避免数据包丢失或额外的分片和重组开销。MTU(Maximum Transmission Unit,最大传输单元)是网络通信中的一个重要概念,它指定了在网络上传输的最大数据包大小。这种问题一般是因为

文章图片
#docker#容器#运维
使用LlamaFactory进行模型微调

论文地址:https://arxiv.org/pdf/2403.13372仓库地址:https://github.com/hiyouga/LLaMA-Factory/tree/main。

文章图片
The following signatures couldn‘t be verified because the public key is not available

使用vpn后,debian下载软件可能会报签名错误:GPG error: https://download.docker.com/linux/debian bookworm InRelease: The following signatures couldn’t be verified because the public key is not available: NO_PUBKEY 7EA0A

#运维开发
node-saas installl失败:npm ERR! Failed at the node-sass@4.14.1 postinstall script.

可以用这个地址测试下: https://www.npmmirror.com/mirrors/node-sass/v4.14.1/linux-x64-72_binding.node。也可以尝试配置在.npmrc文件中配置sass_binary_path参数(未验证)

文章图片
#npm#sass#rust
LocalDateTime存入数据库后少了8小时

由于LocalDateTime不带时区信息,在持久化到数据库时,可能会出现时间少了8小时的情况。

文章图片
#数据库
CodeGeeX2模型安装

pytorch与cuda对应版本:https://pytorch.org/get-started/previous-versions/demo.gpus为CodeGeeX2官方仓库的demo文件夹下的gps文件,需要修改num_gpus为机器实际的值,可以通过。cuda tookit版本:https://anaconda.org/nvidia/cuda-toolkit。由于huggingface国

#机器学习
MinerU 2.0部署

MinerU 2.0使用sglang加速的部署指南 本文介绍了MinerU 2.0基于sglang的两种部署方式。提供了优化的Dockerfile构建方案,通过缓存机制提升构建速度并精简模型下载内容。详细说明了Docker运行命令和docker-compose配置选项,包括GPU设置、端口映射等参数。最后给出了Python测试代码示例,展示如何调用sglang服务进行PDF文档分析处理。部署方案支

#chrome#前端
LLM function call

在大模型领域,尤其是在自然语言处理(NLP)和人工智能(AI)应用中,function call 是一种非常重要的技术手段。数据查询和处理​AI模型可以调用数据库查询函数,以获取所需的数据。例如,在客户服务应用中,模型可以调用函数从客户数据库中提取客户信息执行计算或分析​在需要复杂计算或数据分析的场景中,模型可以调用外部的计算函数。例如,金融分析系统中,模型可以调用函数进行风险评估或收益预测。第三

如何运行大模型

要想了解一个模型的效果,对模型进行一些评测,或去评估是否能解决业务问题时,首要任务是如何将模型跑起来。目前有较多方式运行模型,提供client或者http能力。

文章图片
#pytorch#人工智能#python
多张卡部署一个codellama实例

在深度学习中,模型通常由多个层(或称为模块)组成,每个层执行特定的功能,并且它们以一种有序的方式连接在一起,构成了整个模型。不同类型的模型可能由不同种类的层组成,每个层都有其特定的功能和作用。:注意力层用于处理序列数据或序列-序列数据,能够动态地计算输入序列中各个位置的重要性,并将注意力权重应用于相应的位置。:输出层负责生成模型的最终输出,通常根据任务的不同,输出层可能采用不同的激活函数和损失函数

#人工智能
    共 29 条
  • 1
  • 2
  • 3
  • 请选择