logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

如何安装基于DCU的vllm和LLaMa-Factory环境

插播广告一条😂🐶:我制作的一个免费,欢迎体验!

如何在DCU上面编译llama.cpp

操作系统以及各种软件的版本如下:备注:在上面的命令中,gfx928是DCU的架构名称,可以通过下面的命令获得:编译时,报错如下:此时,vi examples/CMakeLists.txt,将simple文件夹那行注释掉:重新运行上面的编译命令,再次报错如下:解决办法是:然后再次重新运行上面的编译命令。完成后,再运行:(下面的128可改为你真实的cpu核数)此处的编译时间很长,需耐心等待。如果中途报

streamlit报错:AxiosError: Request failed with status code 403

步骤三:重新启动你的streamlit网页。步骤一:创建config.toml。步骤二:加入以下内容。

#python
解决升级chrome后,访问https出现Your connection is not private

一、临时解决办法:直接在原网页鼠标点一下就可以开始输入:thisisunsafe即可二、根本解决办法:在chrome浏览器的地址栏输入:chrome://flags.找到quic相关的,设置为启动,重启chrome即可三、参考文献:https://zhuanlan.zhihu.com/p/68083367https://blog.csdn.net/u011311586/article/detail

#chrome#https#前端
模型部署——如何提高大模型的线上推理速度

通过onnxruntime框架优化,在原有数据上面测试模型推理速度提升7倍List item

文章图片
#深度学习
机器翻译中对于OOV一般咋处理

1.直接copy,从源端直接copy到目标端2.使用bpe子词技术

pip安装fasttext报错

报错现象:error: command '/usr/local/bin/gcc' failed with exit code 1----------------------------------------ERROR: Command errored out with exit status 1:解决办法:sudo yum install centos-release-sclsudo yum i

#json#bash#开发语言
    共 20 条
  • 1
  • 2
  • 请选择