logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

LLaMA-Factory windows wls 安装vllm,并对比速度

本文介绍了为LLaMA-Factory框架安装vllm的过程:从vllm releases下载对应CUDA版本的whl文件,使用pip安装时可能遇到C编译器错误,需通过apt-get安装build-essential解决。安装完成后运行vllm_infer.py脚本进行推理测试,发现4090 GPU处理100条数据需40秒,比web UI快但仍慢于自研代码,性能有待优化。整个过程参考了相关技术博客

#语言模型
tableau 初使用

数据链接1、分析美国婴儿流行名字–(维度 Year 列)、(度量 Occurences 行) 得到折现图 随着年份的增加 出生婴儿数量变化趋势图(如果他的数据没有去除)当对标记应用top name,并选择颜色。在Occurences添加(表计算-总额百分比-表向下)可以得到名字占比的变化趋势可以看到取Michael流行了相当长的时间。相比以前,现在某一个名字的流行持续周期变短了。

利用NIFI将kafka日志文件成功至HDFS

中间好多坑。。。尤其是PUTHDFS的那一步

#hdfs
NIFI简单使用

1、实现日志的本地存储且日志的名字不变listentcp–evaluatejsonpath–mergecontent–putfile(evaluatescript)putfile不支持添加数据流到文件,故可以通过自己写脚本来实现。2、实现日志到hdfs的保存同理3、根据不同数据内容决定数据流向(正则匹配)4 getkafka

#hdfs
nifi-搭建

NIFI 简介1、NIFI 的概念1.1 起源:NIFI是为了自动化的处理和管理系统之间的数据流而产生的,基本设计概念与基于流的编程[fbp]的主要思想密切相关1.2nifi核心概念FlowFile:FlowFile表示通过系统移动的每个对象,包含数据流的基本属性FlowFile Processor(处理器):负责实际对数据流执行工作Connect

到底了