logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

vllm配置 Prometheus + Grafana可视化监控步骤及看板无数据问题纠正

vLLM 原生内置了 Prometheus 格式的/metrics接口,配合 Prometheus + Grafana 即可实现指标可视化。

Gbrain-个人记忆库项目拆解(超细节!)

自进化:睡眠时自动补全记忆、修复引用、整合知识,越用越聪明。可解释:Markdown 可读可改,图谱关系明确,无黑箱。高性能:混合检索+图谱,解决单一搜索缺陷,记忆召回率大幅提升。持久化:Minions 队列保证记忆处理不丢失,零额外运维。GBrain 没有黑科技,全部基于结构化数据+正则+图谱查询零LLM提取正则 + 实体字典零LLM关系关键词匹配5种固定链接自我布线写入自动生成/清理图谱链接结

#php#开发语言
Python操作redis有序集合(zset)

‘’’操作有序集合zset‘’’‘’’操作有序集合zset‘’’r=redis.Redis(password=‘123456’)r.zadd(‘zk1’,{‘yoyo’:100,‘yoyo2’:200})r.zadd(‘zk2’,{‘yoyo2’:200,‘yoyo3’:300})print(r.zrange(‘zk1’, 0, -1,withscores=True))print(r.zrange

#python#redis
解决 pandas concat | ValueError: cannot insert,already exists

报错原因:索引数据在原表中已经存在,reset_index函数默认重置索引的时候会把索引数据放回表里。如果已经存在就会报错。只需要添加drop参数即可。

文章图片
#pandas
python代码制作数据集的测试和数据质量检测思路

本文指的数据集为通用数据集,并不单是给机器学习领域使用。包含科研和工业领域需要自己制作数据集的。首先,在制作大型数据集时,代码错误和数据问题可能会非常复杂。前期逻辑总是简单的,库库一顿写,等排查的时候两眼无泪。后期慢慢摸排和检查的时候不断完善代码,前期代码主要是完成功能,后期是增加维护性和检测性。这部分工作其实前期可以考虑进去。以下提供一些血泪经验。

文章图片
#python#log4j#开发语言
深度学习和高性能计算中的BF16和FP16是什么意思

简单来说,浮点数用类似科学计数法的方式来表示一个很大或很小的数字。符号位:表示正负。指数位:表示数值的规模(例如,10的几次方)。尾数位:表示数值的精度(例如,1.234…)。FP16和BF16的区别就在于如何分配这16个比特(位)给这三个部分。特性FP16(半精度)BF16(脑浮点数)FP32(单精度)总位数16位16位32位符号位1位1位1位指数位5位8位8位尾数位10位7位23位动态范围较小

#深度学习#人工智能
什么是Qlora ? 消费级显卡微调大模型

QLORA()是一种高效的大模型微调技术,通过4位NormalFloat(NF4)量化(针对正态分布权重的信息最优格式)、双重量化(量化量化常量,平均每参数节省0.37位)和分页优化器(利用NVIDIA统一内存避免显存峰值)三大核心创新,将65B参数模型的微调显存需求从>780GB降至<48GB,同时完全匹配16位全参数微调的性能;基于QLORA训练的Guanaco模型。

#人工智能
100行代码手搓Agent框架!小白也能看懂的核心代码细节!

一个轻量级流程编排引擎节点 = 任务流程 = 任务连线>>= 执行顺序支持:重试、批量、异步、分支判断你只需要写任务,框架帮你调度执行。

#python#开发语言
    共 48 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择