logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【高级chunk方案[token/sentence/semantical] 完整代码!好用】

本文介绍了一个文本分块工具Chunker的实现,支持三种分块策略:语义分块(semantic)、固定长度分块(fixed)和句子分块(sentences)。该工具通过指定pip包版本(transformers 4.43.4、torch 2.4.0等)确保环境兼容性。语义分块使用HuggingFaceEmbedding和SemanticSplitterNodeParser进行语义分析;固定长度分块按

文章图片
#python
【MHA/MQA/GQA 详解】

本文详细解析了三种注意力机制:多头注意力(MHA)、多查询注意力(MQA)和分组查询注意力(GQA)。核心区别在于如何分配注意力头数量,主要解决Transformer模型在推理阶段的显存占用和带宽瓶颈问题。MHA表达能力最强但显存占用高;MQA显存占用最小但性能损失较大;GQA作为折中方案,在保持接近MHA性能的同时大幅降低显存需求。现代大模型(如LLaMA-2/3)普遍采用GQA,因其能平衡推理

文章图片
【banana pro prompt 儿童英语学习小报生成】

【代码】【banana pro prompt 儿童英语学习小报生成】

文章图片
【火山引擎 图像超分python示例代码】

本文展示了使用火山引擎视觉API进行图像超分辨率处理的Python实现。代码包含两个核心部分:一是基于HMAC-SHA256的V4签名认证体系实现,通过signV4Request函数处理请求签名和API调用;二是具体业务实现,通过img2b64函数转换图片为Base64格式,并构造包含模型质量、输出格式等参数的请求体。示例使用6.jpg作为输入,指定中等质量(MQ)和PNG格式输出,最终返回的超分

文章图片
#火山引擎#python
【banana pro prompt 日历图片生成】

本文档描述了一款清新手绘风格的竖版日历插画设计规范。插画以可爱时尚的年轻女性为主角,采用夸张配饰和明亮色彩,配合季节/节日特色造型。日历布局包含醒目的公历日期、英文月份、星期及农历信息,左侧竖向排列"宜事项"与励志短句。设计强调极简留白,可根据用户位置融入地域元素,整体呈现俏皮治愈的视觉风格。所有文字信息需根据用户输入自动生成,确保清晰易读的版式设计。

文章图片
【黑板报 nano banana pro prompt】

AI与数学家协作解决Er德ős问题 关键流程: 人类猜想:Wouter van Doorn提出反例草案 AI证明:Gemini用p-adic数论完成复杂验证(10分钟) 人类优化:陶哲轩简化证明(30分钟) AI验证:Aristotle工具完成形式化检验 核心启示: AI角色:处理符号推演/计算密集型任务(博士生水平) 人类优势:问题选择、方法简化、结果甄别 协作范式:人类主导方向,AI执行&qu

文章图片
【T2Retrieval C_MTEB数据集 RAG召回测试数据集处理代码】

【代码】【T2Retrieval C_METB数据集 RAG召回测试数据集】

文章图片
【paddleOCR-vl 本地部署总结!】

本文介绍了PaddleOCRVL的安装与使用方法。安装需通过pip安装指定版本的paddlepaddle-gpu、paddleocr和safetensors包。使用时可选择是否启用文档方向分类、文本矫正和版面检测功能,通过predict方法处理图像后,可输出结构化结果或保存为json/markdown格式。此外还提到可通过vllm/sglang进行docker和cli两种部署方案,但未展开具体内容

文章图片
【FunASR的详解和使用】

FunASR是一个由阿里巴巴达摩院开发的开源语音识别工具包,旨在为学术研究和工业应用提供桥梁。它支持多种语音识别功能,包括语音识别(ASR)、语音端点检测(VAD)、标点恢复、语言模型、说话人验证、说话人分离和多人对话语音识别。FunASR提供了便捷的脚本和教程,支持预训练模型的推理与微调,帮助用户快速构建高效的语音识别服务。支持各种音视频格式输入,可以把几十个小时的长音频与视频识别成带标点的文字

文章图片
【Ollama 加载ModelScope模型】

Ollama是建立在llama.cpp开源推理引擎基础上的大模型推理工具框架。得益于底层引擎提供的高效模型推理,以及多硬件适配,Ollama能够在包括CPU、GPU在内的,不同的硬件环境上,运行各种精度的GGUF格式大模型。通过一个命令行就能拉起LLM模型服务。ModelScope社区上托管了数千个优质的GGUF格式的大模型(包括LLM和视觉多模态模型),并支持了Ollama框架和ModelSco

文章图片
    共 34 条
  • 1
  • 2
  • 3
  • 4
  • 请选择