logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

DSH + Qwen3.8:让本地 AI Agent 真正进入工程现场——Android 真机自动化回归测试实践探索

DSH + Qwen3.8 这个组合最大的意义:不是让 AI 聊天更聪明。让 AI 具备进入真实工程环境的能力。模型模型 + Agent + 工具 + 业务这是本地 AI 真正落地的方向。未来属于那些敢于把 AI 接入真实生产流程的人。

#人工智能#android#自动化
人工智能训练师三级备考考点

1、PANDAS进行数据清洗例如:print(df){“m”: “男”, “male”: “男”, “f”: “女”, “female”: “女”, “男”: “男”, “女”: “女”}).fillna(“未知”)df.loc[i,“city”] = “未知”else:print(df)

#人工智能#python#机器学习
Ollama 明明装了 NVIDIA 显卡,却一直跑 CPU?一次完整排查记录

明明装了 NVIDIA 显卡,为什么 Ollama 还是跑 CPU?先确认驱动是否正常再确认ollama服务用户有没有权限访问 GPU然后通过日志判断是“没识别到 GPU backend”还是“显存不够”必要时重载nvidia_uvm最后重装最新版官方 Ollama 排除安装状态问题最终我的机器已经成功切到了 GPU。

记一次 Ollama 部署 GGUF 模型后的异常输出修复

模型被当成了补全模型使用,而不是聊天模型使用。对于一些从 Hugging Face 直接拉取的 GGUF 模型,尤其是非官方、混合训练、偏代码或 Agent 数据的模型,不能默认假设 Ollama 一定能正确识别它的聊天模板。helloTEMPLATESYSTEM如果模板缺失或不合适,就应该自己写一个 Modelfile,明确指定对话格式和停止词。这类问题并不罕见,尤其是在使用 GGUF、Olla

Ollama 明明装了 NVIDIA 显卡,却一直跑 CPU?一次完整排查记录

明明装了 NVIDIA 显卡,为什么 Ollama 还是跑 CPU?先确认驱动是否正常再确认ollama服务用户有没有权限访问 GPU然后通过日志判断是“没识别到 GPU backend”还是“显存不够”必要时重载nvidia_uvm最后重装最新版官方 Ollama 排除安装状态问题最终我的机器已经成功切到了 GPU。

不得不服chatgpt

最近碰到了一个非常奇怪的问题,折腾了整整一天。或者一直打不开。甚至把 Chrome 完全卸载重装了,依然没有任何变化。最后借助和 ChatGPT,终于定位到了真正原因。

#chrome
RTX 5090 本地部署 Qwen3-Coder-30B-A3B 实测:90 Tokens/s,128K 上下文,仅占用 22.4GB 显存

整体来看,的组合,在单卡环境下表现相当出色。项目测试结果模型推理框架显卡上下文128KKV CacheQ8_0实测速度显存占用22.4GBAPI对于开发者来说,这一配置已经能够胜任代码生成、项目分析、知识库问答以及日常 AI 编程助手等任务。如果你的目标是在单卡 24GB 显存上获得较长上下文和较高推理速度,这套方案值得尝试。

记一次 Ollama 部署 GGUF 模型后的异常输出修复

模型被当成了补全模型使用,而不是聊天模型使用。对于一些从 Hugging Face 直接拉取的 GGUF 模型,尤其是非官方、混合训练、偏代码或 Agent 数据的模型,不能默认假设 Ollama 一定能正确识别它的聊天模板。helloTEMPLATESYSTEM如果模板缺失或不合适,就应该自己写一个 Modelfile,明确指定对话格式和停止词。这类问题并不罕见,尤其是在使用 GGUF、Olla

Claude Code + llama.cpp + RTX 5090 实战调优:Qwopus3.6-27B-Coder 跑出 52 Tokens/s,128K 上下文稳定开发

经过多轮调优,我认为已经能够很好地胜任本地 Agent 编程。项目推荐配置模型推理框架llama.cpp(最新版)显卡上下文128K开启KV Cache开启(默认)Prompt 处理速度约3300 Tokens/sDecode 速度约52 Tokens/sGPU SM 利用率98%显存占用约23.5GB如果你的主要需求是本地代码补全、普通代码生成,Qwen3-Coder-30B-A3B 依然是速度

不得不服chatgpt

最近碰到了一个非常奇怪的问题,折腾了整整一天。或者一直打不开。甚至把 Chrome 完全卸载重装了,依然没有任何变化。最后借助和 ChatGPT,终于定位到了真正原因。

#chrome
    共 30 条
  • 1
  • 2
  • 3
  • 请选择