logo
publist
写文章

简介

资深技术经理 & AI大模型全栈工程师 9年Java技术纵深 | 2年AI工程化落地 | 大型项目管理专家

擅长的技术栈

javapython大模型

可提供的服务

大模型应用开发,大模型训练或微调,Agent 开发,软件研发

用 LM Studio 1 分钟搭建可在本地运行大型语言模型平台替代 ChatGPT

LM Studio是一个允许用户在本地运行大型语言模型(LLMs)的平台,它提供了一种便捷的方式来使用和测试这些先进的机器学习模型,而无需依赖于互联网连接。脱机:用户可以在自己的笔记本电脑上运行LLMs,完全不需要在线连接。用户界面:LM Studio提供了一个应用内聊天界面,用户可以通过这个界面与模型交互,或者使用一个与OpenAI兼容的本地服务器。模型下载:用户可以从Hugging Face的

文章图片
#人工智能
redis bind连不上报错redis Could not connect to Redis at 127.0.0.1:6379: Connection refused

redis bind连不上的坑redis Could not connect to Redis at 127.0.0.1:6379: Connection refused 问题解决由于需要在内网其他服务器上连接redis服务器(192.168.1.109),本想直接在redis配置文件中加上目标的IP地址:bind 192.168.1.109就可以了,实际上不正确。redis ...

mac MPS 下 fp16 混合精度训练引发的问题,太坑了!

【摘要】作者在训练NER实体标注模型时遇到loss快速过拟合、F1值无变化的问题,经排查发现是Mac M1芯片的MPS架构对fp16支持不足导致。MPS的半精度实现不成熟,缺乏有效梯度缩放机制,导致数值不稳定。解决方案包括:1)禁用fp16改用float32训练;2)尝试bf16(需PyTorch≥2.1);3)调整学习率和批次大小。修改后模型恢复正常训练,loss和F1值均有改善。文章提醒开发者

文章图片
#人工智能#python#深度学习
一文搞懂模型倍率怎么计算的,以及模型分组倍率原理!

可以看到,它们只差了一个固定参数,即基准价格,程序后台计算完统一乘上基准价格就好了。输入价格 * 输入token数 + 输出价格 * 输出token数。,即 0.002$/1k tokens ,把这个叫做基准价格。举例子,以 OpenAI 官网输入输出价格计算。one-api 默认。

文章图片
#人工智能#AIGC
超详细步骤,教你一次就成功注册Gmail邮箱(同时可以用于申请谷歌广告账户)

超详细步骤,教你一次就成功注册Gmail邮箱(同时可以用于申请谷歌广告账户)

文章图片
内网穿透(Linux-windows)-frp

文章目录内网穿透(Linux-windows)-frp准备工作工具下载服务端 Linux 安装客户端 windows 安装nginx 配置安全组、防火墙处理阿里云安全组放开端口Linux 服务器防火墙打开,并放开端口遇到问题参考资料内网穿透(Linux-windows)-frp使用背景公司办公,Git代码都是内网才能访问,有的还是内网域名,远程协助开发时无法访问到内网,仓库管理十分困难。这时通过内

OpenAI发布通用智能体ChatGPT Agent:实现自主思考、联网与工具调用,智能体赛道大变天!

OpenAI发布革命性AI产品ChatGPT Agent,具备自主任务分解、虚拟计算中枢和动态学习优化三大核心能力,可独立完成复杂任务链。测试数据显示其性能远超行业标准,但官方强调仍存在风险需谨慎使用。该产品已开放给付费用户,企业版今夏上线。此次技术突破标志着AI从被动响应到主动执行的重大转变,或将重塑人机协作模式。官方同时推出AIGC认证培训,助力用户掌握新一代AI技能。

文章图片
#人工智能
Hugging Face 生态使用指南,大模型微调、预训练必备技能

本文系统介绍了HuggingFace生态系统的核心组件和使用方法。主要内容包括:HuggingFace生态概览,涵盖Transformers库、HuggingFace Hub和配套工具链;预训练模型的加载与使用,详细讲解AutoModel类和任务专用模型的加载方式;Tokenizer的原理与使用方法,展示文本预处理全流程;Datasets库的功能详解,包括数据加载、预处理和保存方法。文章通过大量代

文章图片
#人工智能
大模型训练必备:深入理解PyTorch自动混合精度核心机制与最佳实践,告别显存不足

自动混合精度(AMP)技术通过智能切换FP32和FP16精度,显著提升深度学习训练效率。本文详解AMP核心原理:权重备份防止梯度消失、损失缩放避免数值下溢、精度累加减小计算误差。PyTorch实现部分介绍了autocast上下文管理器和GradScaler的使用方法,并提供了完整训练示例。文章还涵盖AMP高级应用,包括梯度累积、多模型训练、自定义函数兼容性等实用技巧,以及性能优化和调试策略,帮助开

文章图片
#pytorch#人工智能#python
Neo4j 图数据库(Graph Database),“大模型 + 知识图谱” 的前奏!

本文全面介绍了Neo4j图数据库的使用方法,主要包括以下内容:1. 图数据库基础概念:解释了节点、关系和路径等核心元素,以及与关系型数据库的区别。2. 安装部署指南:详细说明了Windows系统下的JDK配置、Neo4j安装和环境变量设置,以及Docker容器化部署方案。3. Cypher查询语言:系统讲解了数据CRUD操作、数据类型、常用函数和高级查询技巧,包括模式匹配、过滤、排序、分页和聚合等

文章图片
#neo4j#数据库#知识图谱
    共 103 条
  • 1
  • 2
  • 3
  • 11
  • 请选择