logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

DeepSeek-R1本地RAG部署:硬件、Ollama与MoE架构实战指南

大语言模型本地部署已从‘能跑’迈入‘稳跑、快跑、准跑’的系统工程阶段。DeepSeek-R1作为典型MoE(混合专家)架构模型,其推理行为高度依赖显存带宽、CPU缓存效率与存储IO性能,远超传统Dense模型的资源模型。理解GGUF量化机制、Ollama底层调用链(llama.cpp/CUDA适配)及Router路由开销,是构建可靠RAG系统的前提。本文聚焦DeepSeek-R1在真实硬件环境(R

ChatGPT-4 API中间件项目深度解析:架构、部署与实战优化

大语言模型(LLM)的API集成已成为现代AI应用开发的核心环节。其原理在于通过标准化的接口调用云端或本地的模型服务,获取智能文本生成能力。这项技术的核心价值在于将前沿的AI能力快速、低成本地转化为产品功能,显著提升开发效率与用户体验。在实际工程实践中,开发者常面临API调用管理、上下文维护、成本控制和流式响应处理等挑战。应用场景广泛覆盖智能客服、内容创作、代码辅助及企业内部自动化工具。针对这些需

从Lambda到流批一体:基于Flink与Iceberg的实时数据湖架构演进与实践

本文深入探讨了从Lambda架构到流批一体架构的演进过程,重点介绍了基于Flink与Iceberg的实时数据湖架构实践。通过分析Lambda架构的痛点,如数据一致性和运维复杂度,展示了Flink流批一体特性和Iceberg的元数据管理如何解决这些问题。文章包含实战案例、迁移策略和性能优化技巧,为构建高效、稳定的实时数据湖提供了完整解决方案。

保姆级教程:用PyTorch(CPU/GPU)从零复现UNet,搞定细胞与汽车数据集

本文提供了一份详细的PyTorch教程,教你从零开始复现UNet模型,并在细胞与汽车数据集上进行训练和预测。教程涵盖环境配置、数据集预处理、模型架构实现、训练评估以及性能优化等关键步骤,适合深度学习初学者和图像分割开发者。

c++实现unet

#include<torch/torch.h>#include<iostream>#include<vector>#include<cassert>#include<stdlib.h>#include<unordered_map>#include<fstream>class doub...

#人工智能
Fiddler使用总结一(使用Fiddler捕获手机所有http/https通信)

与后端数据通信是前端日常开发的重要一环,在与后端接口联调的时候往往需要通过查看后端返回的数据进行调试。如果在PC端,Chrome自带的DevTools就已经足够用了,Network面板可以记录所有网络请求,查看接口数据非常方便。但是在移动端就不能这样干了,手机上是无法直接查看网络请求数据的,这时候就需要一个能记录网络通信的工具,也就是抓包工具。来来回回尝试了好几个,Fiddler算是用起来最爽的了

#后端#前端#移动开发
ros防火墙名词解释

ros防火墙名词解释ros防火墙名词解释input - 进入路由,并且需要对其处理forward - 路由转发output - 经过路由处理,并且从接口出去的包action:1 accept: 接受add-dst-to-address-list - 把一个目标IP地址加入address-listadd-src-to-address-list - 把一...

#网络
利用树莓派和闲置硬盘,搭建起家中的个人网盘

因为给个人笔记本电脑升级,替换下来了一块2.5寸的1T机械硬盘,想着闲置也是闲置,不如用来搞一个nas玩玩,可以存放一些个人文件和电影大片,共享给家中的所有人,接下来就跟随我的脚步,一起来看看如何实现吧1.前期准备树莓派(刷好官方系统,具体教程请见百度)闲置硬盘(可以是2.5寸,也可以是3.5寸,但前提是已经买好了硬盘壳子,能够支持USB连接)路由器2.路由器MAC地址绑定先说一下这一步是干嘛,众

如何通过云存储实现大文件的断点下载和上传

背景对象存储 OSS是面向海量非结构化数据对象的存储服务。随着云计算的普及和飞速增长,越来越多的开发者把他们的应用建筑在了 OSS之上。OSS对外提供的是RESTful形式的接口,其最重要的特点之一是无状态性(statelessness),即OSS服务器不会保持除了单次请求之外的,任何与其通信的客户端的通信状态。因此对于断点续传这样有状态功能的实现,...

#python#运维
[源码阅读]通过react-infinite-scroller理解滚动加载要点

react-infinite-scroller就是一个组件,主要逻辑就是addEventListener绑定scroll事件。看它的源码主要意义不在知道如何使用它,而是知道以后处理滚动加载要注意的东西。此处跳到总结。初识参数:// 渲染出来的DOM元素nameelement: 'div',// 是否能继续滚动渲染hasMo...

#javascript
    共 28 条
  • 1
  • 2
  • 3
  • 请选择