logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

一文搞懂 SSE:大模型逐字输出的背后,服务器是怎么“主动说话“的?

本文梳理了浏览器与服务器通信协议的演进历程。从HTTP的"一问一答"基本模型,到早期的轮询和长轮询技术,再到现代的WebSocket和SSE协议。HTTP基于无状态、客户端主动的交互模式,虽然经过多次优化但仍受限于单向通信。WebSocket通过协议升级实现全双工通信,适用于聊天、游戏等双向高频场景;SSE则专为服务器单向推送设计,采用长连接事件流格式,支持断线自动恢复,是大模型逐字输出等场景的理

文章图片
#人工智能#python#fastapi
一文搞懂 DeepSeek:从 V3 的 KV 压缩与 MoE,到 V4 的百万 token 上下文

DeepSeek-V3/V4通过架构创新实现高效推理:V3采用MLA压缩KV缓存至潜在向量,配合DeepSeekMoE(671B参数仅激活37B)与动态负载均衡;训练成本仅557万美元,性能比肩GPT-4o。V4升级为CSA/HCA混合注意力,百万Token上下文下推理FLOPs降至V3的27%,KV缓存缩至10%,并引入mHC流形约束优化训练稳定性。两代模型均通过MoE优化、硬件协同及后训练蒸馏

文章图片
#人工智能
一文搞懂视觉识别:分类、检测、分割与 CNN、ResNet、YOLO、U-Net,AI 是怎么“看懂“图片的?

视觉识别技术通过分类、检测和分割三大任务,让AI从图像中提取信息。CNN作为基础架构,通过卷积核提取特征,再经池化层压缩处理。ResNet引入残差连接解决深层网络训练难题,YOLO实现单次全图检测提速,U-Net采用压缩-还原结构实现像素级分割。这些2015年诞生的核心技术支撑了安防、工业检测、医疗影像和自动驾驶等应用场景,虽不如生成模型受关注,却更深度融入日常生活。从VGG到EfficientN

文章图片
#人工智能#计算机视觉#视觉检测 +1
一文搞懂视觉识别:分类、检测、分割与 CNN、ResNet、YOLO、U-Net,AI 是怎么“看懂“图片的?

视觉识别技术解析:从基础原理到三大核心任务 视觉识别技术通过分析图像信息实现物体识别与理解,其核心包含三大任务:图像分类(判断物体类别)、目标检测(定位并识别多个物体)和图像分割(精确到像素级别的识别)。这些任务依赖于卷积神经网络(CNN)作为基础架构,通过卷积核提取特征、池化层压缩信息实现逐级抽象。为解决深层网络训练难题,ResNet引入残差连接;YOLO创新性地将检测任务转化为单次回归问题,实

文章图片
#人工智能#计算机视觉#视觉检测 +1
到底了