logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

AI大模型原理概述

模型的训练通常包含三个关键阶段:预训练(无监督学习,奠定通用知识基础)、监督微调(SFT,教会模型遵循指令执行特定任务)以及基于人类反馈的强化学习(RLHF,使模型输出更安全、可靠且符合人类偏好)。文章还阐释了Token、向量嵌入、Transformer架构(特别是自注意力机制)等技术细节,说明了模型如何理解上下文、处理一词多义,并逐词生成文本。最后,文章也客观讨论了当前大模型可能产生“幻觉”(即

文章图片
#人工智能#语言模型
ai时代下的RPC传输——StreamObserver

StreamObserver是现代RPC框架中的关键设计,通过异步和流式能力解决传统RPC的痛点。相比传统RPC的同步阻塞模式,StreamObserver支持多种流式通信,实现数据分块传输、实时处理和全双工异步通信。它特别适用于大模型输出、数据流处理等场景,通过长连接复用提高性能,底层基于Netty实现HTTP/2协议栈。流式RPC在单个流上进行持续双向对话,与普通RPC的独立请求-响应模式形成

文章图片
#rpc#qt#microsoft +1
Skipped breakpoint because it happened inside debugger evaluation

在debug项目时总是会莫名其妙的多出system.out的数据,莫名其妙,搜到这篇文章,帮助很大,转载一下   解决Skipped breakpoint at %code reference% because it happened inside debugger evaluat

#java#idea
到底了