
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
本文系统梳理了大语言模型(LLM)的核心原理与发展历程。主要内容包括: LLM定义与特征:参数量达数十亿至数万亿,训练数据达万亿级Token,具备语言理解、生成、推理等综合能力。 发展历程:从2018年GPT-1到2023年GPT-4,模型规模与能力持续突破,ChatGPT引爆应用热潮。 训练流程三阶段: 预训练:通过海量文本学习语言规律 监督微调(SFT):使用高质量指令数据优化对话能力 强化学

Prompt Engineering(提示工程)基础摘要 提示工程是通过优化输入文本(Prompt)来提升大语言模型输出质量的技术。核心方法包括四种范式:Zero-shot(无示例)、One-shot(单示例)、Few-shot(多示例),其中Few-shot效果最佳但消耗更多计算资源。思维链(CoT)技术通过引导模型逐步推理,显著提升复杂任务准确率。角色提示通过设定专业身份(如"资深数

编码器模块:分为图像编码器(Images encoder)与文本编码器(Text encoder)模块,图像编码器将输入图像编码成一个包含语义信息的高维向量,同理文本编码器将病人的病历文本信息进行特征提取并将其编码成包含病历语义信息的高维向量。基于强化学习的交互模块:该模块基于价值网络的DDQN算法,提供整个系统强化学习环境,模块接收来自病人反馈的评分并根据这些反馈生成相应的奖赏指导智能体agen

文章摘要:模型部署的关键技术与实践 本文系统介绍了AI模型部署的核心概念和方法。主要内容包括: 模型部署本质:将训练好的模型从实验环境迁移到生产环境,面临环境一致性、性能、可用性等挑战。 三大部署范式: 单机部署:数据安全但运维成本高 云端部署:弹性扩展,适合互联网产品 边缘部署:低延迟,适用于IoT场景 模型格式转换: 对比了.pkl、.pt、ONNX等格式特性 详细演示了PyTorch转ONN

AI系统上线并非简单部署,而是需要严谨的发布策略和持续监控。文章对比了四种发布方式:蓝绿部署(快速切换但资源翻倍)、金丝雀发布(逐步验证风险低,AI模型首选)、影子测试(零风险验证)和滚动更新(无停机但回滚慢)。重点展示了金丝雀发布的Python实现代码,包含流量路由、错误率监控和自动回滚机制,通过5%-100%的渐进式流量切换确保安全上线。上线后需持续监控业务指标(准确率)、系统指标(延迟)和数

文章摘要:模型部署的关键技术与实践 本文系统介绍了AI模型部署的核心概念和方法。主要内容包括: 模型部署本质:将训练好的模型从实验环境迁移到生产环境,面临环境一致性、性能、可用性等挑战。 三大部署范式: 单机部署:数据安全但运维成本高 云端部署:弹性扩展,适合互联网产品 边缘部署:低延迟,适用于IoT场景 模型格式转换: 对比了.pkl、.pt、ONNX等格式特性 详细演示了PyTorch转ONN

AI测试报告撰写指南 测试报告是AI项目决策的关键依据,连接测试与上线环节。本文提出标准AI测试报告结构(SERA-C框架),包含摘要、测试环境、结果、分析和结论5部分。摘要需简明扼要,测试环境需详细记录硬件、软件和数据配置,结果部分需用表格清晰展示指标达标情况,分析部分应深入诊断未达标指标的根因,结论需给出明确的上线建议。报告质量对比显示,优秀报告应具备数据量化、根因分析、可操作建议和可视化图表

本文介绍了边界案例(Edge Case)的概念、分类及系统化测试方法。边界案例指出现在输入空间边缘的罕见情况,模型在这些极端/异常输入上易失效,虽仅占流量5%以下,却对应重大业务风险。 文章将边界案例分为六大类(IEVN-UT框架): 1.输入极值(超长/短文本) 2.空值(全空格/Null) 3.数值边界(决策边界样本) 4.近阈值(模糊样本) 5.异常格式(HTML/代码) 6.对抗输入(错别

本文系统梳理了大语言模型(LLM)的核心原理与发展历程。主要内容包括: LLM定义与特征:参数量达数十亿至数万亿,训练数据达万亿级Token,具备语言理解、生成、推理等综合能力。 发展历程:从2018年GPT-1到2023年GPT-4,模型规模与能力持续突破,ChatGPT引爆应用热潮。 训练流程三阶段: 预训练:通过海量文本学习语言规律 监督微调(SFT):使用高质量指令数据优化对话能力 强化学

本文系统梳理了大语言模型(LLM)的核心原理与发展历程。主要内容包括: LLM定义与特征:参数量达数十亿至数万亿,训练数据达万亿级Token,具备语言理解、生成、推理等综合能力。 发展历程:从2018年GPT-1到2023年GPT-4,模型规模与能力持续突破,ChatGPT引爆应用热潮。 训练流程三阶段: 预训练:通过海量文本学习语言规律 监督微调(SFT):使用高质量指令数据优化对话能力 强化学








