logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型应用开发之微调与对齐

一、指令微调Instruction Tuning一、指令微调Instruction Tuning1、指令数据大模型就像一个天赋异禀的学生,在前期预训练阶段通过大量的阅读知识积累拥有了大量的见识,但光有天赋知识却不会交流还不行,得有好的教材和老师教它怎么做题、怎么回答问题,这个“教材和老师的角色”,就由来扮演1)指令数据组成清晰地告诉模型要做什么。比如“请回答法国的首都是哪里?给模型一个或多个输入样

大模型应用开发之评估

以基础的二分类任务为例,如下混淆矩阵,真正例(True Positive, TP)表示预测类别为正的正样本、假正例(False Positive, FP)表示预测类别为正的负样本、真负例(True Negative, TN)表示预测类别为负的负样本、假负(FalseNegative, FN)表示预测类别为负的正样本。给模型一段自然语言描述的需求(比如“写一个计算斐波那契数列的函数”),看它能不能生

#人工智能
大模型应用开发之预训练

预训练是研发大语言模型的第一个训练阶段,通过在大规模语料上进行预训练,大语言模型可以获得通用的语言理解与生成能力,掌握较为广泛的世界知识,具备解决众多下游任务的性能潜力1. 数据的收集1)通用文本数据(“主食”)来源:网页(C4 、RefinedWeb、CC-Stories 等);书籍(Books3 、Bookcorpus2等);特点:量大;多样;需要清洗;注意搭配2)专用文本数据(“特色”)

Mac m1芯片基于parallesls desktop安装Ubuntu

创建新的虚拟机,按照PD指引一步一步操作。对于Mac系统,不论VM/PD都需要用。

文章图片
#macos#ubuntu#linux
操作系统期末复习应用题

1、假设计算机系统采用CSCAN(循环扫描)磁盘调度策略,使用2KB的内存空间记录16384个磁盘块的空闲状态。(1)请说明在上述条件下如何进行磁盘块空闲状态管理(2)设某单面磁盘旋转速度为每分钟6000转,每个磁道有100个扇区,相邻磁道间的平均移动时间为1ms。若某时刻,磁盘位于100磁道处,并沿着磁道号大的方向移动,磁道号请求队列为50,100,30,220,对请求队列中的每个磁道需读取1个

文章图片
#开发语言#学习#软件工程
操作系统期末复习知识点总结

1. 操作系统的定义OS是一组控制和管理计算机硬件和软件资源,合理地对各类作业进行调度,方便用户使用计算机的程序集合。即为用户程序提供服务,是用户与硬件系统之间的接口。2. 操作系统的作用OS是计算机系统的核心,负责管理整个计算机系统的软硬件资源,制定各种资源的分配策略,调度系统中运行的用户程序,协调用户对资源的需求,从而使真个计算机系统高效有序的工作3. 操作系统的常见的分类①批处理操作系统:单

文章图片
#学习
操作系统期末复习知识点总结

1. 操作系统的定义OS是一组控制和管理计算机硬件和软件资源,合理地对各类作业进行调度,方便用户使用计算机的程序集合。即为用户程序提供服务,是用户与硬件系统之间的接口。2. 操作系统的作用OS是计算机系统的核心,负责管理整个计算机系统的软硬件资源,制定各种资源的分配策略,调度系统中运行的用户程序,协调用户对资源的需求,从而使真个计算机系统高效有序的工作3. 操作系统的常见的分类①批处理操作系统:单

文章图片
#学习
到底了