logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大数据技术习题整理

大数据技术的习题

#大数据
RIPPER算法

书本定义:为了建立基于规则的分类器,需要提取一组规则来识别数据集的属性和类标号之间的关键联系如何提取?一般采取直接方法,直接从数据中提取分类规则,直接方法把属性空间分为较小的子空间,以便于属于一个子空间的所有记录可以使用一个分类规则进行分类,即一个属性子空间训练一个分类规则(类似于决策树划分之后的子树,然后基于子树再进行划分)RIPPER算法可以笼统的理解为一个三步过程:生长,修剪,优化。

文章图片
#算法
DeepSpeed

使用DeepSpeed时,首先需要提供一个ds_config文件然后参照上文基础用法,将model用deepspeed.initialize()包装起来deepspeed.initialize()内部会初始化通信,所以就不需要手动调用dist.init_process_group()了(当然也可以手动调用deepspeed.init_distributed()来初始化)

文章图片
#人工智能#深度学习
如何训练Embedding 和 Rerank Model

对于中文,指令是为这个句子生成表示以用于检索相关文章:. 在评测中,针对段落检索任务的任务需要在查询中添加指令,但不需要为段落文档添加指令。对比损失的温度为0.01。:除了上述三元组中的反例外,他们还采用了“in-batch negatives”策略,意思是在同一个批次的数据中,使用其他数据作为额外的反例。:模型接受三元组格式的数据作为输入,包括一个查询(query),一个正例(positive)

文章图片
ChatGLM学习

在传统的自注意力机制中,输入序列中的每个位置都会计算一个注意力权重,用于对其他位置的信息进行加权聚合。而在双流自注意力机制中,会引入两个注意力流,分别用于处理不同类型的信息。它是基于自注意力机制(self-attention)的扩展,通过引入两个独立的注意力流来处理不同类型的信息。,从其中采样文本span{s1,· · ·,sm},其中每个si表示连续令牌的跨度,并用单个掩码替换si,要求模型对它

文章图片
#学习
RNN & Seq2Seq

双向递归层可以提供更好的识别预测效果,但却不能实时预测,由于反向递归的计算需要从最末时刻开始,网络不得不等待着完整序列都产生后才可以开始预测。在对于实时识别有要求的线上语音识别,其应用受限。在实践中,如果序列过长会导致优化时出现梯度消散或梯度爆炸的问题,从而丧失学。GRU模型如下,它只有两个门了,分别为更新门和重置门,即图中的𝑧𝑡和𝑟𝑡。梯度消失的原因之一:tanh激活函数求导后的连乘。习

文章图片
#rnn#深度学习#人工智能
Prompt Engineering for Developer

多条文本:放在一个list里面,然后for遍历你的任务是从电子商务网站上的产品评论中提取相关信息。请对三个反引号之间的评论文本进行概括,最多20个词汇。评论文本: ```{reviews[i]}```"""print(f"评论{i+1}: ", response, "\n")

文章图片
#学习#人工智能#深度学习
到底了