logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【机器学习与自然语言处理】预训练 Pre-Training 各种经典方法的概念汇总

(1)一些概念源自LLM(Chatgpt)和网络(百度/知乎等),笔者进行了初步检查。(2)由于其中的各种知识比较琐碎,为了形成较为结构化的知识体系,且使用最简单的、几乎无公式的介绍,故作此博客。(3)着重为机器学习ML与自然语言处理领域NLP的,CV领域的不是很详细讲述了。

文章图片
#机器学习#自然语言处理#人工智能
【Python】科研代码学习:七 TrainingArguments,Trainer

如果是整数,表示多少步保存一次;小数,则是按照总训练步,多少比例之后保存一次。:最多中继文件的保存上限,如果超过上限,会先把最旧的那个中继文件删了再保存新的。:是否保存到 HF hub。

文章图片
#python#学习#开发语言
【Python】科研代码学习:一

搞科研,最重要的还是得看懂别人的源代码。这就意味着python不能太差看到比较有用的,或者不怎么看懂的代码,就搜索并学习,放在这里,供学习参考。∗∗在编译器中对包或者类或者方法,点击F12查看源码,而不是百度问怎么获得啥啥参数∗∗\color{red}** 在编译器中对包或者类或者方法,点击F12查看源码,而不是百度问怎么获得啥啥参数**∗∗在编译器中对包或者类或者方法,点击F12查看源码,而不是

文章图片
#python#学习
【算法讲13:高斯约旦消元法】改进:判断无解与无穷解

前置在线性代数的课程中,我们就学过基本的矩阵及其行初等变化。根据这些初等变化,我们的老师就高速我们怎么样去进行消元,然后求解线性方程组。模板题【模板】高斯消元法 | 洛谷 P3389挺基础的蓝题,虽然是个模板但是思路很简单可以手敲。⌈\lceil⌈高斯约旦消元法⌋\rfloor⌋首先,我们获得一个系数矩阵 An×nA_{n\times n}An×n​ 和一个列向量 Bn×1B_{n\times 1

#线性代数
【Pytorch安装】windows下,安装了torch但是import torch失败

【Pytorch安装】windows下,安装了torch但是import torch失败附带问题,原因,解决。

#pytorch#python
【VSCode,Python】一劳永逸的成功导入本地模组,PYTHONPATH的修改,与各种踩坑点

其中 aa 是在 NLP文件夹下的子文件夹。bb 是在 aa 文件夹下的子文件夹。

文章图片
#vscode#python
【因式分解】x^n+1,当 n 为偶数,系数为实数域的因式分解

【因式分解】x^n+1,当 n 为偶数情况下的展开前言分析例子分析2分析3前言WhatWhatWhat??? 这个因式分解的解答,可谓是杂草丛生。分析之前的人一直想把因式分解成下述样式:xn+1=(x+1)(xn−1−xn−2+⋯+1)x^n+1=(x+1)(x^{n-1}-x^{n-2}+\cdots+1)xn+1=(x+1)(xn−1−xn−2+⋯+1)这样一看的话,自然需要 nnn 是奇数,

#数学
【Python】科研代码学习:十二 PEFT(高效参数的训练,Adapter适配器)

【代码】【Python】科研代码学习:十二 PEFT(高效参数的训练,Adapter适配器)

文章图片
#python#学习#深度学习
【高数】变上限积分的等价无穷小替换

【高数】变上限积分的等价无穷小替换被积函数等价无穷小替换积分上限等价无穷小替换例题参考被积函数等价无穷小替换若 x→0x\rightarrow 0x→0 时 φ(x),f(x),g(x)\varphi(x),f(x),g(x)φ(x),f(x),g(x) 均为无穷小且 x→0x\rightarrow 0x→0 时 f(x)∼g(x)f(x)\sim g(x)f(x)∼g(x)且 φ′(x)\var

文章图片
【Python】科研代码学习:十四 wandb (可视化AI工具)

【wandb官网】wandb是的缩写(w and b)核心作用:可视化重要参数云端存储提供各种工具可以和其他工具配合使用,比如下面的等等可以在里面使用matplotlib貌似是的上位替代。

文章图片
#python#学习#人工智能
    共 13 条
  • 1
  • 2
  • 请选择