本文为作为类ChatGPT的模型ChatGLM的前期基础论文2《AN OPEN BILINGUAL PRE-TRAINED MODEL》的精读笔记。GLM-130B，主要思想概述：一个双语（英文和中文）的基于GLM的双向稠密模型。并没有使用GPT风格的架构，而是采用通用语言模型（GLM）算法（Du et al.，2022）来利用其双向注意力优势和自回归空白填充目标，模型参数为1300亿，语料约训练

    在查看VMware中，设置成了NAT 模式后，（“虚拟机”->“虚拟机设置”—>“网络适配器”->选择NAT  ）NAT（network  addresstransform）是共享主机的ip地址，来上网，在centos7里，点击“系统工具”—>“设置”--->“网络”选择“有线”，将手动改为自动。    需要核对位置。.

由于并不清楚服务器具体地址，只有jupyter 连接的情况下，上传文件。方法一：用Linux命令直接用linux命令，在jupyter中只需要在命令前加一个！即可。学校服务器上没有装zip,但装了tar,可以在压缩的时候选择文件压缩为.tar.gz的文件格式。 命令：!tar -zxvf ./Language-Detector.tar.gz  方法...

转载: 参考：https://blog.csdn.net/u010238520/article/details/761657361.第一种是通过tf.device()函数来指定训练时所要使用的GPU.假设我们要用我们的第2块GPU来训练模型，此时可以通过下面的代码来指定：tf.device('/gpu:2')我们可以看到，虽然指定了第2块GPU来训练，但是其它几个GPU也...

解决在服务器上安装langchain+chatglm-6b的环境包requirements时遇到的报错

pandas函数中pandas.DataFrame.from_dict 直接从字典构建DataFrame 。参数解析DataFrame from_dict（）方法用于将Dict转换为DataFrame对象。 此方法接受以下参数。data: dict or array like object to create DataFrame.data：字典或类似数组的对象来创建DataFrame。orient

torch.rand和torch.randn有什么区别？ y = torch.rand(5,3) y=torch.randn(5,3)一个均匀分布，一个是标准正态分布。均匀分布torch.rand(*sizes, out=None)→ Tensor返回一个张量，包含了从区间[0, 1)的均匀分布中抽取的一组随机数。张量的形状由参数sizes定义。参数:sizes (int...

pycharm本身有自动生成文件头注释的功能，可以实现自动生成运行环境，作者、日期等必要信息。pycharm -> preferenceFile->File and Code Templates->Python Script在弹出的右侧输入自己的模板即可#!/usr/bin/env python# -*- coding: utf-8 -*-# @Time...

pyspark 从已有数据表读取数据写入目标hive表的代码模板

全部替换df.replace(to_replace, value) 前面是需要替换的值，后面是替换后的值。如 df.replace('12589‘，’0‘）这样Python就会搜索整个DataFrame并将文档中所有的12589替换成了0（要注意这样的操作并没有改变文档的源数据，要改变源数据需要使用参数inplace = True,或者改为赋值的方式），df.replace('12589','0'