numpy 打印前添加np.set_printoptions(threshold=np.inf)print(x)torch 打印前添加torch.set_printoptions(profile="full")print(x) # prints the whole tensortorch.set_printoptions(profile="default") # resetprint(x) # p

这里写目录标题1. 熵的定义1.1 信息熵的三个性质1.2 对信息熵三条性质的理解2. 伯努利分布熵的计算3. 两随机变量系统中熵的相关概念3.1 互信息3.2 联合熵3.3 条件熵3.4 互信息、联合熵、条件熵之间的关系4. 两分布系统中熵的相关概念4.1 交叉熵4.2 相对熵 (KL 散度)4.3 相对熵与交叉熵的关系1. 熵的定义信息熵的定义公式：H(X)=−∑x∈Xp(x)log⁡p(x)