本报告根据《信息论与编码》第 6 章中线性分组码、伴随式和标准阵列译码的内容，选取课件例 6-3 的二元 (5,2) 系统线性分组码作为仿真对象，使用 Python 编写程序实现码字生成、校验矩阵求解、伴随式计算、标准阵列构造以及接收码译码。程序默认使用课件中的生成矩阵，并对接收码 R=10101 进行验证，得到伴随式 S=010、差错图案 E=00010，最终译出码字 C=10111，与课件计算

实际通信的中继转发、多跳传输可等效为BSC串联，串联级数越多，误码率越高、信道容量越小，印证了数据处理不等式。通过代码仿真，我将抽象的信息论理论与可视化结果结合，明晰了信道串联只会损耗信息、无法提升传输性能的特性，同时提升了通信建模与仿真实操能力，夯实了数字通信的理论基础。含义：给定中间随机变量Y，最终输出Z与初始输入X条件独立，第二个 BSC 的传输只由中间码字Y决定，不受原始输入X直接影响。设

(5,2)线性分组码标准阵列译码原理与Python仿真实现一、调研摘要 本次调研选取曹雪虹《信息论与编码（第4版）》中(5,2)系统线性分组码作为研究对象，深入推导线性分组码生成矩阵、监督矩阵构造过程，剖析标准阵列译码表构建原理，完成伴随式计算、错误图样识别、码字译码全流程Python仿真，对比查表译码与伴随式译码两种方式的一致性，验证线性分组码纠错能力。二、知识点原理推导 2.1 (5,2)线性

L次扩展离散无记忆信道容量完整推导及Python仿真可视化（P124302056王菊、P124302068曹颖、P124302074吴蓝兰、P124302059赵星宇）

无论是决策树的构建、特征选择，还是模型训练中的损失函数设计，熵都扮演着至关重要的角色。本文将基于 Python 代码，深入解析信息熵的几个关键数学性质（非负性、确定性、对称性和最大熵定理），并通过可视化手段直观展示其变化规律。此时，两个事件的概率均为 0.5，系统最难以预测，熵值达到峰值 1 bit。在验证性质之前，我们首先需要实现计算离散信源熵和相对熵（KL散度）的基础函数。交换概率分布中的元素

摘要二进制对称信道（BSC）是离散无记忆信道最基础模型，多级BSC信道串联是通信链路多级中继传输的简化模型。本文先推导两级BSC串联等效转移矩阵与信道容量闭式解，进一步推广得到m级串联BSC通用容量公式；通过Python完成数值仿真，绘制信道容量随误码率、串联级数变化的关系曲线，直观分析串联链路对传输容量的衰减规律，同时结合通信工程场景解释结论物理意义。一、研究背景与意义二进制对称信道BSC广泛用

静态/半静态哈夫曼编码：使用一个预先定义好的、固定的码表。例如，JPEG和MP3就采用这种方式。标准规定了一套针对典型图像/音频数据的编码表，编解码双方都遵循这个标准，无需在文件中附带码表，提高了效率。动态/自适应哈夫曼编码：根据当前正在压缩的具体数据，实时统计字符频率并动态构建哈夫曼树。DEFLATE算法（ZIP/gzip）就采用这种方式，因为它能针对每一个特定文件生成最优的编码，压缩率通常更高

离散信道下，互信息可表示为：其中：p(x)：输入符号 x 的先验概率分布（待优化变量）p(y|x)：信道转移概率（固定，由信道特性决定）p(y) = sumx p(x)p(y|x)：输出符号 y 的边缘概率分布2. 上凸函数定义若对于任意分布 p1(x), p2(x) 和任意λ∈ [0,1]，满足：Y)≥λI(p1​;Y)，则称 I(X;Y) 是关于(p(x)的上凸函数。本文通过将互信息拆解为熵与

离散信道下，互信息可表示为：其中：p(x)：输入符号 x 的先验概率分布（待优化变量）p(y|x)：信道转移概率（固定，由信道特性决定）p(y) = sumx p(x)p(y|x)：输出符号 y 的边缘概率分布2. 上凸函数定义若对于任意分布 p1(x), p2(x) 和任意λ∈ [0,1]，满足：Y)≥λI(p1​;Y)，则称 I(X;Y) 是关于(p(x)的上凸函数。本文通过将互信息拆解为熵与

Y) 是信息论中信道容量求解的核心函数。Y) 是 p(xi) 的上凸函数时，最大值才唯一且全局最优，这是所有迭代注水算法收敛的理论基石。定义混合分布：Pλ(x)=λ*P1(x)+(1−λ)*P2(x)2.条件熵的线性性：固定信道转移概率时，条件熵 H(Y∣X)=∑x*p(x)H(Y∣X=x) 是输入分布 p(x) 的线性函数。由于信道是线性的（固定转移矩阵），对应的输出分布也满足：Qλ(y)=λQ