整理网址：http://www.cnblogs.com/TaigaCon/p/5304563.html 　整理网址：http://blog.csdn.net/shakingwaves/article/details/52426244 　表格生成：http://pressbin.com/tools/excel_to_html_table/index.html 　 　在视频数据压缩种，按照压缩前后图像信息量是否有损失，可以将压缩方法分为两类：一类是无失真编码或熵编码；另一类是有限失真编码。 　基于混合编码的视频压缩标准中，变换、预测后的量化处理属于有限失真编码，消除的是信源空间和时间的冗余度。而对量化后的预测残差变换系数形成的语法元素，采用的熵编码消除的是码字之间的冗余度，属于无失真编码。

1. 信息熵的概念

信息熵是指信号源（信源）的信息量。设有一个离散信源，，它产生消息的概率是已知的，记为 ，，（