有趣！史记：数据压缩算法列传
电脑里的数据压缩其实类似于美眉们的瘦身运动，不外有两大功用。
第一，可以节省空间。拿瘦身美眉来说，要是八个美眉可以挤进一辆出租车里，那该有多省钱啊！
第二，可以减少对带宽的占用。例如，我们都想在不到 100kbps 的 gprs 网上观看 dvd 大片，这就好比瘦身美眉们总希望用一尺布裁出七件吊带衫，前者有待于数据压缩技术的突破性进展，后者则取决于美眉们的恒心和毅力。
简单地说，如果没有数据压缩技术，我们就没法用 winrar 为 email 中的附件瘦身；如果没有数据压缩技术，市场上的数码录音笔就只能记录不到20 分钟的语音；如果没有数据压缩技术，从 internet上下载一部电影也许要花半年的时间……可是这一切究竟是如何实现的呢？数据压缩技术又是怎样从无到有发展起来的呢？
概率奇缘
一千多年前的中国学者就知道用“班马”这样的缩略语来指代班固和司马迁，这种崇尚简约的风俗一直延续到了今天的 internet 时代：当我们在 bbs上用“ 7456 ”代表“气死我了”，或是用“ b4 ”代表“ before ”的时候，我们至少应该知道，这其实就是一种最简单的数据压缩呀。
严格意义上的数据压缩起源于人们对概率的认识。当我们对文字信息进行编码时，如果为出现概率较高的字母赋予较短的编码，为出现概率较低的字母赋予较长的编码，总的编码长度就能缩短不少。远在计算机出现之前，著名的 morse电码就已经成功地实践了这一准则。在 morse码表中，每个字母都对应于一个唯一的点划组合，出现概率最高的字母 e 被编码为一个点“ 。 ”，而出现概率较低的字母 z 则被编码为“ --”。显然，这可以有效缩短最终的电码长度。
信息论之父 c. e.shannon第一次用数学语言阐明了概率与信息冗余度的关系。在 1948 年发表的论文“通信的数学理论（ a mathematical theory of communication ）”中， shannon 指出，任何信息都存在冗余，冗余大小与信息中每个符号（数字、字母或单词）的出现概率或者说不确定性有关。shannon 借鉴了热力学的概念，把信息中排除了冗余后的平均信息量称为“信息熵”，并给出了计算信息熵的数学表达式。这篇伟大的论文后来被誉为信息论的开山之作，信息熵也奠定了所有数据压缩算法的理论基础。从本质上讲，数据压缩的目的就是要消除信息中的冗余，而信息熵及相关的定理恰恰用数学手段精确地描述了信息冗余的程度。利用信息熵公式，人们可以计算出信息编码的极限，即在一定的概率模型下，无损压缩的编码长度不可能小于信息熵公式给出的结果。
有了完备的理论，接下来的事就是要想办法实现具体的算法，并尽量使算法的输出接近信息熵的极限了。当然，大多数工程技术人员都知道，要将一种理论从数学公式发展成实用技术，就像仅凭一个 e=mc 2 的公式就要去制造核武器一样，并不是一件很容易的事。
数学游戏
设计具体的压缩算法的过程通常更像是一场数学游戏。开发者首先要寻找一种能尽量精确地统计或估计信息中符号出现概率的方法，然后还要设计一套用最短的代码描述每个符号的编码规则。统计学知识对于前一项工作相当有效，迄今为止，人们已经陆续实现了静态模型、半静态模型、自适应模型、 markov模型、部分匹配预测模型等概率统计模型。相对而言，编码方法的发展历程更为曲折一些。
1948年，shannon在提出信息熵理论的同时，也给出了一种简单的编码方法―― shannon 编码。1952 年， r. m. fano 又进一步提出了 fano编码。这些早期的编码方法揭示了变长编码的基本规律，也确实可以取得一定的压缩效果，但离真正实用的压缩算法还相去甚远。
第一个实用的编码方法是由d. a. huffman 在 1952 年的论文“最小冗余度代码的构造方法（ a method for the construction of minimum redundancy codes ）”中提出的。直到今天，许多《数据结构》教材在讨论二叉树时仍要提及这种被后人称为 huffman 编码的方法。huffman 编码在计算机界是如此著名，以至于连编码的发明过程本身也成了人们津津乐道的话题。据说， 1952 年时，年轻的 huffman 还是麻省理工学院的一名学生，他为了向老师证明自己可以不参加某门功课的期末考试，才设计了这个看似简单，但却影响深远的编码方法。
huffman编码效率高，运算速度快，实现方式灵活，从 20 世纪 60 年代至今，在数据压缩领域得到了广泛的应用。例如，早期 unix 系统上一个不太为现代人熟知的压缩程序 compact 实际就是 huffman 0 阶自适应编码的具体实现。20 世纪 80 年代初，huffman 编码又出现在 cp/m 和 dos 系统中，其代表程序叫 sq 。今天，在许多知名的压缩工具和压缩算法（如 winrar、 gzip 和 jpeg ）里，都有 huffman编码的身影。不过， huffman 编码所得的编码长度只是对信息熵计算结果的一种近似，还无法真正逼近信息熵的极限。正因为如此，现代压缩技术通常只将 huffman 视作最终的编码手段，而非数据压缩算法的全部。
科学家们一直没有放弃向信息熵极限挑战的理想。1968 年前后， p. elias发展了 shannon 和 fano 的编码方法，构造出从数学角度看来更为完美的 shannon-fano-elias编码。沿着这一编码方法的思路， 1976 年， j. rissanen 提出了一种可以成功地逼近信息熵极限的编码方法――算术编码。1982年， rissanen 和 g. g. langdon 一起改进了算术编码。之后，人们又将算术编码与 j. g. cleary 和 i. h.witten 于1984 年提出的部分匹配预测模型（ ppm ）相结合，开发出了压缩效果近乎完美的算法。今天，那些名为 ppmc 、 ppmd 或ppmz 并号称压缩效果天下第一的通用压缩算法，实际上全都是这一思路的具体实现。
对于无损压缩而言， ppm模型与算术编码相结合，已经可以最大程度地逼近信息熵的极限。看起来，压缩技术的发展可以到此为止了。不幸的是，事情往往不像想象中的那样简单：算术编码虽然可以获得最短的编码长度，但其本身的复杂性也使得算术编码的任何具体实现在运行时都慢如蜗牛。即使在摩尔定律大行其道， cpu速度日新月异的今天，算术编码程序的运行速度也很难满足日常应用的需求。没办法，如果不是后文将要提到的那两个犹太人，我们还不知要到什么时候才能用上 winzip 这样方便实用的压缩工具呢。
异族传说
逆向思维永远是科学和技术领域里出奇制胜的法宝。就在大多数人绞尽脑汁想改进 huffman 或算术编码，以获得一种兼顾了运行速度和压缩效果的“完美”编码的时候，两个聪明的犹太人 j. ziv 和 a. lempel 独辟蹊径，完全脱离huffman 及算术编码的设计思路，创造出了一系列比 huffman编码更有效，比算术编码更快捷的压缩算法。我们通常用这两个犹太人姓氏的缩写，将这些算法统称为 lz 系列算法。
按照时间顺序，lz 系列算法的发展历程大致是：ziv 和 lempel 于 1977 年发表题为“顺序数据压缩的一个通用算法（ a universal algorithm for sequential data compression ）”的论文，论文中描述的算法被后人称为 lz77 算法。
1978 年，二人又发表了该论文的续篇“通过可变比率编码的独立序列的压缩（ compression of individual sequences via variable rate coding ）”，描述了后来被命名为 lz78 的压缩算法。1984 年， t. a. welch 发表了名为“高性能数据压缩技术（ a technique for high performance data compression ）”的论文，描述了他在 sperry 研究中心（该研究中心后来并入了 unisys 公司）的研究成果，这是 lz78 算法的一个变种，也就是后来非常有名的 lzw 算法。1990 年后， t. c. bell 等人又陆续提出了许多 lz 系列算法的变体或改进版本。
说实话， lz 系列算法的思路并不新鲜，其中既没有高深的理论背景，也没有复杂的数学公式，它们只是简单地延续了千百年来人们对字典的追崇和喜好，并用一种极为巧妙的方式将字典技术应用于通用数据压缩领域。通俗地说，当你用字典中的页码和行号代替文章中每个单词的时候，你实际上已经掌握了 lz系列算法的真谛。这种基于字典模型的思路在表面上虽然和 shannon 、 huffman 等人开创的统计学方法大相径庭，但在效果上一样可以逼近信息熵的极限。而且，可以从理论上证明， lz系列算法在本质上仍然符合信息熵的基本规律。
lz系列算法的优越性很快就在数据压缩领域里体现了出来，使用 lz 系列算法的工具软件数量呈爆炸式增长。unix 系统上最先出现了使用 lzw算法的 compress程序，该程序很快成为了 unix 世界的压缩标准。紧随其后的是 ms-dos 环境下的 arc 程序，以及pkware 、 pkarc 等仿制品。20 世纪 80 年代，著名的压缩工具 lharc 和 arj 则是 lz77 算法的杰出代表。
今天， lz77 、 lz78 、 lzw 算法以及它们的各种变体几乎垄断了整个通用数据压缩领域，我们熟悉的 pkzip 、winzip 、 winrar 、 gzip 等压缩工具以及 zip 、 gif 、 png等文件格式都是 lz 系列算法的受益者，甚至连 pgp 这样的加密文件格式也选择了 lz 系列算法作为其数据压缩的标准。
没有谁能否认两位犹太人对数据压缩技术的贡献。我想强调的只是，在工程技术领域，片面追求理论上的完美往往只会事倍功半，如果大家能像 ziv 和 lempel 那样，经常换个角度来思考问题，没准儿你我就能发明一种新的算法，就能在技术方展史上扬名立万呢。
音画时尚
lz系列算法基本解决了通用数据压缩中兼顾速度与压缩效果的难题。但是，数据压缩领域里还有另一片更为广阔的天地等待着我们去探索。shannon的信息论告诉我们，对信息的先验知识越多，我们就可以把信息压缩得越小。换句话说，如果压缩算法的设计目标不是任意的数据源，而是基本属性已知的特种数据，压缩的效果就会进一步提高。这提醒我们，在发展通用压缩算法之余，还必须认真研究针对各种特殊数据的专用压缩算法。比方说，在今天的数码生活中，遍布于数码相机、数码录音笔、数码随身听、数码摄像机等各种数字设备中的图像、音频、视频信息，就必须经过有效的压缩才能在硬盘上存储或是通过 usb电缆传输。实际上，多媒体信息的压缩一直是数据压缩领域里的重要课题，其中的每一个分支都有可能主导未来的某个技术潮流，并为数码产品、通信设备和应用软件开发商带来无限的商机。
让我们先从图像数据的压缩讲起。通常所说的图像可以被分为二值图像、灰度图像、彩色图像等不同的类型。每一类图像的压缩方法也不尽相同。
传真技术的发明和广泛使用促进了二值图像压缩算法的飞速发展。ccitt （国际电报电话咨询委员会，是国际电信联盟 itu下属的一个机构）针对传真类应用建立了一系列图像压缩标准，专用于压缩和传递二值图像。这些标准大致包括 20 世纪 70 年代后期的 ccitt group 1 和 group 2 ， 1980 年的 ccitt group 3 ，以及 1984 年的 ccitt group 4 。
为 了适应不同类型的传真图像，这些标准所用的编码方法包括了一维的 mh 编码和二维的 mr 编码，其中使用了行程编码（ rle ）和 huffman 编码等技术。今天，我们在办公室或家里收发传真时，使用的大多是 ccitt group 3 压缩标准，一些基于数字网络的传真设备和存放二值图像的 tiff 文件则使用了 ccitt group 4 压缩标准。1993 年， ccitt 和 iso（国际标准化组织）共同成立的二值图像联合专家组（ joint bi-level image experts group ， jbig ）又将二值图像的压缩进一步发展为更加通用的 jbig 标准。
实际上，对于二值图像和非连续的灰度、彩色图像而言，包括 lz 系列算法在内的许多通用压缩算法都能获得很好的压缩效果。例如，诞生于 1987 年的gif 图像文件格式使用的是 lzw 压缩算法， 1995 年出现的 png 格式比 gif 格式更加完善，它选择了 lz77 算法的变体zlib 来压缩图像数据。此外，利用前面提到过的 huffman 编码、算术编码以及 ppm模型，人们事实上已经构造出了许多行之有效的图像压缩算法。
但是，对于生活中更加常见的，像素值在空间上连续变化的灰度或彩色图像（比如数码照片），通用压缩算法的优势就不那么明显了。幸运的是，科学家们发现，如果在压缩这一类图像数据时允许改变一些不太重要的像素值，或者说允许损失一些精度（在压缩通用数据时，我们绝不会容忍任何精度上的损失，但在压缩和显示一幅数码照片时，如果一片树林里某些树叶的颜色稍微变深了一些，看照片的人通常是察觉不到的），我们就有可能在压缩效果上获得突破性的进展。这一思想在数据压缩领域具有革命性的地位：通过在用户的忍耐范围内损失一些精度，我们可以把图像（也包括音频和视频）压缩到原大小的十分之一、百分之一甚至千分之一，这远远超出了通用压缩算法的能力极限。也许，这和生活中常说的“退一步海阔天空”的道理有异曲同工之妙吧。
这种允许精度损失的压缩也被称为有损压缩。在图像压缩领域，著名的jpeg标准是有损压缩算法中的经典。jpeg 标准由静态图像联合专家组（ joint photographic experts group ，jpeg ）于 1986 年开始制定， 1994 年后成为国际标准。jpeg以离散余弦变换（ dct ）为核心算法，通过调整质量系数控制图像的精度和大小。对于照片等连续变化的灰度或彩色图像， jpeg在保证图像质量的前提下，一般可以将图像压缩到原大小的十分之一到二十分之一。如果不考虑图像质量， jpeg甚至可以将图像压缩到“无限小”。
jpeg标准的最新进展是 1996 年开始制定， 2001 年正式成为国际标准的 jpeg 2000。与 jpeg 相比， jpeg 2000 作了大幅改进，其中最重要的是用离散小波变换（ dwt ）替代了 jpeg 标准中的离散余弦变换。在文件大小相同的情况下， jpeg 2000压缩的图像比 jpeg 质量更高，精度损失更小。作为一个新标准， jpeg 2000暂时还没有得到广泛的应用，不过包括数码相机制造商在内的许多企业都对其应用前景表示乐观， jpeg 2000在图像压缩领域里大显身手的那一天应该不会特别遥远。
jpeg标准中通过损失精度来换取压缩效果的设计思想直接影响了视频数据的压缩技术。ccitt 于 1988 年制定了电视电话和会议电视的 h.261 建议草案。h.261的基本思路是使用类似 jpeg 标准的算法压缩视频流中的每一帧图像，同时采用运动补偿的帧间预测来消除视频流在时间维度上的冗余信息。在此基础上， 1993 年， iso通过了动态图像专家组（ moving picture experts group ， mpeg ）提出的 mpeg-1标准。mpeg-1 可以对普通质量的视频数据进行有效编码。我们现在看到的大多数 vcd 影碟，就是使用 mpeg-1 标准来压缩视频数据的。
为了支持更清晰的视频图像，特别是支持数字电视等高端应用，iso 于 1994 年提出了新的 mpeg-2 标准（相当于 ccitt 的 h.262 标准）。mpeg-2 对图像质量作了分级处理，可以适应普通电视节目、会议电视、高清晰数字电视等不同质量的视频应用。在我们的生活中，可以提供高清晰画面的 dvd影碟所采用的正是 mpeg-2 标准。
internet的发展对视频压缩提出了更高的要求。在内容交互、对象编辑、随机存取等新需求的刺激下， iso 于 1999 年通过了 mpeg-4 标准（相当于ccitt 的 h.263 和 h.263+标准）。mpeg-4 标准拥有更高的压缩比率，支持并发数据流的编码、基于内容的交互操作、增强的时间域随机存取、容错、基于内容的尺度可变性等先进特性。internet上新兴的 divx 和 xvid 文件格式就是采用 mpeg-4 标准来压缩视频数据的，它们可以用更小的存储空间或通信带宽提供与 dvd不相上下的高清晰视频，这使我们在 internet 上发布或下载数字电影的梦想成为了现实。
就像视频压缩和电视产业的发展密不可分一样，音频数据的压缩技术最早也是由无线电广播、语音通信等领域里的技术人员发展起来的。这其中又以语音编码和压缩技术的研究最为活跃。自从 1939 年h. dudley 发明声码器以来，人们陆续发明了脉冲编码调制（ pcm ）、线性预测（ lpc ）、矢量量化（ vq ）、自适应变换编码（atc ）、子带编码（ sbc）等语音分析与处理技术。这些语音技术在采集语音特征，获取数字信号的同时，通常也可以起到降低信息冗余度的作用。像图像压缩领域里的 jpeg一样，为获得更高的编码效率，大多数语音编码技术都允许一定程度的精度损失。而且，为了更好地用二进制数据存储或传送语音信号，这些语音编码技术在将语音信号转换为数字信息之后又总会用 huffman 编码、算术编码等通用压缩算法进一步减少数据流中的冗余信息。
对于电脑和数字电器（如数码录音笔、数码随身听）中存储的普通音频信息，我们最常使用的压缩方法主要是mpeg 系列中的音频压缩标准。例如， mpeg-1 标准提供了layer i 、 layer ii 和 layer iii 共三种可选的音频压缩标准， mpeg-2 又进一步引入了 aac （ advanced audio coding ）音频压缩标准， mpeg-4标准中的音频部分则同时支持合成声音编码和自然声音编码等不同类型的应用。在这许多音频压缩标准中，声名最为显赫的恐怕要数 mpeg-1 layer iii ，也就是我们常说的 mp3 音频压缩标准了。从 mp3 播放器到 mp3 手机，从硬盘上堆积如山的 mp3 文件到 internet上版权纠纷不断的 mp3 下载， mp3 早已超出了数据压缩技术的范畴，而成了一种时尚文化的象征了。
很显然，在多媒体信息日益成为主流信息形态的数字化时代里，数据压缩技术特别是专用于图像、音频、视频的数据压缩技术还有相当大的发展空间――毕竟，人们对信息数量和信息质量的追求是永无止境的。
回到未来
从信息熵到算术编码，从犹太人到 winrar ，从 jpeg 到 mp3，数据压缩技术的发展史就像是一个写满了“创新”、“挑战”、“突破”和“变革”的羊皮卷轴。也许，我们在这里不厌其烦地罗列年代、人物、标准和文献，其目的只是要告诉大家，前人的成果只不过是后人有望超越的目标而已，谁知道在未来的几年里，还会出现几个 shannon ，几个huffman 呢？
谈到未来，我们还可以补充一些与数据压缩技术的发展趋势有关的话题。
1994年，m. burrows和d. j. wheeler共同提出了一种全新的通用数据压缩算法。这种算法的核心思想是对字符串轮转后得到的字符矩阵进行排序和变换，类似的变换算法被称为 burrows-wheeler 变换，简称 bwt 。与 ziv 和 lempel 另辟蹊径的做法如出一辙， burrows 和 wheeler 设计的 bwt 算法与以往所有通用压缩算法的设计思路都迥然不同。如今， bwt 算法在开放源码的压缩工具bzip 中获得了巨大的成功， bzip 对于文本文件的压缩效果要远好于使用 lz系列算法的工具软件。这至少可以表明，即便在日趋成熟的通用数据压缩领域，只要能在思路和技术上不断创新，我们仍然可以找到新的突破口。
分形压缩技术是图像压缩领域近几年来的一个热点。这一技术起源于b. mandelbrot 于 1977 年创建的分形几何学。m. barnsley 在 20 世纪 80 年代后期为分形压缩奠定了理论基础。从 20 世纪 90 年代开始， a. jacquin等人陆续提出了许多实验性的分形压缩算法。今天，很多人相信，分形压缩是图像压缩领域里最有潜力的一种技术体系，但也有很多人对此不屑一顾。无论其前景如何，分形压缩技术的研究与发展都提示我们，在经过了几十年的高速发展之后，也许，我们需要一种新的理论，或是几种更有效的数学模型，以支撑和推动数据压缩技术继续向前跃进。
人工智能是另一个可能对数据压缩的未来产生重大影响的关键词。既然 shannon认为，信息能否被压缩以及能在多大程度上被压缩与信息的不确定性有直接关系，假设人工智能技术在某一天成熟起来，假设计算机可以像人一样根据已知的少量上下文猜测后续的信息，那么，将信息压缩到原大小的万分之一乃至十万分之一，恐怕就不再是天方夜谭了。
回顾历史之后，人们总喜欢畅想一下未来。但未来终究是未来，如果仅凭你我几句话就可以理清未来的技术发展趋势，那技术创新的工作岂不就索然无味了吗？依我说，未来并不重要，重要的是，赶快到 internet 上下载几部大片，然后躺在沙发里，好好享受一下数据压缩为我们带来的无限快乐吧。
这场“非线性”主题沙龙，为生物医药产业开启了全新视野
VR、AR与MR或将掀起第四波科技浪潮
助力开芯院“香山”项目！思尔芯亮相RISC-V中国峰会
液态金属的可控流动与操纵综述
汽车充电之路布满荆棘，教你三招破局
有趣！史记：数据压缩算法列传
2020年全球智能照明市场可达243.41亿美元，将成为未来市场的新蓝海
人工焊锡四点不可忽略的危害
小白智能摄像机户外云台版众筹首发价，通过手机APP控制水平旋转
DSP硬件方面的电磁兼容性
监控系统常用的九种设备
“诈尸”的金立还是原来的金立吗？
采用MCU、CAN控制器和收发器实现燃料电池汽车空调智能节点的设计
MacBook内存不足？不不不，你只需要一个这个！
连接器温升对于锂电池性能的影响
电流互感器使用方法
净化网络环境！可信数字内容版权服务解决方案发布
openharmony开源社区地址在哪里
揭秘小米在北京亦庄的“黑灯工厂”里诞生
高频信号发生器的工作原理
第一，可以节省空间。拿瘦身美眉来说，要是八个美眉可以挤进一辆出租车里，那该有多省钱啊！
第二，可以减少对带宽的占用。例如，我们都想在不到 100kbps 的 gprs 网上观看 dvd 大片，这就好比瘦身美眉们总希望用一尺布裁出七件吊带衫，前者有待于数据压缩技术的突破性进展，后者则取决于美眉们的恒心和毅力。
简单地说，如果没有数据压缩技术，我们就没法用 winrar 为 email 中的附件瘦身；如果没有数据压缩技术，市场上的数码录音笔就只能记录不到20 分钟的语音；如果没有数据压缩技术，从 internet上下载一部电影也许要花半年的时间……可是这一切究竟是如何实现的呢？数据压缩技术又是怎样从无到有发展起来的呢？
概率奇缘
一千多年前的中国学者就知道用“班马”这样的缩略语来指代班固和司马迁，这种崇尚简约的风俗一直延续到了今天的 internet 时代：当我们在 bbs上用“ 7456 ”代表“气死我了”，或是用“ b4 ”代表“ before ”的时候，我们至少应该知道，这其实就是一种最简单的数据压缩呀。
严格意义上的数据压缩起源于人们对概率的认识。当我们对文字信息进行编码时，如果为出现概率较高的字母赋予较短的编码，为出现概率较低的字母赋予较长的编码，总的编码长度就能缩短不少。远在计算机出现之前，著名的 morse电码就已经成功地实践了这一准则。在 morse码表中，每个字母都对应于一个唯一的点划组合，出现概率最高的字母 e 被编码为一个点“ 。 ”，而出现概率较低的字母 z 则被编码为“ --”。显然，这可以有效缩短最终的电码长度。
信息论之父 c. e.shannon第一次用数学语言阐明了概率与信息冗余度的关系。在 1948 年发表的论文“通信的数学理论（ a mathematical theory of communication ）”中， shannon 指出，任何信息都存在冗余，冗余大小与信息中每个符号（数字、字母或单词）的出现概率或者说不确定性有关。shannon 借鉴了热力学的概念，把信息中排除了冗余后的平均信息量称为“信息熵”，并给出了计算信息熵的数学表达式。这篇伟大的论文后来被誉为信息论的开山之作，信息熵也奠定了所有数据压缩算法的理论基础。从本质上讲，数据压缩的目的就是要消除信息中的冗余，而信息熵及相关的定理恰恰用数学手段精确地描述了信息冗余的程度。利用信息熵公式，人们可以计算出信息编码的极限，即在一定的概率模型下，无损压缩的编码长度不可能小于信息熵公式给出的结果。
有了完备的理论，接下来的事就是要想办法实现具体的算法，并尽量使算法的输出接近信息熵的极限了。当然，大多数工程技术人员都知道，要将一种理论从数学公式发展成实用技术，就像仅凭一个 e=mc 2 的公式就要去制造核武器一样，并不是一件很容易的事。
数学游戏
设计具体的压缩算法的过程通常更像是一场数学游戏。开发者首先要寻找一种能尽量精确地统计或估计信息中符号出现概率的方法，然后还要设计一套用最短的代码描述每个符号的编码规则。统计学知识对于前一项工作相当有效，迄今为止，人们已经陆续实现了静态模型、半静态模型、自适应模型、 markov模型、部分匹配预测模型等概率统计模型。相对而言，编码方法的发展历程更为曲折一些。
1948年，shannon在提出信息熵理论的同时，也给出了一种简单的编码方法―― shannon 编码。1952 年， r. m. fano 又进一步提出了 fano编码。这些早期的编码方法揭示了变长编码的基本规律，也确实可以取得一定的压缩效果，但离真正实用的压缩算法还相去甚远。
第一个实用的编码方法是由d. a. huffman 在 1952 年的论文“最小冗余度代码的构造方法（ a method for the construction of minimum redundancy codes ）”中提出的。直到今天，许多《数据结构》教材在讨论二叉树时仍要提及这种被后人称为 huffman 编码的方法。huffman 编码在计算机界是如此著名，以至于连编码的发明过程本身也成了人们津津乐道的话题。据说， 1952 年时，年轻的 huffman 还是麻省理工学院的一名学生，他为了向老师证明自己可以不参加某门功课的期末考试，才设计了这个看似简单，但却影响深远的编码方法。
huffman编码效率高，运算速度快，实现方式灵活，从 20 世纪 60 年代至今，在数据压缩领域得到了广泛的应用。例如，早期 unix 系统上一个不太为现代人熟知的压缩程序 compact 实际就是 huffman 0 阶自适应编码的具体实现。20 世纪 80 年代初，huffman 编码又出现在 cp/m 和 dos 系统中，其代表程序叫 sq 。今天，在许多知名的压缩工具和压缩算法（如 winrar、 gzip 和 jpeg ）里，都有 huffman编码的身影。不过， huffman 编码所得的编码长度只是对信息熵计算结果的一种近似，还无法真正逼近信息熵的极限。正因为如此，现代压缩技术通常只将 huffman 视作最终的编码手段，而非数据压缩算法的全部。
科学家们一直没有放弃向信息熵极限挑战的理想。1968 年前后， p. elias发展了 shannon 和 fano 的编码方法，构造出从数学角度看来更为完美的 shannon-fano-elias编码。沿着这一编码方法的思路， 1976 年， j. rissanen 提出了一种可以成功地逼近信息熵极限的编码方法――算术编码。1982年， rissanen 和 g. g. langdon 一起改进了算术编码。之后，人们又将算术编码与 j. g. cleary 和 i. h.witten 于1984 年提出的部分匹配预测模型（ ppm ）相结合，开发出了压缩效果近乎完美的算法。今天，那些名为 ppmc 、 ppmd 或ppmz 并号称压缩效果天下第一的通用压缩算法，实际上全都是这一思路的具体实现。
对于无损压缩而言， ppm模型与算术编码相结合，已经可以最大程度地逼近信息熵的极限。看起来，压缩技术的发展可以到此为止了。不幸的是，事情往往不像想象中的那样简单：算术编码虽然可以获得最短的编码长度，但其本身的复杂性也使得算术编码的任何具体实现在运行时都慢如蜗牛。即使在摩尔定律大行其道， cpu速度日新月异的今天，算术编码程序的运行速度也很难满足日常应用的需求。没办法，如果不是后文将要提到的那两个犹太人，我们还不知要到什么时候才能用上 winzip 这样方便实用的压缩工具呢。
异族传说
逆向思维永远是科学和技术领域里出奇制胜的法宝。就在大多数人绞尽脑汁想改进 huffman 或算术编码，以获得一种兼顾了运行速度和压缩效果的“完美”编码的时候，两个聪明的犹太人 j. ziv 和 a. lempel 独辟蹊径，完全脱离huffman 及算术编码的设计思路，创造出了一系列比 huffman编码更有效，比算术编码更快捷的压缩算法。我们通常用这两个犹太人姓氏的缩写，将这些算法统称为 lz 系列算法。
按照时间顺序，lz 系列算法的发展历程大致是：ziv 和 lempel 于 1977 年发表题为“顺序数据压缩的一个通用算法（ a universal algorithm for sequential data compression ）”的论文，论文中描述的算法被后人称为 lz77 算法。
1978 年，二人又发表了该论文的续篇“通过可变比率编码的独立序列的压缩（ compression of individual sequences via variable rate coding ）”，描述了后来被命名为 lz78 的压缩算法。1984 年， t. a. welch 发表了名为“高性能数据压缩技术（ a technique for high performance data compression ）”的论文，描述了他在 sperry 研究中心（该研究中心后来并入了 unisys 公司）的研究成果，这是 lz78 算法的一个变种，也就是后来非常有名的 lzw 算法。1990 年后， t. c. bell 等人又陆续提出了许多 lz 系列算法的变体或改进版本。
说实话， lz 系列算法的思路并不新鲜，其中既没有高深的理论背景，也没有复杂的数学公式，它们只是简单地延续了千百年来人们对字典的追崇和喜好，并用一种极为巧妙的方式将字典技术应用于通用数据压缩领域。通俗地说，当你用字典中的页码和行号代替文章中每个单词的时候，你实际上已经掌握了 lz系列算法的真谛。这种基于字典模型的思路在表面上虽然和 shannon 、 huffman 等人开创的统计学方法大相径庭，但在效果上一样可以逼近信息熵的极限。而且，可以从理论上证明， lz系列算法在本质上仍然符合信息熵的基本规律。
lz系列算法的优越性很快就在数据压缩领域里体现了出来，使用 lz 系列算法的工具软件数量呈爆炸式增长。unix 系统上最先出现了使用 lzw算法的 compress程序，该程序很快成为了 unix 世界的压缩标准。紧随其后的是 ms-dos 环境下的 arc 程序，以及pkware 、 pkarc 等仿制品。20 世纪 80 年代，著名的压缩工具 lharc 和 arj 则是 lz77 算法的杰出代表。
今天， lz77 、 lz78 、 lzw 算法以及它们的各种变体几乎垄断了整个通用数据压缩领域，我们熟悉的 pkzip 、winzip 、 winrar 、 gzip 等压缩工具以及 zip 、 gif 、 png等文件格式都是 lz 系列算法的受益者，甚至连 pgp 这样的加密文件格式也选择了 lz 系列算法作为其数据压缩的标准。
没有谁能否认两位犹太人对数据压缩技术的贡献。我想强调的只是，在工程技术领域，片面追求理论上的完美往往只会事倍功半，如果大家能像 ziv 和 lempel 那样，经常换个角度来思考问题，没准儿你我就能发明一种新的算法，就能在技术方展史上扬名立万呢。
音画时尚
lz系列算法基本解决了通用数据压缩中兼顾速度与压缩效果的难题。但是，数据压缩领域里还有另一片更为广阔的天地等待着我们去探索。shannon的信息论告诉我们，对信息的先验知识越多，我们就可以把信息压缩得越小。换句话说，如果压缩算法的设计目标不是任意的数据源，而是基本属性已知的特种数据，压缩的效果就会进一步提高。这提醒我们，在发展通用压缩算法之余，还必须认真研究针对各种特殊数据的专用压缩算法。比方说，在今天的数码生活中，遍布于数码相机、数码录音笔、数码随身听、数码摄像机等各种数字设备中的图像、音频、视频信息，就必须经过有效的压缩才能在硬盘上存储或是通过 usb电缆传输。实际上，多媒体信息的压缩一直是数据压缩领域里的重要课题，其中的每一个分支都有可能主导未来的某个技术潮流，并为数码产品、通信设备和应用软件开发商带来无限的商机。
让我们先从图像数据的压缩讲起。通常所说的图像可以被分为二值图像、灰度图像、彩色图像等不同的类型。每一类图像的压缩方法也不尽相同。
传真技术的发明和广泛使用促进了二值图像压缩算法的飞速发展。ccitt （国际电报电话咨询委员会，是国际电信联盟 itu下属的一个机构）针对传真类应用建立了一系列图像压缩标准，专用于压缩和传递二值图像。这些标准大致包括 20 世纪 70 年代后期的 ccitt group 1 和 group 2 ， 1980 年的 ccitt group 3 ，以及 1984 年的 ccitt group 4 。
为 了适应不同类型的传真图像，这些标准所用的编码方法包括了一维的 mh 编码和二维的 mr 编码，其中使用了行程编码（ rle ）和 huffman 编码等技术。今天，我们在办公室或家里收发传真时，使用的大多是 ccitt group 3 压缩标准，一些基于数字网络的传真设备和存放二值图像的 tiff 文件则使用了 ccitt group 4 压缩标准。1993 年， ccitt 和 iso（国际标准化组织）共同成立的二值图像联合专家组（ joint bi-level image experts group ， jbig ）又将二值图像的压缩进一步发展为更加通用的 jbig 标准。
实际上，对于二值图像和非连续的灰度、彩色图像而言，包括 lz 系列算法在内的许多通用压缩算法都能获得很好的压缩效果。例如，诞生于 1987 年的gif 图像文件格式使用的是 lzw 压缩算法， 1995 年出现的 png 格式比 gif 格式更加完善，它选择了 lz77 算法的变体zlib 来压缩图像数据。此外，利用前面提到过的 huffman 编码、算术编码以及 ppm模型，人们事实上已经构造出了许多行之有效的图像压缩算法。
但是，对于生活中更加常见的，像素值在空间上连续变化的灰度或彩色图像（比如数码照片），通用压缩算法的优势就不那么明显了。幸运的是，科学家们发现，如果在压缩这一类图像数据时允许改变一些不太重要的像素值，或者说允许损失一些精度（在压缩通用数据时，我们绝不会容忍任何精度上的损失，但在压缩和显示一幅数码照片时，如果一片树林里某些树叶的颜色稍微变深了一些，看照片的人通常是察觉不到的），我们就有可能在压缩效果上获得突破性的进展。这一思想在数据压缩领域具有革命性的地位：通过在用户的忍耐范围内损失一些精度，我们可以把图像（也包括音频和视频）压缩到原大小的十分之一、百分之一甚至千分之一，这远远超出了通用压缩算法的能力极限。也许，这和生活中常说的“退一步海阔天空”的道理有异曲同工之妙吧。
这种允许精度损失的压缩也被称为有损压缩。在图像压缩领域，著名的jpeg标准是有损压缩算法中的经典。jpeg 标准由静态图像联合专家组（ joint photographic experts group ，jpeg ）于 1986 年开始制定， 1994 年后成为国际标准。jpeg以离散余弦变换（ dct ）为核心算法，通过调整质量系数控制图像的精度和大小。对于照片等连续变化的灰度或彩色图像， jpeg在保证图像质量的前提下，一般可以将图像压缩到原大小的十分之一到二十分之一。如果不考虑图像质量， jpeg甚至可以将图像压缩到“无限小”。
jpeg标准的最新进展是 1996 年开始制定， 2001 年正式成为国际标准的 jpeg 2000。与 jpeg 相比， jpeg 2000 作了大幅改进，其中最重要的是用离散小波变换（ dwt ）替代了 jpeg 标准中的离散余弦变换。在文件大小相同的情况下， jpeg 2000压缩的图像比 jpeg 质量更高，精度损失更小。作为一个新标准， jpeg 2000暂时还没有得到广泛的应用，不过包括数码相机制造商在内的许多企业都对其应用前景表示乐观， jpeg 2000在图像压缩领域里大显身手的那一天应该不会特别遥远。
jpeg标准中通过损失精度来换取压缩效果的设计思想直接影响了视频数据的压缩技术。ccitt 于 1988 年制定了电视电话和会议电视的 h.261 建议草案。h.261的基本思路是使用类似 jpeg 标准的算法压缩视频流中的每一帧图像，同时采用运动补偿的帧间预测来消除视频流在时间维度上的冗余信息。在此基础上， 1993 年， iso通过了动态图像专家组（ moving picture experts group ， mpeg ）提出的 mpeg-1标准。mpeg-1 可以对普通质量的视频数据进行有效编码。我们现在看到的大多数 vcd 影碟，就是使用 mpeg-1 标准来压缩视频数据的。
为了支持更清晰的视频图像，特别是支持数字电视等高端应用，iso 于 1994 年提出了新的 mpeg-2 标准（相当于 ccitt 的 h.262 标准）。mpeg-2 对图像质量作了分级处理，可以适应普通电视节目、会议电视、高清晰数字电视等不同质量的视频应用。在我们的生活中，可以提供高清晰画面的 dvd影碟所采用的正是 mpeg-2 标准。
internet的发展对视频压缩提出了更高的要求。在内容交互、对象编辑、随机存取等新需求的刺激下， iso 于 1999 年通过了 mpeg-4 标准（相当于ccitt 的 h.263 和 h.263+标准）。mpeg-4 标准拥有更高的压缩比率，支持并发数据流的编码、基于内容的交互操作、增强的时间域随机存取、容错、基于内容的尺度可变性等先进特性。internet上新兴的 divx 和 xvid 文件格式就是采用 mpeg-4 标准来压缩视频数据的，它们可以用更小的存储空间或通信带宽提供与 dvd不相上下的高清晰视频，这使我们在 internet 上发布或下载数字电影的梦想成为了现实。
就像视频压缩和电视产业的发展密不可分一样，音频数据的压缩技术最早也是由无线电广播、语音通信等领域里的技术人员发展起来的。这其中又以语音编码和压缩技术的研究最为活跃。自从 1939 年h. dudley 发明声码器以来，人们陆续发明了脉冲编码调制（ pcm ）、线性预测（ lpc ）、矢量量化（ vq ）、自适应变换编码（atc ）、子带编码（ sbc）等语音分析与处理技术。这些语音技术在采集语音特征，获取数字信号的同时，通常也可以起到降低信息冗余度的作用。像图像压缩领域里的 jpeg一样，为获得更高的编码效率，大多数语音编码技术都允许一定程度的精度损失。而且，为了更好地用二进制数据存储或传送语音信号，这些语音编码技术在将语音信号转换为数字信息之后又总会用 huffman 编码、算术编码等通用压缩算法进一步减少数据流中的冗余信息。
对于电脑和数字电器（如数码录音笔、数码随身听）中存储的普通音频信息，我们最常使用的压缩方法主要是mpeg 系列中的音频压缩标准。例如， mpeg-1 标准提供了layer i 、 layer ii 和 layer iii 共三种可选的音频压缩标准， mpeg-2 又进一步引入了 aac （ advanced audio coding ）音频压缩标准， mpeg-4标准中的音频部分则同时支持合成声音编码和自然声音编码等不同类型的应用。在这许多音频压缩标准中，声名最为显赫的恐怕要数 mpeg-1 layer iii ，也就是我们常说的 mp3 音频压缩标准了。从 mp3 播放器到 mp3 手机，从硬盘上堆积如山的 mp3 文件到 internet上版权纠纷不断的 mp3 下载， mp3 早已超出了数据压缩技术的范畴，而成了一种时尚文化的象征了。
很显然，在多媒体信息日益成为主流信息形态的数字化时代里，数据压缩技术特别是专用于图像、音频、视频的数据压缩技术还有相当大的发展空间――毕竟，人们对信息数量和信息质量的追求是永无止境的。
回到未来
从信息熵到算术编码，从犹太人到 winrar ，从 jpeg 到 mp3，数据压缩技术的发展史就像是一个写满了“创新”、“挑战”、“突破”和“变革”的羊皮卷轴。也许，我们在这里不厌其烦地罗列年代、人物、标准和文献，其目的只是要告诉大家，前人的成果只不过是后人有望超越的目标而已，谁知道在未来的几年里，还会出现几个 shannon ，几个huffman 呢？
谈到未来，我们还可以补充一些与数据压缩技术的发展趋势有关的话题。
1994年，m. burrows和d. j. wheeler共同提出了一种全新的通用数据压缩算法。这种算法的核心思想是对字符串轮转后得到的字符矩阵进行排序和变换，类似的变换算法被称为 burrows-wheeler 变换，简称 bwt 。与 ziv 和 lempel 另辟蹊径的做法如出一辙， burrows 和 wheeler 设计的 bwt 算法与以往所有通用压缩算法的设计思路都迥然不同。如今， bwt 算法在开放源码的压缩工具bzip 中获得了巨大的成功， bzip 对于文本文件的压缩效果要远好于使用 lz系列算法的工具软件。这至少可以表明，即便在日趋成熟的通用数据压缩领域，只要能在思路和技术上不断创新，我们仍然可以找到新的突破口。
分形压缩技术是图像压缩领域近几年来的一个热点。这一技术起源于b. mandelbrot 于 1977 年创建的分形几何学。m. barnsley 在 20 世纪 80 年代后期为分形压缩奠定了理论基础。从 20 世纪 90 年代开始， a. jacquin等人陆续提出了许多实验性的分形压缩算法。今天，很多人相信，分形压缩是图像压缩领域里最有潜力的一种技术体系，但也有很多人对此不屑一顾。无论其前景如何，分形压缩技术的研究与发展都提示我们，在经过了几十年的高速发展之后，也许，我们需要一种新的理论，或是几种更有效的数学模型，以支撑和推动数据压缩技术继续向前跃进。
人工智能是另一个可能对数据压缩的未来产生重大影响的关键词。既然 shannon认为，信息能否被压缩以及能在多大程度上被压缩与信息的不确定性有直接关系，假设人工智能技术在某一天成熟起来，假设计算机可以像人一样根据已知的少量上下文猜测后续的信息，那么，将信息压缩到原大小的万分之一乃至十万分之一，恐怕就不再是天方夜谭了。
回顾历史之后，人们总喜欢畅想一下未来。但未来终究是未来，如果仅凭你我几句话就可以理清未来的技术发展趋势，那技术创新的工作岂不就索然无味了吗？依我说，未来并不重要，重要的是，赶快到 internet 上下载几部大片，然后躺在沙发里，好好享受一下数据压缩为我们带来的无限快乐吧。
这场“非线性”主题沙龙，为生物医药产业开启了全新视野
VR、AR与MR或将掀起第四波科技浪潮
助力开芯院“香山”项目！思尔芯亮相RISC-V中国峰会
液态金属的可控流动与操纵综述
汽车充电之路布满荆棘，教你三招破局
有趣！史记：数据压缩算法列传
2020年全球智能照明市场可达243.41亿美元，将成为未来市场的新蓝海
人工焊锡四点不可忽略的危害
小白智能摄像机户外云台版众筹首发价，通过手机APP控制水平旋转
DSP硬件方面的电磁兼容性
监控系统常用的九种设备
“诈尸”的金立还是原来的金立吗？
采用MCU、CAN控制器和收发器实现燃料电池汽车空调智能节点的设计
MacBook内存不足？不不不，你只需要一个这个！
连接器温升对于锂电池性能的影响
电流互感器使用方法
净化网络环境！可信数字内容版权服务解决方案发布
openharmony开源社区地址在哪里
揭秘小米在北京亦庄的“黑灯工厂”里诞生
高频信号发生器的工作原理