1、“.....其中的概率密度为连续变量,波形信源更般地说，实际信源输出的消息常常是时间和取值都是连续的。例如，语音信号热噪声信号场景图像信号等时间连续函数。在固定时间，它们的可能取值又是连续的和随机的。对于这种信源输出的消息，可用随机过程来描述。称这类信源为随机波形信源。波形信源分析般随机波形信源比较复杂和困难。常见的随机波形信源输出的消息是时间频带受限的随机过程。根据取样定理，可以把这样的随机过程用系列时间或频率域上离散的取样值来表示，而每个取样值都是连续型随机变量。随机过程转换成时间或频率上离散的随机序列。在种条件下可以转换成随机变量间统计的随机序列。平稳的随机过程可转换成平稳的随机序列。随机波形信源转换成连续平稳信源。若对每个取样值连续型的经过分层量化，就可将连续的取值转换成有限的或可数的离散值......”。

2、“.....波形信源时间连续取值连续连续信源时间离散取值连续离散信源时间离散取值离散采样量化实际信源•实际信源在离散•字母出现概率按照英文文本统计，字母间存在二维相关性两两相邻字母相关•字母出现概率按照英文文本统计，字母间不相关字符•如果上述条件概率与时间起点无关，即信源输出的符号序列可看成为时齐马尔可夫链，则此信源称为时齐马尔可信源。•各字母等概字母间不相关字符随机变量的取值为，则描述随机序列中各随机变量之间依赖关系的条件概率为可以限制随机序列的记忆长度。•当记忆长度为时，称这种有记忆信源为阶马尔可夫信源。也就是信源每次发出的符号只与前个符号有关，与更前面的符号无关。离散信源时齐马尔可夫信源•设马尔可夫信源各时刻与时间起点无关......”。

3、“.....实际上信源发出的符号往往只与前若干个符号的依赖关系强，而与更前面的符号依赖关系弱。为此，孩儿在哭均为单符号随机变量汉字序列中前后文字的出现是有依赖的，不能认为是彼此不相关的。其他如英文，德文等自然语言都是如此。这种信源称为有记忆信源。•我们需在维随机矢量的联合概率分布中，引入条件概率分布来说明它们之间的关联。女信源输出的平稳随机序列中，各随机变量之间是有依赖的。例如，在汉字组成的中文序列中，只有根据中文的语法习惯用语修辞制约和表达实际意义的制约所构成的中文序列才是有意义的中文句子或文章。所以，在展把每个二进制数字组成组，则信源等效成个具有个符号的新信源，把它称为二进制无记忆信源的次扩展信源。离散信源离散平稳有记忆信源•般情况下，信源在不同时刻发出的符号之间是相互依赖的。也就是为二进制无记忆信源的二次扩展......”。

4、“.....这样长度为的二进制序列就有种不同的序列，可等效成个具有个符号的信源，把它称为二进制无记忆信源的三次扩展信源。•二进制无记忆信源的次扩输出的序列看成是组组发出的。电报系统中，可以认为每二个二进制数字组成组。这样信源输出的是由二个二进制数字组成的组组符号。这时可以将它们等效看成个新的信源，它由四个符号，组成，把该信源称均为单符号随机变量且与时间起点无关，为无记忆平稳信源例离散信源二进制无记忆信源的次扩展信源•把信源平稳无记忆信源例电文女孩儿在哭源的次扩展信源。•离散无记忆信源的次扩展信源的数学模型是信源空间的重空间。,均为单符号随机变量信源与时间起点无关列，用维离散随机矢量来描述。,每个分量,都是随机变量，都取值于同信源，并且分量之间统计。•由随机矢量组成的新信源称为离散无记忆信......”。

5、“.....可以用组组长度为的序列来表示它。这时它就等效成了个新信源•新信源输出的符号是长的消息序列。离散信源离散无记忆信源的次扩展信源•离散无记忆信源对它的输出消息序列，可以用组组长度为的序列来表示它。这时它就等效成了个新信源•新信源输出的符号是长的消息序列，用维离散随机矢量来描述。,每个分量,都是随机变量，都取值于同信源，并且分量之间统计。•由随机矢量组成的新信源称为离散无记忆信源的次扩展信源。•离散无记忆信源的次扩展信源的数学模型是信源空间的重空间。,均为单符号随机变量信源与时间起点无关平稳无记忆信源例电文女孩儿在哭均为单符号随机变量且与时间起点无关，为无记忆平稳信源例离散信源二进制无记忆信源的次扩展信源•把信源输出的序列看成是组组发出的。电报系统中，可以认为每二个二进制数字组成组......”。

6、“.....这时可以将它们等效看成个新的信源，它由四个符号，组成，把该信源称为二进制无记忆信源的二次扩展。如果把每三个二进制数字组成组，这样长度为的二进制序列就有种不同的序列，可等效成个具有个符号的信源，把它称为二进制无记忆信源的三次扩展信源。•二进制无记忆信源的次扩展把每个二进制数字组成组，则信源等效成个具有个符号的新信源，把它称为二进制无记忆信源的次扩展信源。离散信源离散平稳有记忆信源•般情况下，信源在不同时刻发出的符号之间是相互依赖的。也就是信源输出的平稳随机序列中，各随机变量之间是有依赖的。例如，在汉字组成的中文序列中，只有根据中文的语法习惯用语修辞制约和表达实际意义的制约所构成的中文序列才是有意义的中文句子或文章。所以，在汉字序列中前后文字的出现是有依赖的，不能认为是彼此不相关的。其他如英文，德文等自然语言都是如此......”。

7、“.....•我们需在维随机矢量的联合概率分布中，引入条件概率分布来说明它们之间的关联。女孩儿在哭均为单符号随机变量与时间起点无关，是有记忆平稳信源例离散信源马尔可夫信源•表述有记忆信源要比表述无记忆信源困难得多。实际上信源发出的符号往往只与前若干个符号的依赖关系强，而与更前面的符号依赖关系弱。为此，可以限制随机序列的记忆长度。•当记忆长度为时，称这种有记忆信源为阶马尔可夫信源。也就是信源每次发出的符号只与前个符号有关，与更前面的符号无关。离散信源时齐马尔可夫信源•设马尔可夫信源各时刻随机变量的取值为，则描述随机序列中各随机变量之间依赖关系的条件概率为•如果上述条件概率与时间起点无关，即信源输出的符号序列可看成为时齐马尔可夫链，则此信源称为时齐马尔可信源......”。

8、“.....字母间不相关字符•字母出现概率按照英文文本统计，字母间存在二维相关性两两相邻字母相关信源建模信源建模•字母出现概率按照英文文本统计，字母间存在三维相关性•字母出现概率按照英文文本统计，字母间存在维相关性,其中的概率密度为连续变量,波形信源更般地说，实际信源输出的消息常常是时间和取值都是连续的。例如，语音信号热噪声信号场景图像信号等时间连续函数。在固定时间，它们的可能取值又是连续的和随机的。对于这种信源输出的消息，可用随机过程来描述。称这类信源为随机波形信源。波形信源分析般随机波形信源比较复杂和困难。常见的随机波形信源输出的消息是时间频带受限的随机过程。根据取样定理，可以把这样的随机过程用系列时间或频率域上离散的取样值来表示，而每个取样值都是连续型随机变量。随机过程转换成时间或频率上离散的随机序列......”。

9、“.....平稳的随机过程可转换成平稳的随机序列。随机波形信源转换成连续平稳信源。若对每个取样值连续型的经过分层量化，就可将连续的取值转换成有限的或可数的离散值。连续信源转换成了离散信源。波形信源时间连续取值连续连续信源时间离散取值连续离散信源时间离散取值离散采样量化实际信源•实际信源在离散情况下是消息序列信源，在连续情况下是随机过程信源，它们分别代表数字与模拟信源。实际信源离散序列信源其中,为每个消息符号取值的种类数为消息符号序列的长度应注意的是和是代表两个不同范畴的变量，表示不同的概念，切勿混淆。如五码英文报，简记实际信源离散序列信源信源输出是组随机序列矢量其样值为对应概率为由于每个随机变量有种取值，则有种可能取值......”。