首页 >> 数学 >> 计算机科学 >> 文章

在现代数学中有一个很容易被外行误解的词汇:信号 (signal)。当数学家们说起「一个信号」的时候,他们脑海中想到的并不是交通指示灯所发出的闪烁光芒或者手机屏幕顶部的天线图案,而是一段可以具体数字化的信息,可以是声音,可以是图像,也可是遥感测量数据。简单地说,它是一个函数,定义在通常的一维或者多维空间之上。譬如一段声音就是一个定义在一维空间上的函数,自变量是时间,因变量是声音的强度,一幅图像是定义在二维空间上的函数,自变量是横轴和纵轴坐标,因变量是图像像素的色彩和明暗,如此等等。

在数学上,关于一个信号最基本的问题在于如何将它表示和描述出来。按照上面所说的办法,把一个信号理解成一个定义在时间或空间上的函数是一种自然而然的表示方式,但是它对理解这一信号的内容来说常常不够。例如一段声音,如果单纯按照定义在时间上的函数来表示,它画出来是这个样子的:

这通常被称为波形图。毫无疑问,它包含了关于这段声音的全部信息。但是同样毫无疑问的是,这些信息几乎没法从上面这个「函数」中直接看出来,事实上,它只不过是巴赫的小提琴无伴奏 Partita No.3 的序曲开头几个小节。下面是巴赫的手稿,从某种意义上说来,它也构成了对上面那段声音的一个「描述」:

这两种描述之间的关系是怎样的呢?第一种描述刻划的是具体的信号数值,第二种描述刻划的是声音的高低(即声音震动的频率)。人们直到十九世纪才渐渐意识到,在这两种描述之间,事实上存在着一种对偶的关系,而这一点并不显然。

1807 年,法国数学家傅立叶 (J. Fourier) 在一篇向巴黎科学院递交的革命性的论文 Mémoire sur la propagation de la chaleur dans les corps solides (《固体中的热传播》)中,提出了一个崭新的观念:任何一个函数都可以表达为一系列不同频率的简谐振动(即简单的三角函数)的叠加。有趣的是,这结论是他研究热传导问题的一个副产品。这篇论文经拉格朗日 (J. Lagrange)、拉普拉斯 (P-S. Laplace) 和勒让德 (A-M. Legendre) 等人审阅后被拒绝了,原因是他的思想过于粗糙且极不严密。1811 年傅立叶递交了修改后的论文,这一次论文获得了科学院的奖金,但是仍然因为缺乏严密性而被拒绝刊载在科学院的《报告》中。傅立叶对此耿耿于怀,直到 1824 年他本人成为了科学院的秘书,才得以把他 1811 年的论文原封不动地发表在《报告》里。

用今天的语言来描述,傅立叶的发现实际上是在说:任何一个信号都可以用两种方式来表达,一种就是通常意义上的表达,自变量是时间或者空间的坐标,因变量是信号在该处的强度,另一种则是把一个信号「展开」成不同频率的简单三角函数(简谐振动)的叠加,于是这就相当于把它看作是定义在所有频率所组成的空间(称为频域空间)上的另一个函数,自变量是不同的频率,因变量是该频率所对应的简谐振动的幅度。

这两个函数一个定义在时域(或空域)上,一个定义在频域上,看起来的样子通常截然不同,但是它们是在以完全不同的方式殊途同归地描述着同一个信号。它们就象是两种不同的语言,乍一听完全不相干,但是其实可以精确地互相翻译。在数学上,这种翻译的过程被称为「傅立叶变换」。

傅立叶变换是一个数学上极为精美的对象:

  • 它是完全可逆的,任何能量有限的时域或空域信号都存在唯一的频域表达,反之亦然。
  • 它完全不损伤信号的内在结构:任何两个信号之间有多少相关程度(即内积),它们的频域表达之间也一定有同样多的相关程度。
  • 它不改变信号之间的关联性:一组信号收敛到一个特定的极限,它们的频域表达也一定收敛到那个极限函数的频域表达。

傅立叶变换就象是把信号彻底打乱之后以最面目全非的方式复述出来,而一切信息都还原封不动的存在着。要是科幻小说作家了解这一点,他们本来可以多出多少有趣的素材啊。

在傅立叶变换的所有这些数学性质中,最不寻常的是这样一种特性:一个在时域或空域上看起来很复杂的信号(譬如一段声音或者一幅图像)通常在频域上的表达会很简单。这里「简单」的意思是说作为频域上的函数,它只集中在很小一块区域内,而很大一部分数值都接近于零。例如下图是一张人脸和它对应的傅立叶变换,可以看出,所有的频域信号差不多都分布在中心周围,而大部分周边区域都是黑色的(即零)。

这是一个意味深长的事实,它说明一个在空域中看起来占满全空间的信号,从频域中看起来很可能只不过占用了极小一块区域,而大部分频率是被浪费了的。这就导出了一个极为有用的结论:一个看起来信息量很大的信号,其实可以只用少得多的数据来加以描述。只要对它先做傅里叶变换,然后只记录那些不接近零的频域信息就可以了,这样数据量就可以大大减少。

基本上,这正是今天大多数数据压缩方法的基础思想。在互联网时代,大量的多媒体信息需要在尽量节省带宽和时间的前提下被传输,所以数据压缩从来都是最核心的问题之一。而今天几乎所有流行的数据压缩格式,无论是声音的 mp3 格式还是图像的 jpg 格式,都是利用傅立叶变换才得以发明的。从这个意义上说来,几乎全部现代信息社会都建立在傅立叶的理论的基础之上。

这当然是傅立叶本人也始料未及的。

(待续)

0
为您推荐

51 Responses to “不确定性原理的前世今生 · 数学篇(一)”

  1. xndcn说道:

    这不是《信号与系统》么...

  2. SuperLucky说道:

    赞一下Lena!
    拉普拉斯砍了傅里叶的论文?!那拉普拉斯变换是咋回事啊,莫非……

  3. sheldon说道:

    学数理方法的时候要是有这样好的文章就好了!例子举的太精妙了!我一直想描述这个问题,确从没有想到过这样平易近人的例子。

  4. Miu说道:

    好像在大学时选修的《图像处理》中见过那张人脸……

  5. SO说道:

    感谢作者,期待下一篇

  6. 振动信号说道:

    还是Matlab或者LabView玩这个爽,记得上课时老师演示过妮娜减西红柿,西红柿减妮娜,很有意思

  7. 然也说道:

    好巧,最近就在学这个~
    我记得那张头像的完整图好像是一个裸女,谁开的一个玩笑的。。。

  8. Markov说道:

    想到了概率密度分布函数(PDF)

  9. 说道:

    “傅立叶对此耿耿于怀,直到 1824 年他本人成为了科学院的秘书,才得以把他 1811 年的论文原封不动地发表在《报告》里。”

    廿年媳妇儿熬成婆,也不过如此了!

  10. harry说道:

    很好!

  11. 创业的故事说道:

    这不是《信号与系统》么…

  12. overcash说道:

    这个就是以前松鼠会出过的一本书让所描述的现象:当彩色的声音听起来是甜的

  13. pamela说道:

    jpg用的不是傅立叶变换,是离散余弦变换,虽然相似但是毕竟不是一个东西。。

    • jfdnet说道:

      离散余弦变换(英语:DCT for Discrete Cosine Transform)是与傅里叶变换相关的一种变换,它类似于离散傅里叶变换(DFT for Discrete Fourier Transform),但是只使用实数。

  14. 世纪之光说道:

    看了半天,貌似跟标题的关系不大啊。

  15. ttao说道:

    这个系列会不会讨论压缩感知?

  16. mellivora说道:

    调和分析~~

    一看到对称,立而想到噬魂师中对称控王子death kid~~

  17. nail说道:

    赞一个 期待下一篇

  18. dy1901说道:

    想我的毕业论文就是利用傅里叶变化对目标3d物体进行识别。看到这篇文章真是相当的亲切啊。

  19. Achilles Wong说道:

    自动化的飘过 FFT神马的太有爱了

  20. peter说道:

    貌似与量子力学的不确定原理扯得有点远了。

  21. 稀饭火锅说道:

    不管是信息论中的不确定性原理还是量子力学中的测不准原理,其实都体现了一个自然法则,即约束。不可能在没有任何约束的情况下干一件事。
    事实上,将信号从一个域变换到另一个域,一定受着不确定原理的约束,这个约束和两个域的相关程度有关,两个域越不相关,则约束越大。
    印象中,时域与傅里叶域的相关性系数好像是最大的为1。(在Donoho的某篇论文中看到过)

  22. enodhs说道:

    傅里叶变换……餐具啊

  23. [...] 举个例子来说,比如这边文章《不定性原理的前世今生》,其中对于傅里叶变换的讲解只提及应用,而不提推导过程。如果对傅里叶变换的理解不够,将极大阻碍对后续的不定性原理部分的理解。当然,这是抱着研究的态度来看待这篇材料,对于科普文章而言,这样设计未尝不可。 [...]

  24. saisea123s说道:

    通俗简洁,好文章

  25. [...] 在科学松鼠会上看到一篇精彩的文章《不确定性原理的前世今生》(1,2,3,4),联想到语义信息论上的一些问题。关于测不准,我以前也写过一段介绍。 [...]

  26. 赵磊说道:

    mp3 不是基于 傅立叶的,而是基于人耳对音频信息的选择性。傅立叶分析恰巧碰上了而已。至于jpg,傅立叶只是其中一部分。其中哈夫曼编码也功不可没。还有在图像边界清晰的情况下,傅立叶也无能为力。 呵呵,科普。

  27. 金色葡萄说道:

    做论文时也用到fft

  28. yumeng5112说道:

    这是我读到最宏观,对傅立叶变换本质分析的最的经典文章!

  29. KISSMonX说道:

    给力啊.

  30. [...] 其三,关于观察和存在的关系。这一点本质上和第一条相同,薛定谔的量子猫,如果不观察就处于非死非活的状态,这是量子力学对微观的描述(量子猫的观测对象是铀原子,不是猫,算微观)。推广到宏观物体,这种效应非常小,但并不为零。这和我国古代哲学家王守仁的看法异曲同工:“ 你未看到此花时,此花与汝同归于寂,你来看此花时,则花颜色一时明白起来,便知此花不在你的心外.”如果世界的存在状态和人们的观察状态有关,那我们显然不可能认识一个本身都不客观存在的事物。 物理学上有一个著名的“延迟实验”,让光子通过两条可能的路径,具体走的那一条,可以通过之后再决定。把光子推广到实物粒子仍然有效,只是操作难度更大。请注意两点,1:这个事件发生的具体状态是在事件发生之后决定的;2:事件发生的具体状态由人来决定,我们可以主观决定。如此看来,世界存在的客观性确实值得怀疑。 这里有点攻击唯物主义的意思,因为唯物主义自己声称科学要与实验相结合,如果实验结果与他不符,则不排除这一巴掌打到自己脸上的可能。当然,这个观点的漏洞很大,首先,量子力学必须正确,但量子力学在宏观上并没有被应用,只在微观上被实验证实,量子效应如果用到宏观物体上,他与承认世界客观存在的偏差将极小极小,如此小的时空在实践上肯定是没有太大意义的。其次,量子力学之所以会得出这样的结果,是应为它采用了对世界的另一种描述方式,这与用常规方法描述世界,再加一个“量子参数”来修正它,哪个才是对的?这不过是看哪个更好用而已。较为简单的数学过程和较为完美的物理解释选择了前者。 其四,为什么的归结问题 “在对自然的认识过程中,我们会提出许多的为什么,而你试图去解答一个为什么的时候,你并没有彻底地回答他,而只是将这个问题归结到另外一个为什么上,通常后者使人更感可信,或者更难以回答。而这个过程还可以继续下去,形成了一条由为什么连成的链条。” ———————《坍缩》 这注定了至少有一个为什么是不可解释的。 其五,我们对物理理论,与其说是认识,不如说是猜测。除数学逻辑中既可能证明又可能证否的命题外,还有三类命题:可能证明但不能证否的,比如“这里将发生一场灾难”。不可能证明但可以证否的,比如“没有人能登上这座山”。既不能证明也不能证否的,比如“圆周率中有无限个为零的小数位”。很不巧,所有的物理定律都是不可能证明但可以证否的命题,我们永远也不能确定他是对的,但他随时可能被反例推翻。不要说“实践证实理论”,应该说“实践证否理论”。对这样的理论,与其说是认识,不如说是猜测。(唯心主义或许可以避免这一问题,但他仍然免不了不可知) 其六,我们永远不能确信我们从外界得到的信息是真实的。这一点本质上和第五点相同。我们如何才能了解世界呢?看?听?想?那不过是视觉,听觉,和大脑中的化学反应。这些完全有可能是假的,比如,你的大脑被装到了一个瓶子里,并在特定的地方接上电极,模拟视觉,听觉,嗅觉等,而你自己还以为自己活得好好的呢。或者,你是昨天才出生的,你大脑中的记忆不过是被人为输入的,因此你误认为你已经生活了很多年。你永远也没办法确信眼前的是真实,不过是凭经验猜测而已。 其七,我们不具备完全认识世界的信息基础。认识一个事物(知识性认识)的过程不过是将那一个事物的信息储存在大脑中,对于整个宇宙来说,这不可能做到。因为整个宇宙的粒子排列总可能数比我们大脑的要多,而我们的记忆信息不可能比我么大脑的信息多,因此不可能将整个宇宙的信息装进大脑,也就不可能认识整个宇宙。 综上所述,世界是不可知的。 第一条:不确定性原理 不确定性原理,很多地方都将其写作测不准原理,由这个名字带来了很多的误导。不少人据此以为是由于观察者效应才使得微观粒子具有了不确定性,实际上,不确定性正是微观粒子的秉性,甚至数学上也有其严格证明。关于这一点,请参考科学松鼠会上的专题:不确定性原理的前世今生。我们无法同时精确的测量出粒子的位置和动量,并不是由于我们的感官和方法有什么固有缺陷,而是它们原来就是不能同时确定的。至于作者说这条能推翻可知论,我认为这是作者对可知和不可知的纯粹望文生义。可知并不是意味着知道一切,只是认为事物可以被认识。 第二条:哥德尔不完备定理 作者对于哥德尔不完备定理的引用从头到尾就是一种误读,哥德尔不完备定理的描述为:任何相容的形式系统,只要蕴涵皮亚诺算术公理,就可以在其中构造在体系中既不能证明也不能证否的命题(即体系是不完备的)。 首先,并非是“包含自然数的形式系统”,该定理需假设公理系统可以“定义”自然数,而后者是比前者强得多的条件。另外,并不是这样的系统中一定有不可判定的命题,而是这个系统中一定存在不能在这个系统内部判定的命题,或者说这个系统不能自证。 另外,维基百科中对这种常见的误读也有很好的说明: [...]

  31. [...] 关于Fourier变换,另一个好的文章是《不确定原理的前世今生》,猛烈推荐:https://songshuhui.net/archives/50111 [...]

  32. 溪澍汐说道:

    量子力学的不确定性原理的根源就要从傅里叶变换讲起

    回复

  33. 溪澍汐说道:

    量子力学的不确定性原理的根源就要从傅里叶变换讲起,怎么理解?

    回复

Leave a Reply