关于问题香农定理到底有什么含义？能通俗地解释一下么？一共有 2 位热心网友为你解答:
【1】、来自网友【陈思进】的最佳回答：
谢邀！
注意到此问题下面有了近 50 个（其中不乏不错的）答复了，那从昨天开始，就借用在得到上由汪恒对《香农传》一书的解读中的部分内容，来回应几个相关的问题。
在回应《信息是什么？（
https://www.toutiao.com/answer/7214411942860177719
）》的最后谈到，香农 1916 年生于美国密歇根州的一个小镇，从小接受良好教育，成绩不错，但并不拔尖。相比之下更突出的，是他捣鼓各种机器、研究小发明的本领。他曾做出一台升降机，把妹妹升到了高处。香农的人生轨迹看上去有点四平八稳。他在密歇根大学念本科，然后到麻省理工念研究生。在每个阶段，他都能同时获得两个学位，一个数学，一个工程学，正好代表了他两个方面的兴趣和才能。
这儿接着谈。
毕业之后，香农进入贝尔实验室数学部，这是全球著名的企业研发机构。在这儿工作了三十多年之后，香农又回到了麻省理工当教授。这个时候他已经功成名就，名声大振，获奖无数，但他始终过着简单朴素的生活，继续着童年时的爱好，继续捣鼓各种小机械、小发明，直到八十五岁去世。
这段简要的人生经历看上去甚至有点平淡，但香农做出的贡献一点也不简单。他几乎从零开始，为人类打开了信息时代之门。
那么，香农究竟帮人类解决了什么问题呢？主要是两个，第一是在计算机方面，他让计算机从单纯的计算工具，变成了可以帮人解决各种问题的思考工具。第二是在通讯方面，他把千差万别的各类信息通通抽象为数字，提出“比特”概念，搭建了一整套关于信息度量和信息传输的理论，推动了各种现代通讯方式的诞生，包括我们每个人都离不开的移动通讯和互联网。我们分别来介绍一下。
先说香农在计算机方面的贡献。
在计算机诞生的早期，它的功能局限于数学运算，就是台运算工具。那么，谁让它变成了无所不能的多面手呢？正是香农。
香农做了什么呢？他写了篇论文，找到了用机器模拟人类思考的正确方法。这个非常关键。我们来梳理一下这个过程：首先，把你的思考整理成逻辑判断，然后依据一种叫作布尔代数的理论，这个理论比较复杂，我们就不详细解释了。依据这个理论，我们就可以把逻辑判断变成由 1 和 0 构成的数学运算，判断为真就用 1 来表示，判断为假就用 0 来表示。这个时候，香农告诉你，可以用电路开关的两种状态，也就是通电和断开，来表示 1 和 0，通电表示 1，断开表示 0。这样就可以用电路来模拟你的逻辑判断和思考过程。
这意味着什么呢？意味着人类可以设计出一台机器，用电路开关来进行判断和思考，帮助人类解决各种问题。问题变复杂了怎么办？只需要增加电路里的开关数量就可以了。这就是现代计算机帮人类解决各种问题的基本原理。
香农不是计算机的发明者，但他这篇天才的论文，让计算机从简单的运算工具，变成了无所不能的电脑，奠定了现代计算机的发展方向。
随着技术发展，计算机电路里的开关原件，从电子管进化成晶体管，开关的数量也越来越多，越来越密集。像目前最先进的手机处理器，只有你的手指甲大小，却容纳了几十亿个晶体管，相当于几十亿个开关，能够完成各种复杂的任务；但它们万变不离其宗，仍然离不开香农在这篇论文中描述的基本原理。
特别神奇的是，这篇对计算机和信息时代如此重要的论文，竟然是香农在麻省理工念电子工程的硕士毕业论文。难怪，有科学家会说，这是历史上最牛的硕士论文。写下这篇神作的香农，当年只有 22 岁而已。
这是香农在计算机方面的贡献。接下来，我再来介绍他在通讯方面的重大突破。1948 年，写完硕士论文十年之后，香农在贝尔实验室用另外一篇神作，开创了信息论，将人类带入了信息时代。
这一次他解决的问题是什么呢？他发现了信息的本质，找到了度量信息的方式，还提出了提高信息传输质量的方法。
将在回复《信息是什么？香农的信息论究竟牛在哪里？》中接着谈，再将昨天的#思进每日美股点评#中的部分内容和大家分享一下吧：
03 月 25 日：今日周六，美股休市，就简单提几点吧：
一、将之前一周的#思进每日美股点评#的要点小结一下：
1、有群友问，@陈思进 陈老师，请教一下瑞信的 AT1 债券的处理方式？市场觉得这件事的处理对全球金融市场影响都非常坏？
我的回应：AT1 债券的评级本来就是 C（现在是 D，default 了），本来就是所谓的“垃圾债券”，投资的人早就该做好心理准备了。因此，我不认为这样的处理影响很坏，又不是 savings，投资本来就有风险，更何况 C 级债券，说穿了就是投机而已。
其实，瑞信几年前就开始出问题了，信息都是公开披露的，投 AT1 债券的说穿了，就是赌一把，和买 Pink Sheets 没什么区别。事实上，目前 AT1 债券仍然在交易，有人就是两分钱三分钱地买，企望着再加一二分钱卖出去投机赚钱；
2、这次市场上很多人明显地 PTSD（创伤后应激障碍）了，动辄提及 08 年那次金融海啸
其实，08 年那次的金融海啸是因为次贷衍生出来的几十万亿美元天量级大泡沫，而这次银行的问题，是提高利率逼出的不良资产，就好似巴菲特所说，潮水褪去，就知道谁在裸泳了。之前是劣币驱逐良币，所以，该暴就暴，该破就破，淘汰劣币，是好事儿。
而且，这次监管层说得很清楚了，是在救储户（兜底），并不是不救银行，那些有问题的银行高管，正在彻查，该坐牢的坐牢；
3、其实，银行倒闭在美国很正常，单近几年来，就超过 150 家有名有姓的银行宣布倒闭，名不见经传的小银行就更多了，非但不罕见，更没那么可怕。
像瑞信、瑞银、德银这些银行，几年前就暴露出来巨大的问题了，其实，这些跨国大财团之中，问题最大是汇丰、黑石、和桥水，其他那些跟它仨相比，问题不是一个量级的（汇丰的美国门店除了纽约和加州还留下几家，这二年都关闭了，加拿大的汇丰也卖给了我的前老东家 RBC；黑石和桥水要是一旦暴雷，那都是万亿级的），不过，大都控制住了……而为何最近这类新闻特别多，其实就是华尔街企图倒逼美联储停止加息，甚至减息而已；
4、其实，美联储停止加息才可怕
接着第 3 点，如果美联储会被市场舆论压力牵着鼻子走的话，那么它就会非常被动，失去可信度，而政策的可信度是一个央行最重要的资产。
很多人以为货币宽松就是好消息，但事实正相反，美联储停止加息才可怕。很简单，如果美联储停止加息，甚至开始减息的话，那就意味着存在系统性的风险，那麻烦就真大了！
二、布莱克预计，特斯拉第一季度的销量将超过共识估计的 42 万辆，中国和美国的销量可能创下历史新高，而欧洲则可能表现强劲。
三、【#TikTok 面临被禁危机#】#TikTok 周受资回应信息安全等问题# 昨天被“长达 5 个多小时的关于 TikTok 的听证会”刷屏了，我断断续续前后看了一个多小时直播，就不点评了，就回应一下关于周受资一亿美元年薪的传闻。
查了一下，周受资的薪水应该没有一亿美元。目前，全球薪酬最高的 CEO 是英特尔的 CEO 帕特·基辛格（每年薪酬总额 1.78 亿美元），之后依次为：苹果 CEO 蒂姆·库克为 9870 万美元、Broadcom 的 Hock Tan（6070 万美元）、微软 CEO Satya Nadella（4990 万美元）、Charter Communications 的 Tom Rutledge（4180 万美元）、高盛的 David Solomon（3950 万美元）……
查到 2020 年时，小米曾授予周受资一亿份 stock options，十年内有效，可能一亿年薪的传闻是从这儿来的……Anyway，周受资的年收入肯定是千万美元级的，打工皇帝无疑；
四、美元指数回升，美元需求飙升！
Last but not least, 随着银行业危机蔓延，全球美元需求激增，对美联储海外流动性工具的使用量也激增，仅举一例，FIMA 回购协议工具的使用规模达到创纪录的 600 亿美元，远超过疫情高峰期达到的 14 亿美元峰值，猛涨了近 50 倍……点到为止吧……
最后，再顺便打个小广告，全球发行的《看懂財經新聞：賺錢門道》上架、《财经金融科普漫画书系（套装共 4 册）》出齐，以及我策划、和粮食问题专家冰清合著的《大国粮食》新鲜出炉，谢谢关注！
你对这个问题有什么更好的意见吗？欢迎在下方留言讨论！
【2】、来自网友【小宇堂】的最佳回答：
香农定理
是
信息论
的主要内容。香农定理实际上是多个定理构成，国内似乎比较常用“香农三定理”的提法，而在国外资料很少这么提.
信息论和香农定理
信息论
研究信息的量化，存储和传播。最初由克劳德·香农于 1948 年提出，他在具有里程碑意义的题为《通讯的数学原理》的论文中阐述了信号处理和通信操作（如数据压缩）的基本限制。信息论的基本的应用主题包括无损数据压缩（例如 ZIP 文件），有损数据压缩（例如 MP3 和 JPEG）和信道编码（例如用于 DSL）。[头条·小宇堂-未经许可严禁转载]
信息论
的一个关键量是“熵”。熵是不确定性的定量描述。例如，掷骰子的可能性。信息论中还讨论的其他一些重要的量包括：互信息、信道容量、误差指数和相对熵等等。
上图：克劳德·艾尔伍德·香农-1916.4.30-2001.2.24,享年 84 岁。美国。专业领域：电子工程学和数学。
香农定理涉及这三个部分：
-
信道编码
——主要涉及噪音下模拟信道的信道容量的定理，即香农-哈特利定理（香农-哈特利定理只描述涉及高斯噪音的
模拟信道
，但还有
二进制信道
模式的模式的对应定理这里略述）
-
信源编码
——包含涉及无损编码和有损编码的两个定理；
-
信源采样
——
奈奎斯特-香农
采样定理
但国内资料常说的“香农三定理”是指前两个部分所涉及的的三个定理，下面主要详述这三个定理：
有噪音的模拟信道编码定理（国外资料一般称“香农-哈特利定理
”）
注意：这个定理在国外资料中才通常被简称为“香农定理”
这个定理通俗地说，就是首先表明了如果传输信息的信道存在噪音，但是也可以实现信息的传递，然后可以根据带宽等参数计算出信息传递的最大的有效速率。
这可以通俗地类比我们熟悉的语音通话，虽然在电话里面有很多电流噪音或者环境噪音，但是我们仍然可以听懂对方讲的话。因为我们用
语音
和
语言
对信息进行了双重的编码，
“语音”
这种编码可以在大量噪音干扰的情况下仍然能够工作，那是因为我们的声音通常有一个带宽，但噪音往往只是某一个频率的声音，不一定能够覆盖我们嗓音的全频段。因此即便低音或高音被噪音干扰，我们仍然能听到对方在说什么。而另一方面，如果对方听不清楚，我们还可以提高嗓门来提升我们说话的“信噪比”，从而保证对方能够听清楚我们所说的话。
上图：有噪信道编码定理的计算公式，可以用打电话的例子来解释一下。嗓音越高，噪音越低，嗓音越浑厚（而不是尖利，尖利的嗓音所用的频段要少一点），就越容易被听清楚。[头条·小宇堂-未经许可严禁转载]
可变长无失真信源编码定理（无损编码）
通俗地说就是我们今天用到的各种无损编码算法——我们现在用的 ZIP,RAR 压缩，以及 APE，FLAC 等编码算法都属于无损压缩，采用这些算法可以在不损失原有信息的情况下减少存储这些信息的数据量。
这个原理通俗点说就像是对一叠纸牌：
-
如果是有序排列的（熵较低），例如 A、2、3、4、5、6、7、8、9、J、Q、K，那么就可以用一个很很短的符号，例如“A-K”来记录这个序列所代表的信息(这也说明这个序列所含有的信息很少)；
-
但如果这叠纸牌是乱序排列的（熵较高），那么就需要更多的符号来记录才能确保序列所传达的信息不丢失。
如果用前面语音通话的例子来说明的话，就是某人口吃说了很多重复话，诸如：“我我我我对你很很很景景景仰……”，可以无损地编码为“我对你很景仰……”，这就是无损压缩，但完全不损失需要表达的信息（其实也丢失了口吃重复数量的信息，严格地说应该编码成“我 4 对你很 3 景 3 仰……”）。
有损信源编码定理，又称传输率-扭曲定律
该定理通俗的解释可以沿用前面语音通话的例子，我们用“语音”的编码方式规避了信道噪音，此外我们还可以用“语言”编码的方式“长话短说”来让对方大概了解我要表达的意思。
例如：“我对你的景仰，犹如长江之水滔滔不绝，如黄河泛滥一发”这句话，可以压缩成“我好敬仰你”这五个字，如果打电话这么说就省时间和电话费了（例如国际或者星际长途）。但是这个压缩的过程是丢失了信息的，诸如那种“滔滔不绝”和“泛滥一发”的情态和赶脚就没有了。
所以有损压缩是在设定的一个信息丢失率标准之下来寻找一个满足此要求的算法，香农告诉你你一定找得到，就这么个意思。
所以，如果你对刚才那句表达景仰的话的“保真率”要求提高一点，可以这么编码：“我对你的景仰犹如长江黄河之水泛滥不绝”。[头条·小宇堂-未经许可严禁转载]
当然要保真，“成本”就高了，就得多花点时间说和更多的电话费。
上图：无损（上）和有损（下）压缩的差异比较。有损压缩可以有更大的压缩率，但是还原之后损失了信息量。
总结
我们用语音通话的例子来通俗地解说香农定理，请特别注意“语音”和“语言”两种编码方式，分别对应香农定理当中的“信道编码”和“信源编码”两个不同的部分。语音是解决传输过程中噪音问题而做的编码（如果是通过心灵感应就没这个需求了）；语言编码则可以是有损或者无损压缩的，甚至是不压缩的（就让他结巴吧）。
香农定理或者说香农的理论对
旅行者号深空任务
的成功，光盘的发明，手机通讯的可行性，互联网的发展，语言学和人类感知的研究，乃至对黑洞的理解和许多其他领域都有非常深远的影响。
以上就是关于问题【香农定理到底有什么含义？能通俗地解释一下么？】的全部回答，希望能对大家有所帮助，内容收集于网络仅供参考，如要实行请慎重，任何后果与本站无关！
