通过思考人类大脑和处理和计算信息,艾伦-图灵得出了20世纪最重要的思想之一,信息的力量正在显现。图灵的思想成为现实后,大家可能都在想信息的真正力量会释放出来,但图灵只是故事的一半,现代信息时代需要另一个想法,一个终于确定了信息的本质,及其与宇宙秩序和无序的关系的想法,这是一个天才而古怪的数学家兼工程师的构想,他就是克劳德·香农。

克劳德·香农是一个真正的特立独行者,他想要解决不寻常问题的欲望给他带来一个革命性的新想法,一个揭示信息的基本性质以及各种形式的交流过程的想法。
克劳德·香农的论文《通信的数学理论》,这个标题听起来可能有点枯燥,但那是20世纪最重要的科学论文之一,它不仅奠定了现代世界通信网络的基础,也给了人类语言以及我们由本能驱动的行为,比如说和写带来了新的见解。
论文发表于1948年,论文中香农做了一些不可思议的事,他清楚地解释了模糊而神秘的信息概念,他没有使用一些措辞巧妙的哲学定义,而是找到了衡量一个消息中包含的信息的方法。
香农意识到消息的信息量与它的意义无关,相反,他表示只与信息的不寻常度有关,换句话说,信息与意外性有关。新闻之所以是新闻,因为它是出乎意料的,而越是出人意料,它就越有新闻价值,因此,如果今天的新闻与昨天的新闻相同,那它就算不上新闻,那么信息内容就会是零。于是突然间,我们就发现了意外性和信息之间的联系。
但香农并未止于此,他还定义了信息的测量单位,他是怎么做到的呢?
香农表明,你发送任何消息都可以翻译成二进制数学,一长串的1和0的序列,一种写相同信息的方法。香农意识到,将信息转化为二进制数学会产生强大的力量,它能使信息易于管理,准确,可控和精确。在他的论文中,香农展示了一个二进制数字其中的1或0是信息的基本单位。
在定义了基本单位后,他甚至给它起了个我们都熟知的名字,他用了“二进制数学”这个短语的简称:比特!不起眼的比特有着强大的能力,比特是信息的最小数量,它非常重要,因为它就像基本的原子,是信息的最小单位。