前面我們講到，在計(jì)算機(jī)內(nèi)部，所有的數(shù)據(jù)都是以二進(jìn)制進(jìn)行表示的。二進(jìn)制數(shù)據(jù)應(yīng)該是最簡(jiǎn)單的數(shù)字系統(tǒng)了，二進(jìn)制中只有兩個(gè)數(shù)字符號(hào)——0和1。要是我們想尋求更簡(jiǎn)單的數(shù)字系統(tǒng)，就只剩下0一個(gè)數(shù)字符號(hào)了，只有一個(gè)數(shù)字符號(hào)0的數(shù)字系統(tǒng)是什么都做不成的。
“bit”這個(gè)詞被創(chuàng)造出來表示“binary digit”(二進(jìn)制數(shù)字)，它的確是新造的和計(jì)算機(jī)相關(guān)的最可愛的詞之一。當(dāng)然，bit有其通常的意義：“一小部分，程度很低或數(shù)量很少”。這個(gè)意義用來表示比特是非常精確的，因?yàn)?比特——一個(gè)二進(jìn)制位，確確實(shí)實(shí)是一個(gè)非常小的量。
那么，為什么如此簡(jiǎn)單的二進(jìn)制系統(tǒng)能夠表示出客觀世界中那么多種豐富多彩的信息呢？這就需要對(duì)信息進(jìn)行各種方式的編碼。
讓我們先從一個(gè)例子講起。1775年4月18日，美國(guó)革命前夕，麻省的民兵正計(jì)劃抵抗英軍的進(jìn)攻，派出的偵察員需要將英軍的進(jìn)攻路線傳回。作為信號(hào)，偵察員會(huì)在教堂的塔上點(diǎn)一個(gè)或兩個(gè)燈籠。一個(gè)燈籠意味著英軍從陸地進(jìn)攻，兩個(gè)燈籠意味著從海上進(jìn)攻。但如果一部分英軍從陸地進(jìn)攻，而另一部分英軍從海上進(jìn)攻的話，是否要使用第三只燈籠呢？
聰明的偵察員很快就找到了好的辦法。每一個(gè)燈籠都代表一個(gè)比特，點(diǎn)亮的燈籠表示比特值為1，未亮的燈籠表示比特值為0，因此一個(gè)燈籠就能表示出兩種不同的狀態(tài)，兩個(gè)燈籠就可以表示出如下四種狀態(tài)：
00=英軍不進(jìn)攻
01=英軍從海上進(jìn)攻
10=英軍從陸地進(jìn)攻
11=英軍一部分從海上進(jìn)攻，另一部分從陸地進(jìn)攻
這里最本質(zhì)的概念是信息可能代表兩種或多種可能性的一種。例如，當(dāng)你和別人談話時(shí)，說的每個(gè)字都是字典中所有字中的一個(gè)。如果給字典中所有的字從1開始編號(hào)，我們就可能精確地使用數(shù)字進(jìn)行交談，而不使用單詞。(當(dāng)然，對(duì)話的兩個(gè)人都需要一本已經(jīng)給每個(gè)字編過號(hào)的字典以及足夠的耐心)換句話說，任何可以轉(zhuǎn)換成兩種或多種可能的信息都可以用比特來表示。
使用比特來表示信息的一個(gè)額外好處是我們清楚地知道我們解釋了所有的可能性。只要談到比特，通常是指特定數(shù)目的比特位。擁有的比特位數(shù)越多，可以傳遞的不同可能性就越多。只要比特的位數(shù)足夠多，就可以代表單詞、圖片、聲音、數(shù)字等多種信息形式。最基本的原則是：比特是數(shù)字，當(dāng)用比特表示信息時(shí)只要將可能情況的數(shù)目數(shù)清楚就可以了，這樣就決定了需要多少個(gè)比特位，從而使得各種可能的情況都能分配到一個(gè)編號(hào)。
在計(jì)算機(jī)科學(xué)中，信息表示(編碼)的原則就是用到的數(shù)據(jù)盡量地少，如果信息能有效地進(jìn)行表示，就能把它們存儲(chǔ)在一個(gè)較小的空間內(nèi)，并實(shí)現(xiàn)快速傳輸。