Mi az információelmélet?

Tegyük fel, hogy Alíznak van egy ötlete, és szeretné ezt megosztani. Rengeteg módon meg lehet osztani egy ötletet. Lerajzolhatja, készíthet egy karcolatot, írhat egy dalt, (zongorajáték) küldhet táviratot vagy emailt. De miben különböznek ezek a dolgok? És ami még fontosabb: miben egyeznek meg? Ez a történet a kommunikáció legkülönfélébb formáinak alapvető összetevőiről szól. Egy különleges képességgel kezdődik, amit valószínűleg adottnak veszel. Ez a nyelv. Minden nyelv lehetővé teszi, hogy fogj egy gondolatot vagy egy mentális képet, és felbontsd ezt különálló részekre. Ezek a részek jelek vagy szimbólumok sorozatának segítségével fejezhetők ki. Az emberek különféle hangokkal és fizikai tevékenységekkel fejezik ki magukat, ahogy a madarak csicsergéssel, vagy a méhek a táncukkal. Az ember alkotta gépek az elektromos rezgések táncoló folyamát cserélik ki. Sőt, még a testünk is a DNS-nek nevezett mikroszkopikus könyvekben tárolt utasítások alapján épül fel. Ezek mind különböző formái ugyanannak a dolognak: az információnak. A legegyszerűbben megfogalmazva: az információ az, amivel egy elme befolyásolni tud egy másikat. Azon az elven alapszik, hogy a kommunikáció szelektálás. Az információ, formájától függetlenül mérhető egy alapvető mértékegységgel, hasonlóan ahhoz, ahogy különböző tárgyak tömegét lehet mérni szabványos mértékegységgel, pl. kilogrammal vagy fonttal. Ez lehetővé teszi, hogy pontosan megmérjük és összehasonlítsuk a tömegét mondjuk a köveknek, víznek vagy lisztnek egy mérleg segítségével. Az információ szintén mérhető és összehasonlítható egy olyan mértékegységgel, amit entrópiának hívunk. Gondolj rá úgy, mint egy információ-mérlegre. Ösztönösen tudjuk, hogy egy tetszőleges könyv egyetlen oldala kevesebb információt tartalmaz, mint az egész könyv. Pontosan meg tudjuk mondani, mennyit, ha egységként úgynevezett bit-et használunk. Ez a meglepetés mértékegysége. Szóval mindegy, hogyan szeretne Alíz egy konkrét üzenetet átadni: hieroglifákkal, zenével, számítógépes kóddal, mind ugyanannyi bitet tartalmazna, habár különböző sűrűséggel. A bit pedig egy igen egyszerű ötlethez köthető. A válasz az „igen" vagy „nem” kérdésekre. Gondolj rá úgy, mint az érmék nyelvére. Szóval, hogy is mérhető az információ pontosan? Van-e az információnak sebességhatára? Maximális sűrűsége? Az információelmélet érdekes választ ad ezekre a kérdésekre. Ez egy olyan elv, amely 3000 éve formálódik. De mielőtt ezt megérthetjük, vissza kell lépnünk, és felfedeznünk az emberi történelem talán egyik leghasznosabb találmányát, az ábécét. Ehhez pedig vissza kell térnünk a barlangokhoz.