ヒット カウンタ

講義 5月21日

情報量

そもそも情報とは何か。

社会を支える3つの要素は「物質」「エネルギー」「情報」である。
情報は、知識を増大させる。
知識は不確かさの減少。
情報とは不確かさを減少させるもの。

情報量の単位

2つの選択肢から1つを特定するのに必要な情報量を1ビットという。
ビットとは“binarydigit”の略であり、もともと二進法の一桁を意味するものである
確率p=1/2で起きることを伝える情報の量は1ビット。
コインの表(0)が出るか裏(1)が出るか、それぞれの確率は1/2 である。
今、コインを1回投げたとき、 表が出るという情報の情報量は1ビット。
裏が出るという情報の情報量も1ビット。
一般に、nビットの情報量では2のn乗個までの選択肢からなる情報を表現することができる。例えば、アルファベット26文字を表現するのに必要な情報量は5ビット(16<26<32なため)である。

資料

前期試験のヒント

2のn乗は語呂で覚えておくと良い

 

例題

例題は資料参照の事

ホームページへ