自信息

用手机看条目

出自 MBA智库百科(https://wiki.mbalib.com/)

什麼是自信息

  自信息是指由克勞德•夏農提出的用來衡量單一事件發生時所包含的信息量多寡。它的單位是bit,或是nats。

  假設事件ωn發生的機率是 Pn),自信息 In) 的就是:

I(\omega_n) = \log \left(\frac{1}{P(\omega_n)} \right) = - \log(P(\omega_n))

  因此,一個隨機產生的事件所包含的信息本體數量,只與事件發生的機率相關。事件發生的機率越低,在事件真的發生時,接收到的信息中,包含的信息本體越大。

  自信息還有這樣的特性:如果事件c中包含了兩個相互獨立的事件a與事件b,當事件c發生時,它所包含的信息本體量,等於事件a的信息本體量加上事件b。一系列事件的信息本體加總之後,平均的信息本體值就是信息熵

  信息量的大小不同於信息作用的大小,這不是同一概念。信息量只表明不確定性的減少程度,至於對接收者來說,所獲得的信息可能事關重大,也可能無足輕重,這是信息作用的大小。

本條目對我有幫助0
MBA智库APP

扫一扫,下载MBA智库APP

分享到:
  如果您認為本條目還有待完善,需要補充新內容或修改錯誤內容,請編輯條目

本条目由以下用户参与贡献

Tracy.

評論(共0條)

提示:評論內容為網友針對條目"自信息"展開的討論,與本站觀點立場無關。

發表評論請文明上網,理性發言並遵守有關規定。

打开APP

以上内容根据网友推荐自动排序生成