自信息

用手机看条目

什么是自信息

　　自信息是指由克劳德•夏农提出的用来衡量单一事件发生时所包含的信息量多寡。它的单位是bit,或是nats。

　　假设事件 $ω n$ 发生的机率是 $P (ω n)$ ，自信息 $I (ω n)$ 的就是:

$I(\omega_n) = \log \left(\frac{1}{P(\omega_n)} \right) = - \log(P(\omega_n))$

　　因此，一个随机产生的事件所包含的信息本体数量，只与事件发生的机率相关。事件发生的机率越低，在事件真的发生时，接收到的信息中，包含的信息本体越大。

　　自信息还有这样的特性：如果事件c中包含了两个相互独立的事件a与事件b，当事件c发生时,它所包含的信息本体量，等于事件a的信息本体量加上事件b。一系列事件的信息本体加总之后，平均的信息本体值就是信息熵。

　　信息量的大小不同于信息作用的大小，这不是同一概念。信息量只表明不确定性的减少程度，至于对接收者来说，所获得的信息可能事关重大，也可能无足轻重，这是信息作用的大小。

自信息是一个小作品。你可以通过编辑或修订扩充其内容。

如果您认为本条目还有待完善，需要补充新内容或修改错误内容，请编辑条目或投诉举报。

提示:评论内容为网友针对条目"自信息"展开的讨论，与本站观点立场无关。

发表评论请文明上网，理性发言并遵守有关规定。