互信息的计算公式是什么？
订阅
互信息的计算公式为： I(X;Y)=∑y∈Y∑x∈Xp(x,y)log(p(x,y)/(p(x)p(y))) 互信息还可以表示为以下形式： I(X;Y)=H(X)-H(X|Y) =H(Y)-H(Y|X
互信息的计算公式为：
I(X;Y) = ∑y∈Y ∑x∈X p(x,y) log(p(x,y)/(p(x)p(y)))
互信息还可以表示为以下形式：
I(X;Y) = H(X) - H(X|Y)
= H(Y) - H(Y|X)
= H(X) + H(Y) - H(X,Y)
= H(X,Y) - H(X|Y) - H(Y|X)
其中，H(X,Y)是联合熵（Joint Entropy），H(X|Y)是条件熵（conditional entropy），表示在给定Y条件下X的不确定性，H(Y|X)表示在给定X条件下Y的不确定性。互信息的值大于等于0。
免责声明：本内容来源于第三方作者授权、网友推荐或互联网整理，旨在为广大用户提供学习与参考之用。所有文本和图片版权归原创网站或作者本人所有，其观点并不代表本站立场。如有任何版权侵犯或转载不当之情况，请您通过400-62-96871或关注我们的公众号与我们取得联系，我们将尽快进行相关处理与修改。感谢您的理解与支持！
阅读全文
请先 登录后发表评论 ~