请教大牛信息论中的一个关于墒的不等式
H(x0, x1|Y)/H(x0,x1) < H(x0,x2|Y)/H(x0,x2),
求证:
H(x2,x1,x0|Y)/H(x2,x1,x0) > H(x1,x0| Y)/H(x1,x0)
本人弱鸟,证了一个下午都没有理出头绪,请大牛出手~~~
谢谢!
或者说该不等式不成立? 能给反例?
^_^,呼唤大牛realwhz,cylient们~~~~~~~~~~
试了好像还是不行~~~主要是H(x0,x2|Y)/H(x0,x2) + H(x0,x1|Y)/H(x0,x1)这两个东西分
母不同不好处理。
还是非常谢谢!^_^
你的题目有问题,>.<都是有可能成立的,由于你的题干只有一个限定条件:
H(x0,x1|Y)/H(x0,x1) < H(x0,x2|Y)/H(x0,x2).
因此你可以随便画一个简易的维恩图,比如:让x0与x1,x0与x2分别相交,x1与x2不相
交。然后让Y与x1,x2相交。先规定如下标记:
H(x0)=M;
H(x1|x0)=S1;
H(x2|x0)=S2;
I(Y;x1)=Sd;
I(Y;x2)=Sx;
则根据已知条件有:
H(x0,x1|Y)/H(x0,x1)= (M+S1-Sd)/(M+S1)
< (M+S2-Sx)/(M+S2)=H(x0,x2|Y)/H(x0,x2)
即Sx/(M+S2) < Sd/(M+S1);
H(x0,x1,x2|Y)/H(x0,x1,x2)
=(M+S1+S2-Sx-Sd)/(M+S1+S2)
=1- (Sx+Sd)/(M+S1+S2)
当M >> S1,S2时,
H(x0,x1,x2|Y)/H(x0,x1,x2)= 1- (Sx+Sd)/(M+S1+S2)=1- (Sx+Sd)/M
< 1- Sd/M = H(x0,x1|Y)/H(x0,x1)
当M << S1,S2时,有
H(x0,x1|Y)/H(x0,x1)< H(x0,x1,x2|Y)/H(x0,x1,x2) < H(x0,x2|Y)/H(x0,x2).
btw:我刚看到题目时候,直觉就是第二种情况,没有想到直觉也是错的^_^。你可以用维
恩图检查一下我的分析,我觉得信息论里面有些东西能够有图形解释尽量用图形,开始
我准备直接推,发觉推出来是一些恒等式,而且非常浪费草稿纸。
嗯,另外也可以假设x0是必然事件,画下面的韦恩图,图中各部分标号恰为其实际值。验证H(x0,x1|Y)/H(x0,x1)=5/11 < H(x0,x2|Y)/H(x0,x2)=6/11但H(x2,x1,x0|Y)/H(x2,x1,x0)=7/18 < H(x1,x0| Y)/H(x1,x0)=5/11。
收获不少,非常感谢两位!
相关文章:
- 信息论方面有那些好的中文书啊?(05-08)
- 信息论中没没有信息量随着时间变化的概念(05-08)
- 上传了两本信息论的书(05-08)
- 求朱雪龙老师那本"应用信息论"习题答案!(05-08)
- Shannon著名信息论论文的据信(05-08)
- 问个信息论的问题(05-08)