信息熵有类似于热力学熵的熵增定律吗？

这个好哲学。。。
不懂。

data processing inequality 差不多吧。Cover的书里面讲了信息论和热力学第二定律的联系。布里渊的《信息论与热力学》还有Penrose的《统计力学基础》里面都有信息墒和热力学第二定律在物理上面的联系。
事实上信息墒和热力学／统计力学的联系可以追述到麦克斯伟妖，也就是说一个小妖怪可以通过开合一个小洞降低气体系统的墒，这貌似违背了热力学第二定律。对这个事情的讨论持续了很多年，一开始人们以为小妖看清气体分子的状态需要能量。后来到了70年代人们才发现其实并不需要能量，小妖的限制是计算摸去记忆时需要能量（除非它有无穷大的存储空间）。有一本书专门讲麦克斯韦妖。费曼也写了一本书讲计算理论的热力学极限。有趣的是今年还有Nature上面的文章讲这个事情。

有意思

你说的今年Nature上那个文章是有人声称实现了麦克斯韦妖那篇吗？看评论被批得一塌糊涂啊。