如何通俗的解释交叉熵与相对熵
答案:2 悬赏:0 手机版
解决时间 2021-01-25 13:33
- 提问者网友：饥饿走向夜
- 2021-01-24 22:13
如何通俗的解释交叉熵与相对熵
最佳答案
- 五星知识达人网友：duile
- 2021-01-24 22:32
比如含有4个字母(A,B,C,D)的数据集中，真实分布p=(1/2, 1/2, 0, 0)，即A和B出现的概率均为1/2，C和D出现的概率都为0。计算H(p)为1，即只需要1位编码即可识别A和B。如果使用分布Q=(1/4, 1/4, 1/4, 1/4)来编码则得到H(p,q)=2，即需要2位编码来识别A和B(当然还有C和D，尽管C和D并不会出现，因为真实分布p中C和D出现的概率为0，这里就钦定概率为0的事件不会发生啦)。
全部回答
- 1楼网友：从此江山别
- 2021-01-24 23:01
内应露拐退场躺惫
我要举报
如以上回答内容为低俗、色情、不良、暴力、侵权、涉及违法等信息，可以点下面链接进行举报！
点此我要举报以上问答信息
大家都在看
推荐资讯