彐为什么我们需要非零的概率? 避免无穷大的交叉熵 当测试数据中出现了一个在训练数据中没 有出现过的事件,就会发生H(p)=∞的情况 使系统更健壮 低频的估计值 更加细腻( detailed),但相对来说很少出现 高频的估计值 更可靠但是不够细腻为什么我们需要非零的概率？ • 避免无穷大的交叉熵 – 当测试数据中出现了一个在训练数据中没 有出现过的事件，就会发生H(p)=∞的情况 • 使系统更健壮 – 低频的估计值 • 更加细腻(detailed)，但相对来说很少出现 – 高频的估计值 • 更可靠但是不够细腻