8.16. 判别式模型vs生成式模型¶
生成式模型和判别式模型的区别¶
生成式模型由数据学习联合概率分布 P (X,Y)，然后求出条件概率分布 P (Y|X) 作为预测模型，即生成式模型为:
P(Y|X) = P(X, Y) / P(X)
判别式模型是由数据直接学习条件概率分布 P (Y|X) 作为预测的模型。
根据两者的区别我们可以看出，首先通过生成式模型产出的数据训练出的判别式模型可以提高模型的覆盖度。因为生成式模型需要学习联合概率分布 P (X,Y)，但是对于那些所有标注函数都无法覆盖的数据显然是无法得到 P (X,Y) 的，相反判别式模型只需要 X 本身的特征就可以算出 P (Y|X)，所以判别式模型可以覆盖那些生成式模型覆盖不到的数据点。