Discriminative ModelとGenerative Model
機械学習のモデルには、大別してGenerative ModelとDiscriminative Modelの2種類があります。今回はそれぞれの違いについて、簡単にまとめてみます。
両者の違いを端的に言うと、モデル化時に検討する要素の違いです。
・Generative Model : 注目変数だけでなく、全ての変数を考慮
・Discriminative Model: 注目変数のみ考慮
Generative Model(生成モデル)
生成モデルという名の通り、システムの全データの生成プロセスをモデル化します。そして、必要に応じてベイズ推定を行います。例えばGMMやLDAがこのモデルに属します。
Discriminative Model(識別モデル)
識別モデルという名の通り、入力データを単純に識別します。モデル化には条件付き確率が使われます。同時分布が必要ない時に活躍します。例えばSVMがこのモデルに属します。