"汎化誤差"

混合分布のノンパラメトリック推定と最小ダイバージェンス法

最尤推定による混合分布のノンパラメトリック推定では,最適な重み分布がサンプル数以下の有限個の点からなる離散分布で与えられることが知られているものの,サンプル数が少ない状況では過学習が起こる傾向がある.本研究では,一つのパラメータを持つ目的関数を構成することで,最尤推定やカーネルベクトル量子化を特別な場合として含む一連の推定手法を与え,経験尤度法や情報量最小化との関係を考察する.また,数値実験により,パラメータの設定によっては過学習を抑制する効果が得られることを示す.