l1正則化に基づく複数の計量行列を用いた計量距離学習に関する一考察

Abstract

学習データの統計的特徴を考慮し, 所望の制約条件のもとで距離構造を学習するための手法として計量距離学習が知られている. ほとんどの計量距離学習手法では, 大域的な計量行列を得ることを主眼に置いているが, その一方で,大域的な計量行列のみでは, 各カテゴリの統計的特徴を表現することができないという問題点が存在している. 加えて. 入力データの次元数が増加してしまった場合, 入力データ間の距離を算出するための計算量も大幅に増加してしまう. これらの問題点を考慮し,本研究ではカテゴリごとに計量行列の存在を仮定し, かつその構造に制約を課すことでスパースな構造を持った計量行列の導出法について提案を行う. 提案手法の有効性を検証するため, UCI 機械学習レポジトリを用いたシミュレーション実験を実施した.

The distance metric learning is the method to learn the distance metric from training data considering its statistical characteristics under the arbitrary constraints. To obtain the desirable distance metric, the optimization problem is solved. Most of the distance metric learning methods aim to gain the global optimal metric matrix. However there is a possibility that the global metric matrix cannot express the statistical characteristics of each category in detail. In addition, if the dimension of input data increase, the computational cost of calculating distance between data increases either. To avoid this problem, we adopt the way to use the l1 regularization to gain sparse metric matrix. By combining those, we focus on the way to deriving the plural metric matrices with a sparse structure in this study. To verify the effective ness of our proposed method, we conduct simulation experiments by using UCI machine learning repository.