機械学習（シラバス 技術5）

知識を書く方法からデータで学ぶ方法へ

第2次AIブームのエキスパートシステムは、専門家の知識を人がルールとして書き出していました。知識が増えるほど書く手間も矛盾も増え、ここが行き詰まりの原因になりました。機械学習は、データから判断の規則やパターンをコンピュータ自身に学ばせる方法です。1990年代後半から2000年代にかけて、インターネットの普及で集まるデータが急に増え、計算機も安く速くなったことで、実用的な場面で広く使われるようになりました。

ビッグデータ

ビッグデータは、閲覧や購買の記録、SNSの投稿、センサーの値など、従来の方法では扱いきれないほど大量で多様なデータのことです。量（Volume）、種類（Variety）、生まれる速さ（Velocity）の3つのVで説明されることが多く、表形式のデータだけでなく、文章・画像・音声も含みます。機械学習にとっては、学習の材料が一気に増えたことを意味します。

代表的な応用

• スパムフィルタ：利用者が迷惑メールと報告したメールなど、正解ラベル付きのメールから単語の出現傾向を学び、新しいメールを振り分けます。教師あり学習の分類問題で、ナイーブベイズを使った方法が古くから使われてきました。
• レコメンデーションエンジン：購買や閲覧の履歴から好みを推定し、商品や動画を薦めます。多くの利用者の行動履歴から似たパターンを見つける協調フィルタリングと、商品そのものの特徴が似たものを薦めるコンテンツベースフィルタリングがあります。ECサイトでは2000年代初めに実用化されていました。
• 統計的自然言語処理：文法や訳し方の規則を人が書く代わりに、大量の文書データ（コーパス）から、単語の出現確率や語どうしの対応を学びます。統計的機械翻訳は、原文と訳文の組を大量に集め、訳語の対応や語順の傾向を確率で表します。1990年前後にIBMの研究者が示した方式がよく知られています。2010年代後半からは、ニューラルネットワークを使う翻訳が主流になりました。

次元の呪い

データを表す項目（特徴量）の数を次元と呼びます。次元の呪いは、次元が増えると、空間を埋めるのに必要なデータ量が指数関数的に増える問題です。各特徴量を10の区間に分けると、特徴量が2つなら100通り、3つなら1,000通りの組み合わせができます。データが同じ量のままだと空間はすかすかになり、偶然のパターンまで覚え込む過学習が起きやすくなります。距離で似たデータを探す方法も効きにくくなります。

対策は、役に立つ特徴量だけを選ぶこと、主成分分析などで次元を減らすこと、データを増やすことです。

ディープラーニングへのつながり

この時期の機械学習では、どの特徴量を使うかを人が考えて設計する必要があり、その出来が性能を大きく左右しました。特徴量そのものをデータから学ぶディープラーニングが、次の中項目のテーマです。