半教師あり学習とは

半教師あり学習は、教師あり学習と教師なし学習の中間にあたる学習方法です。ラベル付きの少量のデータに加えて、ラベルの付いていない大量のデータも学習に使います。

なぜ必要か

写っている物の名前や、医療画像の診断結果などのラベルを付けるには、人手と専門知識が必要で、費用がかかります。一方、ラベルのないデータは比較的簡単に集まります。半教師あり学習は、ラベルなしデータからわかるデータの分布を生かし、少ないラベルでも精度を高めることを目指します。前提には、「近くにあるデータや、同じまとまりに属するデータは、同じラベルをもちやすい」という仮定があります。

代表的な方法

• 疑似ラベル（自己訓練）：ラベル付きデータで学習したモデルでラベルなしデータを予測し、確信度の高い予測を仮の正解として学習に加えます。
• 一貫性正則化：同じ入力にノイズやデータ拡張を加えても、予測が変わらないように学習します。
• FixMatch（2020年）：弱いデータ拡張をした画像の予測のうち、確信度が高いものだけを疑似ラベルにします。そして、強いデータ拡張をした同じ画像でその疑似ラベルを当てるように学習します。CIFAR-10では、1クラスあたり4枚のラベルだけで約89%の正解率を報告しました。

似た用語との違い

自己教師あり学習は、人手のラベルを使わず、データ自身から作った正解で学習する方法です。少量でも人手のラベルを学習に使う半教師あり学習とは、この点が異なります。ただし、自己教師あり学習で事前学習したモデルを少量のラベルで調整する流れを、半教師あり学習の手法として扱う研究もあります。

覚え方

「少しの答え付き例題と、たくさんの答えなし問題で学ぶ」と覚えます。