Mixupとは

Mixupは、2つの学習データをランダムに決めた比率で混ぜて、新しい学習データを作る手法です。2017年に論文が公開され、ICLR 2018で発表されました。画像なら、2枚の写真を半透明にして重ねたような画像ができます。混ぜるのは画像だけではありません。正解ラベルも同じ比率で混ぜるのが特徴です。

作り方

2つの学習データを(x1, y1)と(x2, y2)とします。xは入力、yはワンホットベクトルで表した正解ラベルです。0から1の値をとる比率λを使い、次のように作ります。

• 入力：x = λ × x1 + (1 − λ) × x2
• ラベル：y = λ × y1 + (1 − λ) × y2

λは、学習中にベータ分布Beta(α, α)からランダムに選び直します。αは混ぜ方の強さを決めるハイパーパラメータで、小さいほどλが0か1に近くなり、混ぜ方は弱くなります。たとえばλ = 0.7で猫と犬の画像を混ぜると、正解は「猫0.7、犬0.3」です。

なぜ効くのか

通常の学習では、モデルは学習データの点そのものに合わせ込みます。Mixupでは、データとデータの間にも答えを用意します。その結果、データの間で予測がなめらかに変わるようになり、過学習が抑えられます。提案論文では、誤ったラベルの丸暗記が減ることや、敵対的サンプルに強くなることも報告されています。入力をベクトルとして混ぜるだけなので、画像のほかに音声や表形式のデータでも効果が確かめられました。

CutMixとの違い

Mixupの画像は2枚が透けて重なるため、現実にはない不自然な見た目になります。CutMixは、一方の画像の一部を切り取ってもう一方に貼り付け、ラベルを貼った面積の比率で混ぜる方法で、この点を改めました。

覚え方

「全体を薄く重ねるのがMixup、一部を貼り付けるのがCutMix」と区別します。