自己教師あり学習の事前タスク

大量のラベルなしデータを用いる自己教師あり学習に関する説明として、最も不適切なものを1つ選べ。

正解と解説を見る

解説

正解C

ポイント

自己教師あり学習の事前タスクは、それ自体が目的ではありません。下流タスクに役立つ表現を学ぶための手段です。

選択肢ごとの解説

  1. A

    適切

    BERTのマスク言語モデルの例です。隠す前の単語がそのまま正解になるため、ラベルなしの文章だけで大量の学習問題を作れます。これが自己教師あり学習の基本的な考え方です。

  2. B

    適切

    SimCLRなどの対照学習の例です。同じ画像から作ったかどうかはデータの作り方から自動でわかるため、クラスのラベルがなくても、見た目の変化に左右されにくい表現を学べます。

  3. C

    不適切 ◯ 正解

    Masked Autoencoder(MAE)では、事前学習の後に復元用のデコーダを捨て、エンコーダを画像分類などの下流タスクに転用します。隠した部分の復元は、役に立つ表現を学ぶための手段です。

  4. D

    適切

    GPTのように次の単語を予測する事前学習も、文章の続きそのものが正解になるため、自己教師あり学習の一種として扱われます。人手のラベルなしで大量の文章を学習に使えます。

試験での狙われ方

具体的な事前タスクの例を示し、自己教師あり学習にあたるかどうかや、学習後のモデルの使い道を問う形が考えられます。

関連用語

自己教師あり学習、対照学習、事前学習済みモデル、BERT

参考

オリジナル問題(過去問ではありません) AIで作成 人による確認:未 誤りを報告

出典と作成について

作成:ウカトレ編集部(AIで作成し、別のAIが一次資料と照合。手順は編集方針)

公開日: 最終更新日: 最終確認日:

シラバス第1.4版 技術31「転移学習・ファインチューニング」の問題です。

改訂履歴

表示設定

テーマ
文字の大きさ
問題演習