破滅的忘却を抑える工夫

ある小売企業が、一般的な物体を認識できる事前学習済みの画像分類モデルを、自社商品の分類にも使うため追加学習した。自社商品は分類できるようになったが、一般的な物体の認識性能が大きく下がった。両方の性能を保つための対応として、最も不適切なものを1つ選べ。

正解と解説を見る

解説

正解D

ポイント

破滅的忘却は、新しいデータだけで重みを大きく更新すると起きやすくなります。元のデータを混ぜる、重要な重みを守るなどの方法で抑えます。

選択肢ごとの解説

  1. A

    適切

    元のタスクのデータを混ぜて学習する方法は、リハーサル(リプレイ)と呼ばれます。新しいタスクに合わせる間も元のタスクの知識が使われ続けるため、性能の低下を抑えられます。

  2. B

    適切

    EWC(Elastic Weight Consolidation)などの方法です。元のタスクにとっての各重みの重要度を見積もり、重要な重みの変化に罰則をかけることで、古い知識を保ちながら新しいタスクを学びます。

  3. C

    適切

    共通部分の重みを変えなければ、元の出力層を使う一般物体の認識性能はそのまま保てます。ただし新しいタスクの精度は、全体を調整する場合より伸びにくいことがあります。

  4. D

    不適切 ◯ 正解

    新しいデータだけで重みを大きく長く更新すると、元のタスクに役立っていた重みがさらに書き換わり、破滅的忘却が強まります。元の性能を保つには、元のデータを混ぜる、学習率を小さくするなどの工夫が必要です。

試験での狙われ方

破滅的忘却の意味に加え、どのような学習で起きやすいか、どう抑えるかを業務の場面で問う形が考えられます。

関連用語

破滅的忘却、ファインチューニング、転移学習

参考

オリジナル問題(過去問ではありません) AIで作成 人による確認:未 誤りを報告

出典と作成について

作成:ウカトレ編集部(AIで作成し、別のAIが一次資料と照合。手順は編集方針)

公開日: 最終更新日: 最終確認日:

シラバス第1.4版 技術31「転移学習・ファインチューニング」の問題です。

改訂履歴

表示設定

テーマ
文字の大きさ
問題演習