相関の強い変数と正則化回帰

ある小売チェーンが、約80個の説明変数から店舗の月間売上を予測する線形回帰モデルを作る。説明変数には、売場面積と棚の数のように互いに強く相関する組がいくつも含まれる。正則化を加えた回帰の使い方に関する説明として、最も不適切なものを1つ選べ。

正解と解説を見る

解説

正解C

ポイント

相関の強い変数の組があると、ラッソ回帰は一部だけを選んで残りを0にしやすくなります。組で残したいときはElastic Netを検討します。

選択肢ごとの解説

  1. A

    適切

    Elastic Netは、L1とL2の罰則を重み付きで足して使います。L1の項で不要な変数の係数を0にし、リッジ回帰と同じL2の項で相関の強い変数の係数を近い値に寄せるため、組ごとに扱われやすくなります。

  2. B

    適切

    売場面積を㎡で測るか千㎡で測るかで、同じ影響を表す係数の大きさは1000倍変わります。尺度がそろっていないと罰則が変数ごとに不公平に効くため、平均0・分散1などに標準化してから学習します。

  3. C

    不適切 ◯ 正解

    ラッソ回帰は、似た情報をもつ変数の組から一部だけを選び、残りの係数を0にしやすい性質があります。どれが残るかはデータの少しの違いで変わりうるため、0になった変数が売上に無関係とは言えません。

  4. D

    適切

    線形回帰の訓練データでの二乗誤差は、正則化をしないλ = 0のときに最も小さくなります。λは、交差検証などで学習に使っていないデータの誤差が最小になる値を選びます。

試験での狙われ方

ラッソ回帰・リッジ回帰・Elastic Netの罰則の違いと、それぞれが係数に与える影響を比べさせる形が考えられます。

関連用語

ラッソ回帰、リッジ回帰、L1正則化、L2正則化、交差検証

参考

オリジナル問題(過去問ではありません) AIで作成 人による確認:未 誤りを報告

出典と作成について

作成:ウカトレ編集部(AIで作成し、別のAIが一次資料と照合。手順は編集方針)

公開日: 最終更新日: 最終確認日:

シラバス第1.4版 技術14「正則化」の問題です。

改訂履歴

表示設定

テーマ
文字の大きさ
問題演習