ITパスポート試験 用語辞典
転移学習【Transfer Learning】てんいがくしゅう
すでにある学習済みのAIモデルをもとに、事前学習で設定した重みづけパラメータ等の設定を保持したまま必要な訓練のみ行うことで、効率的に目的とするAIモデルの開発を目指す手法。
すでに事前学習済みの部分はパラメータの調整を行う必要がなく、特定のタスクを目的として新たに設定した中間層と出力層または出力層のみに関連したデータで訓練を行えばよく、学習にかかる時間が短縮され、必要とするデータも少量で済む。そのため、"症例数の少ない病気の診断や治療薬開発"など、学習に用いるデータが少量しか存在しなくても転移学習が可能である。目的とするAIモデルの扱う分野やデータ形式が、ベースとして用いる事前学習モデルと同種であるほど転移学習の精度は高くなるが、そうではない場合には必要に応じて、❶転移学習ではなくパラメータに調整をかけるファインチューニングを行う、❷事前学習済みモデルにファインチューニングをかけた後に転移学習を行う、❸事前学習モデルを利用せず新たなモデルを開発する、などの対応が必要となる。
例えば、「"商品群は同じだが、従来店と新店舗におけるユーザー属性(性別や年齢層、職業など)が違うため売れ行きが異なる"という条件下で新店舗における購買予測を行う」ような場合、すでに稼働している従来店の予測モデルを利用可能であり、新店舗における購買データのみを学習させればよいことから効率的な転移学習が可能となる。
すでに事前学習済みの部分はパラメータの調整を行う必要がなく、特定のタスクを目的として新たに設定した中間層と出力層または出力層のみに関連したデータで訓練を行えばよく、学習にかかる時間が短縮され、必要とするデータも少量で済む。そのため、"症例数の少ない病気の診断や治療薬開発"など、学習に用いるデータが少量しか存在しなくても転移学習が可能である。目的とするAIモデルの扱う分野やデータ形式が、ベースとして用いる事前学習モデルと同種であるほど転移学習の精度は高くなるが、そうではない場合には必要に応じて、❶転移学習ではなくパラメータに調整をかけるファインチューニングを行う、❷事前学習済みモデルにファインチューニングをかけた後に転移学習を行う、❸事前学習モデルを利用せず新たなモデルを開発する、などの対応が必要となる。
例えば、「"商品群は同じだが、従来店と新店舗におけるユーザー属性(性別や年齢層、職業など)が違うため売れ行きが異なる"という条件下で新店舗における購買予測を行う」ような場合、すでに稼働している従来店の予測モデルを利用可能であり、新店舗における購買データのみを学習させればよいことから効率的な転移学習が可能となる。
- 分野:
- テクノロジ系 » 基礎理論 » 情報に関する理論
(シラバスver6.2) - 重要度:
「情報に関する理論」に属する用語
- 演繹推論
- 帰納推論
- 機械学習
- ニューラルネットワーク
- バックプロパゲーション
- 活性化関数
- 過学習
- ディープラーニング
- 事前学習
- ファインチューニング
- 転移学習
- 畳み込みニューラルネットワーク
- 再帰的ニューラルネットワーク
- 敵対的生成ネットワーク
- 大規模言語モデル
- プロンプトエンジニアリング
「基礎理論」の他の分野
「テクノロジ系」の他のカテゴリ