基本情報技術者 2025年 科目A 問01

ファインチューニング【午前解説】

正解の理由

解法ステップ

1. 「ファインチューニング」の定義を思い出す：事前学習済みモデルを特定タスクへ適用するための追加学習であるか確認する。
2. 各選択肢を定義と照合する：
   • 事前学習そのもの（大量テキスト）か、強化学習か、同じデータの反復か、特定データでの追加学習か。
3. 定義と一致するものを選ぶ（一致するのが エ）。

選択肢別の誤答解説

• ア: 強化学習を行い、最適な結果が得られるようにする。
  → 強化学習（RL）は目的に応じて使われる手法の一つであり、ファインチューニングの一般的定義ではない。対話系モデルで報酬信号を用いるRLHF（Reinforcement Learning from Human Feedback）のように、ファインチューニング後や並行して行う場合もあるが、ファインチューニング＝必ずRLという説明は誤りです。
• イ: 事前学習と同じデータを繰り返し用いて学習を行い、モデルの精度を高めるようにする。
  → 同じ大量データを繰り返すと過学習や学習の無駄につながる可能性があり、これもファインチューニングの定義ではない。ファインチューニングは通常、目的タスクに関連するデータ（ラベル付きデータやドメイン特化データ）を用います。
• ウ: 大量のテキストデータを用いて学習を行い、モデルの精度を高めるようにする。
  → これは事前学習（プレトレーニング）の説明です。ファインチューニングは通常、事前学習済みモデルを出発点として行うため、対象データ規模や目的が異なります。
• エ: 特定のデータを用いて追加で学習を行い、目的とするタスクに適用できるようにする。
  → これがファインチューニングの典型的な定義です。ドメイン適応やタスク適応（分類、生成、QA 等）に用いられます。

よくある誤解

• ファインチューニングは常に大量データが必要：必ずしもそうではありません。ラベル付き少量データでも、事前学習済みモデルの表現を活かして高性能を得られることが多いです（少量学習、転移学習の利点）。
• ファインチューニング＝強化学習：RLは特定のケース（RLHF など）で使われますが、一般的なファインチューニングは教師あり学習が中心です。
• 事前学習とファインチューニングは同じ工程：目的とデータ、学習設定（損失関数、ラーニングレート、エポック数など）が異なります。

補足コラム

• ファインチューニングの種類：
  • フルファインチューニング：モデル全パラメータを更新する。高い性能が出やすいが計算コストが大きい。
  • パラメータ効率的ファインチューニング（PEFT）：LoRA、Adapter、Prefix Tuning など、一部パラメータや追加モジュールのみを学習して効率的に適応する手法。少ないリソースで複数タスクに対応しやすい。
• 実運用での注意点：データの品質（ラベルの正確さ）、過学習の監視、モデルの安全性（バイアスや不適切生成）を確認することが重要です。

from transformers import AutoModelForSequenceClassification, AutoTokenizer, Trainer, TrainingArguments
import datasets

tokenizer = AutoTokenizer.from_pretrained("bert-base-uncased")
model = AutoModelForSequenceClassification.from_pretrained("bert-base-uncased", num_labels=2)

dataset = datasets.load_dataset("csv", data_files={"train": "train.csv", "validation": "val.csv"})
def preprocess(batch):
    return tokenizer(batch["text"], truncation=True, padding="max_length")
dataset = dataset.map(preprocess, batched=True)

args = TrainingArguments(output_dir="./out", num_train_epochs=3, per_device_train_batch_size=16)
trainer = Trainer(model=model, args=args, train_dataset=dataset["train"], eval_dataset=dataset["validation"])
trainer.train()

FAQ