#事前学習

主に深層学習において、特定のタスクに特化する前に、大量の汎用的なデータ（例：テキストコーパス全体、大規模な画像データセット）を用いてモデルを訓練すること。これにより、モデルは汎用的な知識や特徴を習得し、その後の「ファインチューニング」の効率を高める。これは「形而上の学習」における既存知識の獲得段階と関連付けられる。

記事

時系列順

新しい順表示

記事一覧

1 記事

学習の学習：生まれながらの知性

2025年8月13日

この記事では、人工知能の学習メカニズムの本質を探ることで、知性の起源に迫る試みがなされています。著者は、学習を大きく「形而下の学習」（反復的な学習）と「形而上の学習」（少ない試行回数で学習できる、または既存知識の応用による学習）に分類し、その界面に「自然言語」や身体的知覚に基づくフレームワークが存在すると主張します。具体的には、大規模言語モデル（LLM）を例に、事前学習やファインチューニングに...