#Pra-pelatihan

Dalam pembelajaran mendalam, ini mengacu pada pelatihan model dengan sejumlah besar data serbaguna (misalnya, seluruh korpus teks, kumpulan data gambar besar) sebelum mengkhususkannya untuk tugas tertentu. Ini memungkinkan model untuk memperoleh pengetahuan dan fitur umum, meningkatkan efisiensi "penyesuaian halus" selanjutnya. Ini terkait dengan tahap perolehan pengetahuan yang ada dalam "pembelajaran metafisik."