#Pre-addestramento

Nel deep learning, si riferisce all'addestramento di un modello con una grande quantità di dati generici (ad esempio, interi corpus di testo, grandi dataset di immagini) prima di specializzarlo per un compito specifico. Ciò consente al modello di acquisire conoscenze e caratteristiche generali, migliorando l'efficienza del successivo "fine-tuning". Questo è associato alla fase di acquisizione di conoscenze esistenti nell'"apprendimento metafisico".