#Tiền huấn luyện

Trong học sâu, điều này đề cập đến việc huấn luyện một mô hình với một lượng lớn dữ liệu đa năng (ví dụ: toàn bộ kho ngữ liệu văn bản, bộ dữ liệu hình ảnh lớn) trước khi chuyên môn hóa nó cho một tác vụ cụ thể. Điều này cho phép mô hình thu nhận kiến thức và tính năng chung, nâng cao hiệu quả của "tinh chỉnh" sau đó. Điều này được liên kết với giai đoạn thu nhận kiến thức hiện có trong "học siêu hình."