PEFT

🤗 PEFT (Parameter-Efficient Fine-Tuning) adalah pustaka untuk menyesuaikan model pralatih besar secara efisien ke berbagai aplikasi turunan tanpa melakukan fine-tuning pada semua parameter model, karena hal tersebut sangat mahal. Metode PEFT hanya melakukan fine-tuning pada sejumlah kecil parameter (tambahan) model — yang secara signifikan menurunkan biaya komputasi dan penyimpanan — sambil menghasilkan kinerja yang setara dengan model yang telah di-fine-tune sepenuhnya. Hal ini membuat pelatihan dan penyimpanan model bahasa besar (LLM) serta model besar lainnya menjadi lebih mudah diakses pada perangkat konsumen.

PEFT terintegrasi dengan pustaka Transformers, Diffusers, dan Accelerate untuk menyediakan cara yang lebih cepat dan mudah dalam memuat, melatih, dan menggunakan model besar untuk inferensi.

Terdapat banyak metode untuk "mengadaptasi" model yang sudah ada, yang sering kali terintegrasi secara mendalam ke dalam model. PEFT dapat dipandang sebagai kerangka kerja untuk metode adaptasi model yang arbitrer (memodifikasi bobot, membungkus lapisan, memanipulasi KV-cache, ...) sekaligus berfungsi sebagai implementasi referensi untuk banyak metode fine-tuning.