PEFT

🤗 PEFT (Parameter-Efficient Fine-Tuning) es una biblioteca para adaptar de manera eficiente grandes modelos preentrenados a diversas aplicaciones de bajo nivel, sin realizar el ajuste fino de todos los parámetros del modelo, ya que esto resulta prohibitivamente costoso. Los métodos de PEFT solo ajustan un pequeño número de parámetros (adicionales) del modelo, lo que reduce significativamente los costos de cómputo y almacenamiento, mientras que produce un rendimiento comparable al de un modelo completamente ajustado. Esto hace que sea más accesible entrenar y almacenar grandes modelos de lenguaje (LLMs) y otros modelos grandes en hardware de consumo.

PEFT se integra con las bibliotecas Transformers, Diffusers y Accelerate para ofrecer una forma más rápida y sencilla de cargar, entrenar y utilizar modelos grandes para inferencia.

Existen numerosos métodos para "adaptar" modelos existentes, a menudo integrándose de forma extensa en el modelo. PEFT puede considerarse un marco de trabajo para métodos arbitrarios de adaptación de modelos (modificación de pesos, envoltura de capas, manipulación de KV-caches, ...) y, al mismo tiempo, sirve como implementación de referencia para muchos métodos de ajuste fino.