Hugging Face's logo

PEFT documentation

LyCORIS

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.21.0).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

LyCORIS

LyCORIS (Lora beYond Conventional methods, Other Rank adaptation Implementations for Stable diffusion) là các adapter phân rã ma trận tương tự LoRA, điều chỉnh lớp cross-attention của UNet. Các phương pháp LoHa và LoKr kế thừa từ các lớp Lycoris tại đây.

LycorisConfig

lớp peft.tuners.lycoris_utils.LycorisConfig

< >

( task_type: Optional[Union[str, TaskType]] = Nonepeft_type: Optional[Union[str, PeftType]] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = Nonebase_model_name_or_path: Optional[str] = Nonerevision: Optional[str] = Noneinference_mode: bool = Falserank_pattern: Optional[dict] = <factory>alpha_pattern: Optional[dict] = <factory> )

Cấu hình cơ bản cho các adapter kiểu LyCORIS

LycorisLayer

lớp peft.tuners.lycoris_utils.LycorisLayer

< >

( base_layer: nn.Module )

Một lớp cơ bản cho các adapter kiểu LyCORIS

merge

< >

( safe_merge: bool = Falseadapter_names: Optional[list[str]] = None )

Tham số

  • safe_merge (bool, tùy chọn) — Nếu True, thao tác gộp sẽ được thực hiện trên một bản sao của trọng số gốc và kiểm tra các giá trị NaN trước khi gộp trọng số. Điều này hữu ích nếu bạn muốn kiểm tra xem thao tác gộp có tạo ra NaN hay không. Mặc định là False.
  • adapter_names (List[str], tùy chọn) — Danh sách tên adapter cần được hợp nhất. Nếu là None, tất cả các adapter đang hoạt động sẽ được hợp nhất. Mặc định là None.

Gộp trọng số của adapter đang hoạt động vào trọng số cơ sở

unmerge

< >

( )

Phương pháp này tách tất cả các lớp adapter đã hợp nhất khỏi trọng số cơ sở.

LycorisTuner

lớp peft.tuners.lycoris_utils.LycorisTuner

< >

( modelpeft_config: Union[PeftConfig, dict[str, PeftConfig]]adapter_name: strlow_cpu_mem_usage: bool = Falsestate_dict: Optional[dict[str, torch.Tensor]] = None )

Tham số

  • model (torch.nn.Module) — Mô hình cần được thích ứng.
  • config (LoraConfig) — Cấu hình của mô hình Lora.
  • adapter_name (str) — Tên của adapter, mặc định là "default".
  • low_cpu_mem_usage (bool, optional, mặc định là False) — Tạo trọng số adapter rỗng trên thiết bị meta. Hữu ích để tăng tốc quá trình tải.

Bộ điều chỉnh cơ bản cho các bộ thích ứng kiểu LyCORIS

Update on GitHub

←LoRA MiSS→