Установка

Прежде чем начать, вам необходимо настроить окружение, установить соответствующие пакеты и настроить 🤗 PEFT. 🤗 PEFT протестирован на Python 3.11+.

🤗 PEFT доступен на PyPI, а также на GitHub:

PyPI

Для установки 🤗 PEFT из PyPI:

pip install peft

CUDA Windows Arm64

Для установки PEFT с PyTorch CUDA на Windows Arm64, например, для ноутбуков NVIDIA RTX Spark, установите PyTorch из индекса PyPI от NVIDIA. Эти устройства требуют сборок PyTorch для Windows Arm64 от NVIDIA, которые недоступны в стандартном индексе PyPI или в стандартном индексе колёс PyTorch.

Выполните команду ниже, чтобы проверить, обнаруживает ли ваша система GPU от NVIDIA.

nvidia-smi

Установите PyTorch из индекса PyPI NVIDIA, затем установите PEFT.

pip install torch --index-url https://pypi.nvidia.com/nvtorch_oot_nightly
pip install peft

Источник

Новые функции, которые ещё не были выпущены, добавляются ежедневно, что также означает, что в них могут присутствовать ошибки. Чтобы попробовать их, установите пакет из репозитория GitHub:

pip install git+https://github.com/huggingface/peft

Если вы хотите экспериментировать с исходным кодом и видеть результаты в реальном времени при его выполнении, можно установить редактируемую версию из локально склонированного репозитория:

git clone https://github.com/huggingface/peft
cd peft
pip install -e ".[test]"

Если вы планируете внести вклад в PEFT, следуйте руководству по внесению вклада, в котором также описаны создание форка, добавление удалённого репозитория upstream и создание рабочей ветки.