Hub documentation
Pricing and Billing
Pricing and Billing
Hugging Face Jobs๋ฅผ ์ฌ์ฉํ๋ฉด Hugging Face ์ธํ๋ผ์์ ์ปดํจํธ ์์ ์ ์คํํ ์ ์์ผ๋ฉฐ, ์ธํ๋ผ๋ฅผ ์ง์ ๊ด๋ฆฌํ ํ์๊ฐ ์์ต๋๋ค. ๋ค์ํ CPU ๋ฐ GPU ์ต์ ์ค ํ๋๋ฅผ ์ ํํ์ฌ ํ๋์จ์ด ์ ํ์ ์ง์ ํ๊ณ , ๋ช ๋ น์ด์ Docker ์ด๋ฏธ์ง๋ฅผ ์ ์ํ๊ธฐ๋ง ํ๋ฉด ๋ฉ๋๋ค.
ํฌ๋ ๋ง ์์ก์ด ์์์ธ ๋ชจ๋ ์ฌ์ฉ์ ๋๋ ์กฐ์ง์์ Jobs๋ฅผ ์ฌ์ฉํ ์ ์์ต๋๋ค. PRO, Team ๋๋ Enterprise ๊ตฌ๋ ์ ํฌํจ๋ ์๊ฐ ์ปดํจํธ ํฌ๋ ๋ง์ ํด๋น ์์ก์ ํฌํจ๋๋ฉฐ, Jobs์ ์ฌ์ฉํ ์ ์์ต๋๋ค.
Jobs์ ๊ณผ๊ธ์ ํ๋์จ์ด ์ฌ์ฉ๋์ ๊ธฐ๋ฐํ์ฌ ๋ถ ๋จ์๋ก ๊ณ์ฐ๋ฉ๋๋ค: ์์ฒญํ ํ๋์จ์ด์์ Jobs๊ฐ ์คํ๋๋ ๋ชจ๋ ๋ถ์ ๋ํด ์๊ธ์ด ๋ถ๊ณผ๋ฉ๋๋ค.
Job์ ์๋ช ์ฃผ๊ธฐ ๋์, Job์ด Starting ๋๋ Running ์ํ์ผ ๋๋ง ๊ณผ๊ธ๋ฉ๋๋ค. ์ด๋ ๋น๋ ๋จ๊ณ์์๋ ๋น์ฉ์ด ๋ฐ์ํ์ง ์์์ ์๋ฏธํฉ๋๋ค.
์คํ ์ค์ธ Job์ด ์คํจํ๊ธฐ ์์ํ๋ฉด ์๋์ผ๋ก ์ผ์ ์ค์ง๋๊ณ ๊ณผ๊ธ์ด ์ค๋จ๋ฉ๋๋ค.
๊ฐ๊ฒฉ
Jobs๋ ์ฌ์ฉ๋ ํ๋์จ์ด์ ๋ฐ๋ผ ๋ถ๋น ๊ณผ๊ธ๋ฉ๋๋ค. ์๋ฅผ ๋ค์ด, a10g-small์์ ๊ณผ๊ธ ๋์ 10๋ถ์ ํ๋์จ์ด ๋น์ฉ์ผ๋ก ์ฝ $0.17์ด ๋ถ๊ณผ๋ฉ๋๋ค.
์ง์ถ์ ๊ด๋ฆฌํ๋ ค๋ฉด ์๊ฐ ์ ํ์ ์ค์ ํ๊ฑฐ๋, Job์ ์ทจ์ํ๊ฑฐ๋, ํ์ฌ ์ฌ์ฉ๋์ ํ์ธํ์ธ์.
CPU
| ํ๋์จ์ด | CPU | ๋ฉ๋ชจ๋ฆฌ | ์ผ์ ์ ์ฅ์ | ์๊ฐ๋น ๊ฐ๊ฒฉ |
|---|---|---|---|---|
| CPU ๊ธฐ๋ณธ | 2 vCPU | 16 GB | 50 GB | $0.01 |
| CPU ์ ๊ทธ๋ ์ด๋ | 8 vCPU | 32 GB | 50 GB | $0.03 |
| CPU XL | 16 vCPU | 124 GB | 1000 GB | $1.00 |
| CPU ์ฑ๋ฅ | 32 vCPU | 256 GB | 1024 GB | $1.90 |
GPU
| ํ๋์จ์ด | CPU | ๋ฉ๋ชจ๋ฆฌ | GPU ๋ฉ๋ชจ๋ฆฌ | ์ผ์ ์ ์ฅ์ | ์๊ฐ๋น ๊ฐ๊ฒฉ |
|---|---|---|---|---|---|
| Nvidia T4 - ์ํ | 4 vCPU | 15 GB | 16 GB | 50 GB | $0.40 |
| Nvidia T4 - ์ค๊ฐ | 8 vCPU | 30 GB | 16 GB | 100 GB | $0.60 |
| Nvidia L4 1๊ฐ | 8 vCPU | 30 GB | 24 GB | 400 GB | $0.80 |
| Nvidia L4 4๊ฐ | 48 vCPU | 186 GB | 96 GB | 3200 GB | $3.80 |
| Nvidia L40S 1๊ฐ | 8 vCPU | 62 GB | 48 GB | 380 GB | $1.80 |
| Nvidia L40S 4๊ฐ | 48 vCPU | 382 GB | 192 GB | 3200 GB | $8.30 |
| 8x Nvidia L40S | 192 vCPU | 1534 GB | 384 GB | 6500 GB | $23.50 |
| Nvidia A10G - ์ํ | 4 vCPU | 15 GB | 24 GB | 110 GB | $1.00 |
| Nvidia A10G - ๋ํ | 12 vCPU | 46 GB | 24 GB | 200 GB | $1.50 |
| 2x Nvidia A10G - ๋ํ | 24 vCPU | 92 GB | 48 GB | 1000 GB | $3.00 |
| 4x Nvidia A10G - ๋ํ | 48 vCPU | 184 GB | 96 GB | 2000 GB | $5.00 |
| Nvidia A100 - ๋ํ | 12 vCPU | 142 GB | 80 GB | 1000 GB | $2.50 |
| 4x Nvidia A100 - ๋ํ | 48 vCPU | 568 GB | 320 GB | 4000 GB | $10.00 |
| 8x Nvidia A100 - ๋ํ | 96 vCPU | 1136 GB | 640 GB | 8000 GB | $20.00 |
| Nvidia H200 | 23 vCPU | 256 GB | 141 GB | 3000 GB | $5.00 |
| Nvidia H200 2๊ฐ | 46 vCPU | 512 GB | 282 GB | 6000 GB | $10.00 |
| Nvidia H200 4๊ฐ | 92 vCPU | 1024 GB | 564 GB | 12000 GB | $20.00 |
| 8x Nvidia H200 | 184 vCPU | 2048 GB | 1128 GB | 24000 GB | $40.00 |
| Nvidia RTX PRO 6000 | 23 vCPU | 256 GB | 96 GB | 475 GB | $2.75 |
| Nvidia RTX PRO 6000 2๊ฐ | 46 vCPU | 512 GB | 192 GB | 950 GB | $5.50 |
| Nvidia RTX PRO 6000 4๊ฐ | 92 vCPU | 1024 GB | 384 GB | 1900 GB | $11.00 |
| 8x Nvidia RTX PRO 6000 | 184 vCPU | 2048 GB | 768 GB | 3800 GB | $22.00 |
GET /api/jobs/hardware API๋ฅผ ํตํด ๋๋ CLI๋ฅผ ํตํด ์ฌ์ฉ ๊ฐ๋ฅํ ํ๋์จ์ด์ ๊ฐ๊ฒฉ์ ํ๋ก๊ทธ๋๋งคํฑ์ผ๋ก ๊ฐ์ ธ์ฌ ์๋ ์์ต๋๋ค:
>>> hf jobs hardware๋ ธ์ถ๋ ํฌํธ
Job์ ์คํ ์ค ์ธ๋ถ์์ ์ ๊ทผํ ์ ์๋๋ก ํ๋ ์ด์์ ํฌํธ๋ฅผ ๋ ธ์ถํ ์ ์์ต๋๋ค. ํ๋ ์ด์์ ํฌํธ๋ฅผ ๋ ธ์ถํ๋ ๊ฒฝ์ฐ, ํ๋์จ์ด ๊ฐ๊ฒฉ ์ธ์ Job๋น ์ ์ก ์๊ธ์ด ๋ถ๊ณผ๋ฉ๋๋ค:
| ์ ํ | ์๊ฐ๋น ๊ฐ๊ฒฉ |
|---|---|
| ๋ ธ์ถ๋ ํฌํธ | $0.01 |
ํ๋์จ์ด์ ๋ง์ฐฌ๊ฐ์ง๋ก, Job์ด Starting ๋๋ Running ์ํ์ผ ๋๋ง ๋ถ๋น์ผ๋ก ๊ณผ๊ธ๋ฉ๋๋ค.
์ฒญ๊ตฌ ๊ด๋ฆฌ
์กฐ์ง์ ์ฒญ๊ตฌ
๊ธฐ๋ณธ์ ์ผ๋ก ์ฌ์ฉ์์ ๋ค์์คํ์ด์ค์ ์ฒญ๊ตฌ๊ฐ ์ด๋ฃจ์ด์ง์ง๋ง, ์ฌ๋ฐ๋ฅธ namespace๋ฅผ ์ง์ ํ์ฌ ์กฐ์ง์ ์ฒญ๊ตฌํ ์๋ ์์ต๋๋ค:
hf jobs run --namespace my-org-name ...์ด ๊ฒฝ์ฐ Job์ ์กฐ์ง ๊ณ์ ์๋์์ ์คํ๋๋ฉฐ, ์กฐ์ง Jobs ํ์ด์ง(organization page > settings > Jobs)์์ ํ์ธํ ์ ์์ต๋๋ค.
Enterprise ํ๋ ์ด์์์ ์กฐ์ง ๊ด๋ฆฌ์๋ Granular feature access ์ค์ ์ ํตํด ์กฐ์ง์ ์ฒญ๊ตฌ๋๋ Jobs๋ฅผ ์คํํ๊ณ ๋ณผ ์ ์๋ ์ฌ์ฉ์๋ฅผ ์ ํํ ์ ์์ต๋๋ค. ์ ํ ๋์์ ์กฐ์ง ๊ด๋ฆฌ์๋ง, ๋๋ ์ ํ๋ Resource Groups์ ๋ฉค๋ฒ๋ง์ ๋๋ค.
๋ฆฌ์์ค ๊ทธ๋ฃน์ ์ฒญ๊ตฌ
์ด ๊ธฐ๋ฅ์ Enterprise ํ๋ ์ด์์์ ์ ๊ณต๋ฉ๋๋ค.
์กฐ์ง์ Resource Groups๊ฐ ์ค์ ๋์ด ์์ผ๋ฉด ์์ ๋น์ฉ์ ํน์ ๋ฆฌ์์ค ๊ทธ๋ฃน์ ํ ๋นํ ์ ์์ต๋๋ค. ์ด๋ฅผ ์ํด:
- ๋ฆฌ์์ค ๊ทธ๋ฃน์ ๋ฉค๋ฒ์ฌ์ผ ํฉ๋๋ค.
- ๋ฆฌ์์ค ๊ทธ๋ฃน์ ์์ ํ ์กฐ์ง์
namespace๋ก, ๋ฆฌ์์ค ๊ทธ๋ฃน์ ID๋ฅผresource_group_id๋ก ์ ๋ฌํ์ธ์. ๋ ๊ฐ ๋ชจ๋ ํ์์ ๋๋ค. ๋ฆฌ์์ค ๊ทธ๋ฃน์ ํด๋น ์กฐ์ง์ ์ฒญ๊ตฌ๋๋ Jobs์ ๋ํด์๋ง ๊ณ ๋ ค๋ฉ๋๋ค.
์กฐ์ง์ Resource Groups ์ค์ ํ์ด์ง์์ ๋ฆฌ์์ค ๊ทธ๋ฃน์ ID๋ฅผ ์ฐพ์ ์ ์์ต๋๋ค.
hf jobs run --namespace my-org-name --resource-group-id <resource-group-id> ...Python์์:
>>> from huggingface_hub import run_job
>>> run_job(
... image="python:3.12",
... command=["python", "-c", "print('Hello!')"],
... namespace="my-org-name",
... resource_group_id="<resource-group-id>",
... )Organization ๋ฐ Resource Group ๊ด๋ฆฌ์๋ ๊ทธ๋ฃน์ ์ฒญ๊ตฌ๋๋ Jobs์ ๋ํด ์๋ณ ์ง์ถ ํ๋๋ฅผ ์ค์ ํ ์ ์์ต๋๋ค.
ํ์ฌ ์ปดํจํธ ์ฌ์ฉ๋ ๋ณด๊ธฐ
Billing ํ์ด์ง์ โCompute Usageโ ์น์ ์์ Jobs์ ํ์ฌ ์ฒญ๊ตฌ ์ ๋ณด๋ฅผ ํ์ธํ ์ ์์ต๋๋ค:

์ฒญ์ฐ์ ๋ํ ์ถ๊ฐ ์ ๋ณด๋ ์ ์ฉ Hub ๋ฌธ์์์ ํ์ธํ ์ ์์ต๋๋ค.
๊ถ์ฅ ์ฌํญ
ํ์์์ ํ๋ ์ค์
Job์ ์์ฑํ ๋ timeout์ ์ค์ ํ์ฌ ํน์ ์๊ฐ ์ด์ ์คํ๋์ง ์๋๋ก ํ์ธ์.
timeout ์๊ฐ๊น์ง ๋๋ฌํ Job ์คํ์ ์๋์ผ๋ก ์ค์ง๋๋ฉฐ, ๊ณผ๊ธ๋ ํจ๊ป ์ค๋จ๋ฉ๋๋ค.
CLI๋ก timeout์ ์ค์ ํ๋ ๋ฐฉ๋ฒ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค:
hf jobs run --timeout 3h ...๊ธฐ๋ณธ ํ์์์์ 30๋ถ์ผ๋ก ์ค์ ๋์ด ์์ต๋๋ค. ๋ฐ๋ผ์ Job์ด ์คํ๋๋ ๋ฐ ๋ ๋ง์ ์๊ฐ์ด ํ์ํ๋ฉด ๋ ๊ธด ํ์์์์ ์ง์ ํด์ผ ํฉ๋๋ค.
๊ด๋ จ ์๋ Jobs ์ทจ์
์คํ ์ค์ธ Job์ด ๋ ์ด์ ๊ด๋ จ์ด ์๋ค๋ฉด, Job ํ์ด์ง ๋๋ CLI๋ฅผ ํตํด ์ด๋ฅผ ์กฐ๊ธฐ์ ์ทจ์ํ์ฌ ๊ณผ๊ธ์ ์ค๋จํ ์ ์์ต๋๋ค:
hf jobs cancel <job-id>
