Huggingface.js documentation
Giao diện: BaseArgs
Giao diện: BaseArgs
Thuộc tính
accessToken
• Optional accessToken: string
Token truy cập cần sử dụng. Nếu không có, bạn sẽ nhanh chóng bị giới hạn tần suất truy cập.
Có thể được tạo miễn phí tại hf.co/settings/token
Bạn cũng có thể truyền khóa của nhà cung cấp Inference bên ngoài nếu bạn có ý định gọi một nhà cung cấp tương thích như Together, Replicate, Cohere…
Được định nghĩa trong
endpointUrl
• endpointUrl Optional: string
URL của endpoint cần sử dụng.
Nếu không được chỉ định, sẽ gọi endpoint Inference Providers mặc định của router.huggingface.co.
Được định nghĩa trong
model
• Optional mô hình: string
Mô hình HF cần sử dụng.
Nếu không được chỉ định, sẽ gọi huggingface.co/api/tasks để lấy mô hình mặc định cho tác vụ.
/!\ Hành vi cũ cho phép đây là một URL, nhưng điều này đã bị ngừng hỗ trợ và sẽ bị loại bỏ trong tương lai.
Hãy sử dụng tham số endpointUrl thay thế.
Được định nghĩa trong
provider
• Optional provider: "baseten" | "cerebras" | "cohere" | "deepinfra" | "fal-ai" | "featherless-ai" | "fireworks-ai" | "groq" | "hf-inference" | "humain-ai" | "novita" | "nscale" | "openai" | "openrouter" | "ovhcloud" | "publicai" | "replicate" | "scaleway" | "together" | "wavespeed" | "zai-org" | "auto"
Đặt nhà cung cấp suy luận để chạy mô hình này.
Mặc định là “auto”, tức là nhà cung cấp đầu tiên có sẵn cho mô hình, được sắp xếp theo thứ tự của người dùng trong https://hf.co/settings/inference-providers.