Hub documentation
ChatUI trên Spaces
ChatUI trên Spaces
HuggingChat là một giao diện mã nguồn mở cho phép mọi người thử nghiệm các mô hình ngôn ngữ lớn mã nguồn mở như Falcon, StarCoder và BLOOM. Nhờ có mẫu Docker chính thức mang tên ChatUI, bạn có thể triển khai HuggingChat của riêng mình dựa trên mô hình mong muốn chỉ với vài cú nhấp chuột bằng cơ sở hạ tầng của Hugging Face.
Triển khai Chat UI của riêng bạn
Để bắt đầu, bạn chỉ cần truy cập đây. Ở phía backend của ứng dụng này, text-generation-inference được sử dụng để suy luận mô hình được tối ưu hơn. Vì các mô hình này không thể chạy trên CPU, bạn có thể chọn GPU tùy theo mô hình mà bạn chọn.
Bạn cần cung cấp một endpoint MongoDB để lưu các cuộc trò chuyện của mình. Nếu bạn để trống phần này, nhật ký sẽ được lưu trữ vào một cơ sở dữ liệu bên trong Space. Lưu ý rằng Hugging Face không có quyền truy cập vào các cuộc trò chuyện của bạn. Bạn có thể cấu hình tên và chủ đề của Space bằng cách cung cấp các tham số tên ứng dụng và màu sắc ứng dụng. Bên dưới, bạn có thể chọn ID Hugging Face Hub của mô hình mà bạn muốn triển khai. Bạn cũng có thể thay đổi các siêu tham số sinh thành trong từ điển bên dưới ở định dạng JSON.
Lưu ý: Nếu bạn muốn triển khai một model có quyền truy cập bị hạn chế hoặc một model trong kho lưu trữ riêng, bạn chỉ cần cung cấp HF_TOKEN trong secrets của repository. Bạn cần đặt giá trị của nó thành access token mà bạn có thể lấy từ đây.
Khi quá trình tạo hoàn tất, bạn sẽ thấy Building trên Space của mình. Sau khi xây dựng xong, bạn có thể thử HuggingChat của riêng mình!
Bắt đầu trò chuyện!
