Tại sao chọn EdgeOne Makers làm Model Router của bạn
Bộ định tuyến llm thông minh nhất cho các ứng dụng đa mô hình - điểm cuối proxy mô hình thống nhất, định tuyến nhà cung cấp tự động, lưu trữ khóa an toàn, với khả năng tương thích SDK đầy đủ.
Một Điểm Cuối, Tất Cả Các Mô Hình
Truy cập DeepSeek, MiniMax, Hunyuan, OpenAI, Anthropic, Google và nhiều hơn nữa thông qua một điểm cuối API thống nhất — chuyển đổi nhà cung cấp bằng cách thay đổi một tham số.
Quản lý khóa an toàn
Các khóa API nhà cung cấp được mã hóa và lưu trữ bởi nền tảng — ứng dụng của bạn chỉ mang khóa cổng, bí mật nhà cung cấp không bao giờ chạm vào mã khách hàng.
Phí nền tảng bằng 0
Dịch vụ cổng mô hình hoàn toàn miễn phí — không đánh dấu, không phí nền tảng. Bạn chỉ trả tiền cho việc sử dụng API của nhà cung cấp trên nền tảng của họ khi sử dụng mô hình Bring-Your-Own-Key.
Phát trực tiếp SSE gốc
Tất cả các giao thức và nhà cung cấp đều hỗ trợ luồng sự kiện do máy chủ gửi ra khỏi hộp — phản hồi theo thời gian thực với OpenAI SDK, Anthropic SDK hoặc Vercel AI SDK.
Cách sử dụng Bộ định tuyến Mô hình trong 3 bước
Kết nối với bộ định tuyến llm và bắt đầu định tuyến đa mô hình ngay lập tức — một điểm cuối, một khóa, chuyển đổi nhà cung cấp bằng cách thay đổi tham số mô hình.
1
Lấy khóa API của bạn
Đăng ký tại bảng điều khiển Makers và tạo khóa API cổng của bạn — một khóa cho tất cả nhà cung cấp mô hình.
2
Chỉ định SDK của bạn
Đặt URL cơ sở thành điểm cuối cổng Makers trong SDK của bạn — hỗ trợ bất kỳ khách hàng nào tương thích với OpenAI.
3
Gọi Bất kỳ Mô hình Nào
Gửi yêu cầu với tham số `model` mà bạn chọn — gateway tự động định tuyến đến nhà cung cấp đúng.
Các Tính Năng Bộ Định Tuyến Mô Hình Hoàn Chỉnh
Mọi thứ mà bộ định tuyến llm của bạn cần cho các ứng dụng đa mô hình — proxy mô hình thống nhất, định tuyến nhà cung cấp, quản lý khóa và hỗ trợ phát trực tuyến.
Tính năng | Mô tả |
|---|---|
| Điểm cuối Được hợp nhất | Điểm cuối API đơn lẻ cho hơn 8 nhà cung cấp LLM — chuyển đổi mô hình bằng cách thay đổi một tham số, không cần thay đổi mã |
| Tương thích Đa-SDK | Hoạt động với OpenAI JS/Python SDK, Anthropic SDK, Vercel AI SDK, cURL và bất kỳ khách hàng nào tương thích với OpenAI |
| Quản lý Khóa | Khóa nhà cung cấp được mã hóa và lưu trữ — các ứng dụng chỉ mang khóa API gateway |
| Mô hình tích hợp sẵn | Gọi các mô hình như `@makers/deepseek-v4-flash` mà không cần liên kết bất kỳ khóa nhà cung cấp nào — mã token miễn phí được bao gồm cho mỗi tài khoản |
| Phát trực tiếp SSE | Hỗ trợ sự kiện từ máy chủ gốc cho tất cả các nhà cung cấp — phát trực tiếp theo thời gian thực với zero cấu hình |
Bộ định tuyến mô hình trên EdgeOne Makers là gì?
Bộ định tuyến mô hình là một bộ định tuyến llm thống nhất chỉ đạo các yêu cầu API đến nhà cung cấp LLM thích hợp dựa trên tham số `model`. Nó hoạt động như một proxy mô hình giữa ứng dụng của bạn và 8+ nhà cung cấp, xử lý định tuyến, xác thực và định dạng phản hồi.
Bộ định tuyến llm xử lý việc chuyển đổi đa mô hình như thế nào?
Bộ định tuyến llm sử dụng một điểm cuối và khóa API duy nhất. Để chuyển đổi giữa các nhà cung cấp trong thiết lập đa mô hình, chỉ cần thay đổi tham số `model` trong yêu cầu của bạn — không cần thay đổi mã, không cần cấu hình lại kết nối.
Có miễn phí cho bộ định tuyến mô hình không?
Có. Bộ định tuyến mô hình bao gồm 500K token miễn phí cho các mô hình tích hợp sẵn. Không cần thẻ tín dụng. Bạn cũng có thể mang khóa nhà cung cấp riêng của mình để định tuyến qua proxy mô hình đến bất kỳ nhà cung cấp nào được hỗ trợ.
Liệu proxy mô hình có hỗ trợ tất cả các nhà cung cấp LLM lớn không?
Có. Bộ proxy mô hình định tuyến đến DeepSeek, MiniMax, Hunyuan, Zhipu, Moonshot, OpenAI, Anthropic, và Google AI Studio. Các ứng dụng đa mô hình có thể sử dụng các nhà cung cấp khác nhau cho các nhiệm vụ khác nhau thông qua cùng một bộ định tuyến llm.
Tôi có thể sử dụng bộ định tuyến mô hình như một sự thay thế cho OpenAI không?
Có. Bộ định tuyến llm hoàn toàn tương thích với giao thức OpenAI. Chỉ cần chỉ định URL cơ sở SDK OpenAI của bạn tới điểm cuối bộ định tuyến mô hình, và chuyển hướng tới bất kỳ nhà cung cấp nào được hỗ trợ — biến nó thành một proxy đa mô hình liền mạch cho các ứng dụng hiện có.