Tài liệu API cho nhà phát triển
Lấy LLM không kiểm duyệt của bạn hoạt động trong vài phút với API tương thích openai này. Chúng tôi xử lý cơ sở hạ tầng máy chủ để bạn có thể tập trung vào mã của mình.
- trên 1M token đầu vào
- $0.15
- Token đầu ra / 1M
- $0.50
- ngữ cảnh token
- 100,000
- số dư dùng thử
- $0.50
- yêu cầu mỗi phút
- 300
Base URL và xác thực
URL cơ sở là HTTPS://api.ollamaapiurl.com/v1. Bạn xác thực bằng cách truyền khóa API độc nhất của mình trong header Authorization. Khóa này đóng vai trò là thông tin xác thực của bạn cho tất cả các yêu cầu. Lấy nó từ bảng điều khiển của bạn ngay sau khi đăng ký.
- Giữ khóa của bạn an toàn. Nó cấp quyền truy cập đầy đủ vào khoản tín dụng trả trước của bạn.
- Tạo khóa mới bất cứ lúc nào từ trang cài đặt.
Hệ thống khóa API của chúng tôi rất đơn giản. Một khóa hoạt động cho mỗi tài khoản đảm bảo việc theo dõi rõ ràng. Nếu bạn mất quyền truy cập, hãy tạo lại nó ngay lập tức. Không có xác minh số điện thoại chặn quyền truy cập của bạn.
Yêu cầu đầu tiên
Gửi lời nhắc đầu tiên bằng HTTP tiêu chuẩn. Điểm cuối chấp nhận đầu vào văn bản và trả về đầu ra văn bản. Phương pháp này hoạt động với bất kỳ thư viện khách hàng HTTP nào bạn thích.
curl https://api.ollamaapiurl.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List all available models in the local library"}]
}'Phản hồi bao gồm thông tin sử dụng token. Bạn chỉ trả tiền cho các token đã xử lý. Lỗi không tiêu tốn số dư trả trước của bạn. Sự minh bạch này cho phép bạn kiểm soát chi tiêu chính xác.
Tích hợp Python SDK
Sử dụng thư viện Python chính thức của OpenAI. Trỏ nó đến base URL của chúng tôi. Đặt model id thành uncensored. Điều này đảm bảo bạn nhận được hành vi không kiểm duyệt mà không gặp rắc rối khi thiết lập cục bộ.
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaapiurl.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Thư viện tự động xử lý việc thử lại và định dạng. Bạn nhận được JSON có cấu trúc hoặc văn bản thô. Luồng dữ liệu cũng được hỗ trợ. Cách tiếp cận này giữ cho mã của bạn sạch sẽ và dễ bảo trì.
Thiết lập SDK Node
Cài đặt gói openai. Cấu hình URL cơ sở để trỏ đến dịch vụ của chúng tôi. Đặt khóa API từ môi trường của bạn. Thiết lập này mô phỏng cấu hình Python một cách chặt chẽ.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.ollamaapiurl.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Các nhà phát triển Node nhận được hành vi nhất quán. Mô hình phản hồi các câu lệnh ngay lập tức. Bạn có thể tích hợp điều này vào bất kỳ máy chủ web hoặc worker nền nào. Không cần logic định tuyến phức tạp.
Các phản hồi streaming
Bật chế độ streaming bằng cách đặt stream thành true. API trả về các chunk khi chúng được tạo. Điều này cải thiện độ trễ cảm nhận cho người dùng. Bạn có thể hiển thị các token khi chúng xuất hiện.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Chunk cuối cùng chứa tổng số token. Sử dụng điều này để xác minh hóa đơn. Streaming hoạt động với tất cả các tham số. Nó cũng hỗ trợ gọi hàm. Người dùng của bạn thấy tiến trình theo thời gian thực.
Giới hạn, lỗi và ngữ cảnh
Cửa sổ ngữ cảnh của bạn trải rộng 100.000 token tổng cộng. Điều này bao gồm cả lệnh nhắc và kết quả hoàn thành. Bạn có thể xuất lên đến 16.000 token cho mỗi yêu cầu. Giới hạn tốc độ cho phép 300 yêu cầu mỗi phút. Yêu cầu đồng thời giới hạn ở tám cho mỗi khóa.
Các lỗi phổ biến bao gồm 401 cho khóa không hợp lệ. Lỗi 402 có nghĩa là tín dụng trả trước của bạn đã cạn kiệt. Phản hồi 429 cho biết bạn đã chạm giới hạn tỷ lệ. Hãy kiểm tra bảng điều khiển của bạn để nạp thêm bằng tiền điện tử. Tín dụng không bao giờ hết hạn. Những sai lầm như tính phí kép được sửa chữa qua hỗ trợ.
Câu hỏi thường gặp
URL gốc cho URL API ollama là gì?
URL cơ sở là HTTPS://api.ollamaapiurl.com/v1. Nó hoạt động với bất kỳ máy khách tương thích openai nào. Chỉ cần cập nhật tham số base_url trong cấu hình của bạn.
Tôi trả tiền cho API như thế nào?
Chúng tôi chỉ chấp nhận thanh toán bằng tiền điện tử. Nạp bằng USDT trên TRC20 hoặc USDC trên Base. Số tiền dao động từ $20 đến $500. Bạn nhận được số dư thưởng cho các khoản nạp lớn hơn.
Đây có giống như ollama cục bộ không?
Không. Đây là một dịch vụ được lưu trữ. Bạn không quản lý máy chủ hoặc GPU. Mô hình chạy trên cơ sở hạ tầng của chúng tôi. Bạn nhận được hành vi không kiểm duyệt tương tự mà không cần thiết lập cục bộ.
Lấy khóa API của bạn trong một bước
Đăng ký, sao chép khóa, cập nhật URL cơ sở của bạn. Đơn giản như vậy.