Tài liệu API ollama llm không kiểm duyệt
Đưa một khóa API ollama-compatible LLM không kiểm duyệt vào client SDK OpenAI hiện có của bạn và bắt đầu tạo văn bản ngay lập tức. Tài liệu này bao gồm các endpoint chính xác, các bước xác thực và hành vi phát trực tiếp mà bạn cần để tích hợp dịch vụ của chúng tôi.
Điều kiện tiên quyết: Base URL và Xác thực
Sử dụng khóa API được cung cấp và URL cơ sở để xác thực mọi yêu cầu. Điểm cuối của chúng tôi là HTTPS://api.uncensoredllmollama.com/v1. Bạn có thể tạo khóa qua bảng điều khiển bằng Google hoặc email. Định danh mô hình là "uncensored". Bao gồm khóa trong Authorization header dưới dạng mã Bearer. Cấu hình này hoạt động với bất kỳ khách hàng tương thích OpenAI nào.
curl https://api.uncensoredllmollama.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top ten linux command line utilities"}]
}'
Thực hiện yêu cầu đầu tiên: POST /v1/chat/completions
Gửi một POST yêu cầu đến /v1/chat/completions với mảng thông điệp của bạn. Mô hình không từ chối các chủ đề người lớn hợp pháp, hư cấu hoặc gây tranh cãi. Đặt model field thành "uncensored". Bao gồm lời nhắc hệ thống của bạn nếu bạn cần hành vi cụ thể. API trả về các phản hồi JSON tiêu chuẩn của OpenAI.
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredllmollama.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Xử lý phản hồi phát trực tiếp (SSE)
Bật phát trực tiếp bằng cách đặt stream: true. API trả về Sự kiện gửi qua máy chủ (SSE) cho mỗi token được tạo. Theo dõi phần cuối cùng để xem thống kê sử dụng token tổng thể. Cách tiếp cận này giảm độ trễ cảm nhận cho các đầu ra dài. Phân tích luồng SSE cẩn thận để tái tạo lại toàn bộ văn bản.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Function Calling và chế độ JSON
Hỗ trợ đầu ra có cấu trúc thông qua response_format: {"type": "json_object"}. Bạn cũng có thể xác định các công cụ cho gọi hàm. Đặt tool_choice để kiểm soát việc thực thi. Sử dụng temperature và top_p để điều chỉnh độ ngẫu nhiên. Chế độ JSON đảm bảo tuân thủ nghiêm ngặt lược đồ của bạn. Tính năng này hoạt động đáng tin cậy cho các nhiệm vụ trích xuất dữ liệu.
Giới hạn tốc độ và Sử dụng token
Mỗi khóa API hỗ trợ 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời. Cửa sổ ngữ cảnh là 100.000 token tổng cộng. Lỗi không tiêu thụ tín dụng. Các yêu cầu vượt quá giới hạn sẽ trả về mã trạng thái 429. Đảm bảo ứng dụng của bạn xử lý việc thử lại một cách mượt mà. Theo dõi mức sử dụng qua bảng điều khiển để tránh hết tín dụng trả trước.
Giá và thanh toán tiền điện tử
Trả $0,15 cho mỗi 1M token đầu vào và $0,50 cho mỗi 1M token đầu ra. Nạp qua USDT (TRC20) hoặc USDC (Base). Nạp tối thiểu là $20. Bonus tín dụng áp dụng cho các khoản nạp lớn hơn. Tín dụng không bao giờ hết hạn. Hoàn tiền không phải là tiêu chuẩn nhưng lỗi miễn phí. Sử dụng trang Hỗ trợ cho các khoản nạp trùng lặp.
Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.uncensoredllmollama.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Câu hỏi thường gặp
API ollama của LLM không kiểm duyệt có tương thích với các SDK OpenAI tiêu chuẩn không?
Có, API sử dụng các endpoint tương thích chuẩn với OpenAI. Bạn chỉ cần thay đổi base URL và API key trong cấu hình client hiện có. API tương thích với các SDK chính thức của OpenAI và bất kỳ thư viện tương thích nào.
Điều gì xảy ra nếu hết hạn mức tín dụng?
Yêu cầu sẽ trả về lỗi 402 cho đến khi bạn thêm nhiều tiền điện tử hơn. Tín dụng hiện có của bạn không hết hạn. Bạn có thể nạp tiền bất cứ lúc nào bằng USDT hoặc USDC. Lỗi và từ chối không tiêu thụ số dư của bạn.
Mô hình có giới hạn cửa sổ ngữ cảnh không?
Tổng cửa sổ ngữ cảnh là 100,000 token bao gồm cả prompt và phần hoàn thành. Đầu ra tối đa mỗi yêu cầu là 16,000 token. Đầu ra mặc định là 2,048 token nếu không được chỉ định. Phát trực tiếp giúp quản lý các phản hồi lớn một cách hiệu quả.
Lấy khóa API của bạn ngay bây giờ
Đăng ký, sao chép khóa, cập nhật URL base. Cấu hình tối thiểu cần thiết.