Dokumentasi API llm Uncensored Ollama
Masukkan kunci API LLM serasi ollama ke dalam klien SDK OpenAI sedia ada anda dan mula menjana teks serta-merta. Dokumen ini merangkumi endpoint tepat, langkah pengesahan, dan tingkah laku aliran yang anda perlukan untuk mengintegrasikan perkhidmatan kami.
Prasyarat: URL Asas dan Pengesahan
Gunakan kunci API yang disediakan dan URL asas untuk mengesahkan semua permintaan. Endpoint kami ialah HTTPS://api.uncensoredllmollama.com/v1. Anda boleh menjana kunci melalui papan pemuka menggunakan Google atau e-mel. Pengenal pasti model ialah "uncensored". Sertakan kunci dalam Authorization pencap sebagai token Bearer. Tetapan ini berfungsi dengan mana-mana klien serasi OpenAI.
curl https://api.uncensoredllmollama.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top ten linux command line utilities"}]
}'
Membuat permintaan pertama anda: POST /v1/chat/completions
Hantar satu POST permintaan ke /v1/chat/completions dengan array mesej anda. Model tidak menolak topik dewasa yang sah, fiksyen, atau kontroversi. Tetapkan model field to "uncensored". Include your system prompt if you need specific behavior. The API returns standard OpenAI JSON responses.
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredllmollama.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Mengendalikan Respons Aliran (SSE)
Aktifkan aliran dengan menetapkan stream: true. API mengembalikan Peristiwa Dihantar Pelayan (SSE) untuk setiap token yang dijana. Pantas bahagian akhir untuk statistik penggunaan token jumlah. Pendekatan ini mengurangkan latensi yang dirasakan untuk output panjang. Huraikan aliran SSE dengan teliti untuk membina semula teks penuh.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Panggilan Fungsi dan Mod JSON
Menyokong output terstruktur melalui response_format: {"type": "json_object"}. Anda juga boleh menentukan alat untuk pemanggilan fungsi. Tetapkan tool_choice untuk mengawal pelaksanaan. Gunakan temperature dan top_p untuk menyesuaikan keacakan. Mod JSON memastikan pematuhan ketat dengan skema anda. Ciri ini berfungsi dengan boleh dipercayai untuk tugas pengekstrakan data.
Had had laju dan penggunaan token
Setiap kunci menyokong 300 permintaan setiap minit dan 8 permintaan serentak. Tetingkap konteks ialah 100,000 token secara keseluruhan. Ralat tidak menggunakan kredit. Permintaan yang melebihi had akan mengembalikan kod status 429. Pastikan klien anda mengendalikan percubaan semula dengan baik. Pantau penggunaan melalui papan pemuka untuk mengelakkan kehabisan kredit pra-dibayar.
Harga dan Pembayaran Kripto
Bayar $0.15 bagi setiap 1M token input dan $0.50 bagi setiap 1M token output. Tambah baki melalui USDT (TRC20) atau USDC (Base). Jumlah minimum tambah baki ialah $20. Kredit bonus terpakai untuk jumlah yang lebih besar. Kredit tidak pernah luput. Pemulangan wang bukan piawai tetapi kesilapan adalah percuma. Gunakan halaman Sokongan untuk caj berganda.
Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.uncensoredllmollama.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Soalan lazim
Adakah API ollama LLM tanpa sensor serasi dengan SDK OpenAI piawai?
Ya, ia menggunakan endpoint standard yang serasi dengan OpenAI. Anda hanya perlu mengubah URL asas dan kunci API dalam konfigurasi klien sedia ada. Ia berfungsi dengan SDK rasmi OpenAI dan mana-mana perpustakaan yang serasi.
Apa yang berlaku jika saya kehabisan kredit?
Permintaan akan mengembalikan ralat 402 sehingga anda menambah lebih banyak kripto. Kredit sedia ada anda tidak luput. Anda boleh menambah nilai pada bila-bila masa menggunakan USDT atau USDC. Ralat dan penolakan tidak menggunakan baki anda.
Adakah model mempunyai had tetingkap konteks?
Jendela konteks jumlah ialah 100,000 token termasuk kedua-dua prompt dan penyelesaian. Output maksimum setiap permintaan ialah 16,000 token. Output lalai ialah 2,048 token jika tidak dinyatakan. Penstriman membantu mengurus respons besar dengan cekap.
Dapatkan kunci API anda sekarang
Daftar, salin kunci anda, kemas kini URL asas. Konfigurasi minimum diperlukan.