LLM بدون سانسور را از طریق SDK OpenAI یکپارچه کنید

پکیج رسمی SDK OpenAI را نصب کنید

ابتدا کتابخانه‌ای که درخواست‌های HTTP را مدیریت می‌کند را نصب کنید. این SDK با نقطه پایانی ما کار می‌کند زیرا ما از همان پروتکل پیروی می‌کنیم.

• اجرا pip install openai برای Python.
• اجرا npm install openai برای Node.js.

نسخه 0.27.0 یا بالاتر برای پشتیبانی کامل از استریم توصیه می‌شود. کتابخانه تلاش‌ها و سریال‌سازی JSON را به‌طور خودکار مدیریت می‌کند.

base_url و کلید API را پیکربندی کنید

مشتری SDK خود را به URL دروازه خاص ما پیکربندی کنید. این نقطه پایانی پیش‌فرض OpenAI را با سرور مدل بدون سانسور ما جایگزین می‌کند.

متغیر محیطی را تنظیم کنید OPENAI_BASE_URL به https://api.gatewayapillm.com/v1. سپس کلید API خود را از داشبورد ارائه دهید. برای هر حساب کاربری تنها به یک کلید نیاز دارید؛ ایجاد کلید جدید، کلید قبلی را نامعتبر می‌سازد.

این پیکربندی تضمین می‌کند که تمام درخواست‌ها مستقیماً به زیرساخت بدون فیلتر ما هدایت می‌شوند.

اولین تکمیل چت

یک درخواست POST استاندارد به /v1/chat/completionsشناسه مدل صرفاً uncensored. این یک پاسخ متنی مستقیم بدون فیلترهای محتوا برای استفاده بزرگسالان قانونی برمی‌گرداند.

پنجره زمینه (Context Window) ما در مجموع ۱۰۰,۰۰۰ توکن را پشتیبانی می‌کند. می‌توانید تا ۱۶,۰۰۰ توکن خروجی در هر فراخوانی درخواست کنید. اگر تنظیم نکنید max_tokens, پیش‌فرض 2,048 توکن است.

جریان‌سازی را برای توکن‌های بلادرنگ فعال کنید

از رویدادهای ارسالی سرور (SSE) برای خروجی با تأخیر کم استفاده کنید. SDK توکن‌ها را همان‌طور که تولید می‌شوند استریم می‌کند. این بازخورد فوری برای زمینه‌های طولانی فراهم می‌کند.

آمار مصرف توکن در آخرین قطعه استریم گنجانده شده است. می‌توانید مصرف را به صورت بلادرنگ بدون انتظار برای پاسخ کامل ردیابی کنید. این برای رابط‌های چت یا تولید کد زنده ایده‌آل است.

از ابزارها و حالت JSON استفاده کنید

فراخوانی تابع دقیقاً مانند استاندارد OpenAI کار می‌کند. ابزارهای خود را در tools پارامتر و اجازه دهید مدل تصمیم بگیرد چه زمانی آن‌ها را فراخوانی کند. از response_format: {"type": "json_object"} برای خروجی‌های JSON دقیق.

پارامترهایی مانند temperature, top_p, stop، و seed کاملاً پشتیبانی می‌شوند. این اجازه می‌دهد کنترل دقیقی بر رفتار و ساختار خروجی مدل داشته باشید.

استفاده و خطاها را بررسی و مدیریت کنید

موجودی اعتبار از پیش پرداخت شده خود را از طریق داشبورد پایش کنید. خطاها و رد شدن‌ها توکن مصرف نمی‌کنند. اعتبار شما هرگز منقضی نمی‌شود، بنابراین می‌توانید هر زمان که نیاز داشتید شارژ کنید.

خطاهای HTTP رایج شامل 401 (کلید نامعتبر)، 402 (اعتبار کافی نیست) و 429 (محدودیت نرخ) است. محدودیت 300 درخواست در دقیقه به ازای هر کلید است. درخواست‌ها را زیر 8 مگابایت نگه دارید تا از خطاهای اندازه بدنه جلوگیری کنید.

cURL

Copycurl https://api.gatewayapillm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Explain how to configure Nginx for reverse proxying HTTPS traffic to a local Node server"}]
  }'

پایتون

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gatewayapillm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gatewayapillm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

جریان‌سازی

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)