Siapkan DeepSeek di LiteLLM
LiteLLM adalah gateway dan Python SDK open-source yang menyatukan banyak provider model di balik satu API bergaya OpenAI. API Store bekerja di dalamnya sebagai endpoint yang kompatibel dengan OpenAI: tambahkan DeepSeek V4.1 ke config Anda, dan aplikasi Anda memanggilnya melalui LiteLLM seperti model lainnya, dengan pengeluaran dicatat per key dan per tim.
Sebelum memulai
- LiteLLM terpasang (pip install "litellm[proxy]"), atau proxy LiteLLM yang sudah Anda jalankan
- API key API Store (diawali sk-) dan saldo
Langkah-langkah
- Simpan config di bawah sebagai config.yaml. Prefiks openai/ memberi tahu LiteLLM bahwa model memakai API OpenAI, api_base mengarahkannya ke API Store, dan use_chat_completions_api meneruskan request Responses dan Anthropic Messages melalui chat completions.
- Simpan API key API Store Anda di environment variable APISTORE_API_KEY, lalu jalankan proxy.
- Kirim request uji ke proxy dengan model_name dari config.
model_list:
- model_name: deepseek-v4-1-flash
litellm_params:
model: openai/deepseek-v4-1-flash
api_base: https://api.apistore.cloud/v1
api_key: os.environ/APISTORE_API_KEY
use_chat_completions_api: true
input_cost_per_token: 0.00000021
output_cost_per_token: 0.00000084
cache_read_input_token_cost: 0.0000000042export APISTORE_API_KEY=sk-... litellm --config config.yaml
curl http://localhost:4000/v1/chat/completions \
-H "Authorization: Bearer $LITELLM_MASTER_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "deepseek-v4-1-flash", "messages": [{"role": "user", "content": "Say hello"}]}'Python SDK
Tanpa proxy, panggil model langsung dari Python dengan nilai yang sama.
import os
from litellm import completion
response = completion(
model="openai/deepseek-v4-1-flash",
api_base="https://api.apistore.cloud/v1",
api_key=os.environ["APISTORE_API_KEY"],
messages=[{"role": "user", "content": "Say hello"}],
)
print(response.choices[0].message.content)Pencatatan pengeluaran
- Tiga baris biaya memberi LiteLLM harga jam sibuk kami, sehingga log pengeluaran dan anggarannya menampilkan angka sebenarnya, bukan $0.
- Di luar jam sibuk, kami menagih lebih rendah daripada yang dicatat LiteLLM. Halaman Usage di dashboard API Store Anda menampilkan tagihan pasti untuk setiap request.
Model mana yang dipilih
- deepseek-v4-1-flash untuk chat, kode, dan tool call sehari-hari
- deepseek-v4-1-flash-economy jika harga terendah yang paling penting: salin entrinya, ganti kedua nama model, dan ambil harganya dari halaman harga
Pemecahan masalah
- 401 invalid_api_key. Pastikan APISTORE_API_KEY diatur di tempat proxy berjalan, bukan hanya di shell Anda.
- 404 model_not_found. Nama setelah openai/ harus berupa nama model API Store, persis seperti di halaman harga.
- Pengeluaran tercatat $0. Baris biaya tidak ada di litellm_params.
- 404 Unknown path /v1/responses pada /v1/responses atau /v1/messages. Tambahkan use_chat_completions_api: true ke litellm_params.
- 402 insufficient_balance. Isi ulang saldo, atau naikkan batas harian key.
Biaya
deepseek-v4-1-flash: US$0,21 untuk input dan US$0,84 untuk output per 1M token pada jam sibuk, US$0,105 dan US$0,42 di luar jam sibuk. Input yang dibaca dari cache dikenai US$0,0042.
LiteLLM tidak mengenakan biaya tambahan sendiri: setiap request ditagihkan ke saldo prabayar API Store Anda dengan harga di atas.
Panduan penyiapan: Cursor · Cline · Claude Code · Docs
