API de chat completions

Como usar modelos de chat pelo endpoint /chat/completions compatível com OpenAI: formato da requisição, streaming, ferramentas e cache de prompts.

Chat

POST /chat/completions aceita a requisição da OpenAI sem mudanças: messages, max_tokens, temperature, top_p, stop, tools e tool_choice, response_format, stream. Campos desconhecidos são repassados ao modelo. Toda resposta traz um cabeçalho x-request-id; informe-o ao falar com o suporte.

Streaming

Use "stream": true para receber server-sent events. Adicione "stream_options": {"include_usage": true} para obter as contagens de tokens no último trecho.

{
  "model": "deepseek-v4-1-flash",
  "stream": true,
  "stream_options": { "include_usage": true },
  "messages": [{ "role": "user", "content": "Hello" }]
}

Cache de prompts

Prefixos de prompt repetidos (prompt de sistema, documentos longos, histórico do chat) são colocados em cache pelo provedor. Os tokens de entrada em cache são cobrados automaticamente pelo preço mais baixo de cache hit. Deixe a parte estável do prompt no início e sem alterações.