API de chat completions
Como usar modelos de chat pelo endpoint /chat/completions compatível com OpenAI: formato da requisição, streaming, ferramentas e cache de prompts.
Chat
POST /chat/completions aceita a requisição da OpenAI sem mudanças: messages, max_tokens, temperature, top_p, stop, tools e tool_choice, response_format, stream. Campos desconhecidos são repassados ao modelo. Toda resposta traz um cabeçalho x-request-id; informe-o ao falar com o suporte.
Streaming
Use "stream": true para receber server-sent events. Adicione "stream_options": {"include_usage": true} para obter as contagens de tokens no último trecho.
{
"model": "deepseek-v4-1-flash",
"stream": true,
"stream_options": { "include_usage": true },
"messages": [{ "role": "user", "content": "Hello" }]
}Cache de prompts
Prefixos de prompt repetidos (prompt de sistema, documentos longos, histórico do chat) são colocados em cache pelo provedor. Os tokens de entrada em cache são cobrados automaticamente pelo preço mais baixo de cache hit. Deixe a parte estável do prompt no início e sem alterações.
