Saída JSON

Em muitos cenários, os usuários precisam do modelo para produzir em formato JSON rigoroso para obter saída estruturada, facilitando a análise subsequente.

O Deepseek fornece saída JSON para garantir que as saídas JSON válidas.

Perceber

Para ativar a saída JSON, os usuários devem:

Defina o parâmetro response_format como {'type': 'json_object'} .

Inclua a palavra "JSON" no sistema ou prompt de usuário e forneça um exemplo do formato JSON desejado para orientar o modelo na saída de JSON válido.

Defina o parâmetro max_tokens razoavelmente para impedir que a string json seja truncada no meio do caminho.

Ao usar o recurso de saída JSON, a API pode ocasionalmente retornar conteúdo vazio. Estamos trabalhando ativamente para otimizar esse problema. Você pode tentar modificar o prompt para mitigar esses problemas.

Código de amostra

Aqui está o código Python completo demonstrando o uso da saída JSON:

import json
from openai import OpenAI

client = OpenAI(
    api_key="<your api key>",
    base_url="https://api.deepseek.com",
)

system_prompt = """
The user will provide some exam text. Please parse the "question" and "answer" and output them in JSON format. 

EXAMPLE INPUT: 
Which is the highest mountain in the world? Mount Everest.

EXAMPLE JSON OUTPUT:
{
    "question": "Which is the highest mountain in the world?",
    "answer": "Mount Everest"
}
"""

user_prompt = "Which is the longest river in the world? The Nile River."

messages = [{"role": "system", "content": system_prompt},
            {"role": "user", "content": user_prompt}]

response = client.chat.completions.create(
    model="deepseek-chat",
    messages=messages,
    response_format={
        'type': 'json_object'
    }
)

print(json.loads(response.choices[0].message.content))

O modelo será lançado:

    "question": "Which is the longest river in the world?",
    "answer": "The Nile River

Perceber#

Código de amostra#

Perceber

Código de amostra