Conclusão do prefixo de bate -papo (beta)

A conclusão do prefixo de bate -papo segue a API de conclusão de bate -papo , onde os usuários fornecem a mensagem de prefixo de um assistente para o modelo concluir o restante da mensagem.

Perceber

Ao usar a conclusão do prefixo de bate -papo, os usuários devem garantir que a role da última mensagem na lista messages seja assistant e defina o parâmetro prefix da última mensagem como True .

O usuário precisa definir base_url="https://api.deepseek.com/beta" Para ativar o recurso beta.

Código de amostra

Abaixo está um exemplo completo de código Python para conclusão do prefixo de bate -papo. Neste exemplo, definimos a mensagem de prefixo do assistant como "```python\n" para forçar o modelo a gerar código python e definir o parâmetro stop como ['```'] para evitar explicações adicionais do modelo .

from openai import OpenAI

client = OpenAI(
    api_key="<your api key>",
    base_url="https://api.deepseek.com/beta",
)

messages = [
    {"role": "user", "content": "Please write quick sort code"},
    {"role": "assistant", "content": "```python\n", "prefix": True}
]
response = client.chat.completions.create(
    model="deepseek-chat",
    messages=messages,
    stop=["```"],
)
print(response.choices[0].message.content)

Conclusão do prefixo de bate -papo (beta)

Perceber#

Código de amostra#

Perceber

Código de amostra