AIVAX

Esta página foi traduzida automaticamente do inglês e pode estar desatualizada. Leia o original

Solução de problemas de inferência

A AIVAX utiliza dois estilos de resposta:

  • Os endpoints compatíveis com OpenAI retornam um objeto error no estilo do OpenAI.
  • Os endpoints de conta e administrativos retornam um envelope de resposta da AIVAX contendo um erro ou um valor data bem-sucedido.
StatusO que verificar
400 Bad Request (Requisição Inválida)Confirme o identificador do modelo ou do gateway e remova parâmetros não suportados da solicitação. Um identificador de recurso malformado na URL é uma solicitação inválida, não um erro do servidor.
401 Unauthorized (Não Autorizado)Confirme que a chave privada está presente, completa, ativa e enviada por meio da configuração do SDK.
402 Payment Required (Pagamento Necessário)Revise Preços e confirme se a conta está pronta para receber uma cobrança pela solicitação.
403 Forbidden (Proibido)Confirme se o tipo de chave, o modelo ou o recurso selecionado permite essa operação.
429 Too Many Requests (Muitas Solicitações)Tente novamente mais tarde e revise Planos e limites antes de aumentar o volume de solicitações.
500 Internal Server Error (Erro Interno do Servidor)Ocorreu uma falha inesperada na AIVAX. Tente novamente mais tarde; a resposta não inclui detalhes internos.
503 Service Unavailable (Serviço Indisponível)Um serviço do qual a AIVAX depende está temporariamente indisponível. Tente novamente após o intervalo indicado no cabeçalho Retry-After.
524 ou tempo limite do proxyA solicitação demorou mais do que o permitido pelo proxy enquanto a AIVAX ainda estava processando-a. Envie-a para o host de inferência direta com um tempo limite do cliente maior.

Se a solicitação continuar falhando, verifique nesta ordem:

  1. O base_url é https://inference.aivax.net/v1.
  2. A chave de API está disponível para seu processo e é uma chave privada.
  3. O modelo ou gateway selecionado existe e está disponível para a conta.
  4. Para um gateway, teste um prompt simples antes de adicionar RAG, ferramentas, mídia ou saída estruturada, para que você possa isolar problemas de configuração.

Erros durante o streaming #

Após o início de um stream, o status HTTP já é 200. Uma falha é relatada como um último chunk com finish_reason: "error" e um objeto error contendo code e message, seguido por [DONE]. Verifique esse chunk em vez de confiar no código de status; consulte Streaming.

Para modelos integrados, os detalhes do erro do provedor não são retornados; a mensagem informa que o provedor está indisponível. Para gateways que usam sua própria chave de provedor, a mensagem de erro do provedor é retornada conforme está.

Problemas comuns #

SintomaO que verificar
O modelo ignora uma imagem, áudio ou arquivo.O modelo pode não suportar essa modalidade, ou o gateway possui DisableMultiModalInput. Consulte Entrada e multimodalidade.
Failed to generate a valid JSON response. (Falha ao gerar uma resposta JSON válida.)O Healing de JSON atingiu seu limite de tentativas. Simplifique o esquema ou as instruções antes de aumentar o max_attempts; consulte Healing de JSON.
O modelo repete chamadas de ferramentas de rodadas anteriores.A solicitação não está reutilizando o mesmo conversation_token, ou o estado expirou. Consulte Reutilização de sessão.
The 'X' parameter is not allowed with public API keys. (O parâmetro ‘X’ não é permitido com chaves de API públicas.)Chaves públicas aceitam um conjunto reduzido de campos. Consulte Limites.
Uma conversa falha repentinamente com uma mensagem de erro de tamanho.A conversa excedeu o limite de contexto do gateway ou o teto do plano Gratuito. Consulte Limites.
Uma solicitação roteada falha embora o modelo exista.Não resta nenhum provedor elegível após o roteamento, ZDR ou regras de provedores especiais. Consulte Configuração de roteamento.

Digite para pesquisar na documentação.