Inferência
Inferência
AI Gateway
AI Gateway Um AI Gateway é uma configuração de inferência persistente. Ele permite que você chame um gateway pelo nome do modelo enquanto o …
Inferência
Inferência AIVAX expõe uma API chat/completions compatível com OpenAI com parâmetros adicionais da AIVAX. As adições são opcionais e foram …
Testes Agentes
Testes Agentes Testes Agentes avaliam como um AI Gateway se comporta ao longo de uma conversa completa e orientada a objetivos, em vez de …
Sessão de Voz
Sessão de Voz Sessão de Voz é a API de conversação por voz em tempo real e com estado da AIVAX. Um WebSocket autenticado transporta áudio do …
Pipelines de IA
Pipelines de IA Os pipelines do AI Gateway são as etapas de processamento que o AIVAX aplica antes e durante a inferência. Eles podem …
Respostas Estruturadas
Respostas Estruturadas AIVAX pode produzir JSON estruturado por dois caminhos:
response_schema: AIVAX valida a saída final do modelo contra …
Trabalhadores de IA
Trabalhadores de IA Os trabalhadores do AI Gateway são hooks HTTP que permitem que um serviço externo controle a execução do gateway em …