Neon AI Gateway

​

Prérequis

• Un identifiant d’authentification doté de la portée ai_gateway:invoke. Créez-le dans la Neon Console, sous Credentials, ou via l’API Neon. Voir Authentification AI Gateway.
• L’hôte de la branche, affiché dans la Neon Console sous le nom NEON_AI_GATEWAY_BASE_URL. Il s’agit d’une URL propre à chaque branche, de la forme https://<your-neon-branch-host>.

​

Tracer un appel à Neon AI Gateway

import os
import openai
import weave

weave.init('neon-weave')

system_content = "You are a travel agent. Be descriptive and helpful."
user_content = "Tell me about San Francisco"

client = openai.OpenAI(
    api_key=os.environ.get("NEON_AI_GATEWAY_TOKEN"),
    base_url=f"{os.environ.get('NEON_AI_GATEWAY_BASE_URL')}/v1",
)
chat_completion = client.chat.completions.create(
    model="gpt-5-mini",
    messages=[
        {"role": "system", "content": system_content},
        {"role": "user", "content": user_content},
    ],
    temperature=0.7,
    max_tokens=1024,
)
response = chat_completion.choices[0].message.content
print("Model response:\n", response)

​

Tracer sur plusieurs branches

with weave.attributes({"neon_branch": "preview/feature-x"}):
    chat_completion = client.chat.completions.create(
        model="gpt-5-mini",
        messages=[{"role": "user", "content": user_content}],
    )

​

Choisir un modèle

curl "${NEON_AI_GATEWAY_BASE_URL}/v1/models" \
  -H "Authorization: Bearer $NEON_AI_GATEWAY_TOKEN"

• Quelques modèles ne sont servis que sur le chemin de l’API Responses de Neon, {NEON_AI_GATEWAY_BASE_URL}/openai/v1, et renvoient une erreur 400 sur le chemin des complétions de chat. La colonne Endpoints du catalogue de modèles de Neon indique lesquels, et cette liste évolue ; au moment de la rédaction, il s’agit de gpt-5-3-codex et de gpt-5-5-pro. Tous les modèles pour lesquels la colonne mentionne chat/completions fonctionnent sur le chemin des complétions de chat.