Decisions API pour le routage de requêtes

Pourquoi le routage est un cas naturel

Router pose une question finie — laquelle de mes files prend ceci — et c'est exactement ce qu'un endpoint de décisions répond nativement. Pas de nom de file à extraire d'un texte généré, pas d'ingénierie de prompt pour empêcher le modèle d'inventer une cinquième file.

Le même appel peut porter plusieurs questions sur le même ticket : file, urgence et un indicateur de revue se résolvent en un aller-retour pour 1 crédit.

• Assignation de file : billing, platform, account, other
• Priorité : un score ordonné de faible à bloquant
• Escalade : un check noul pour savoir si un humain doit regarder d'abord

Écrivez les criteria comme des descriptions de file

Chaque option d'une question choice porte une courte description de ce qui lui appartient. Rédigez-les comme un brief pour un nouvel analyste de triage — ces descriptions sont votre politique de routage.

Incluez toujours une option 'other' ou 'unclear'. Donner au modèle une sortie honnête évite qu'un ticket ambigu finisse dans la mauvaise file avec une assurance trompeuse.

Un appel : file plus urgence

Envoyez le texte du ticket en state et posez deux questions : un choice pour l'équipe responsable et un score pour l'urgence. La réponse donne answers.team.choice, answers.urgency.score et une probabilité pour chaque option des deux.

// Route a ticket: ask for team + urgency in one call,
// then gate the automation on confidence.
const res = await fetch("https://decisions-api.net/api/v1/decisions", {
  method: "POST",
  headers: {
    Authorization: "Bearer YOUR_KEY",
    "Content-Type": "application/json",
  },
  body: JSON.stringify({
    model: "decisions-1",
    state: "Payments fail with a 500 since your last deploy. Enterprise plan customer.",
    questions: {
      team: {
        type: "choice",
        instructions: "Which queue should handle this request?",
        criteria: {
          payments: "Billing, charges, or payment failures.",
          platform: "Deploys, infrastructure, or API errors.",
          account: "Login, SSO, or permissions.",
          other: "Unclear or out of scope.",
        },
      },
      urgency: {
        type: "score",
        instructions: "How urgent is this for the customer?",
        criteria: ["can wait", "normal queue", "needs attention today", "blocking revenue"],
      },
    },
  }),
});
const { answers } = await res.json();

// Illustrative response: answers.team -> { choice: "payments", confidence: 0.84 }
//                        answers.urgency -> { score: 3, confidence: 0.79 } (0 = lowest level)
if (answers.team.confidence >= 0.8 && answers.team.choice !== "other") {
  assignToQueue(answers.team.choice, { priority: answers.urgency.score });
} else {
  assignToQueue("human_triage", { note: "low confidence" });
}

Conditionnez l'auto-assignation à la confiance

La distribution de probabilités rend le routage sûr à automatiser. Un point de départ raisonnable : appliquez le routage quand la confiance est ≥ 0,8, et envoyez tout le reste à une file de triage humain.

Réglez le seuil sur votre propre historique de tickets — la bonne valeur dépend du coût d'un ticket mal routé par rapport à un ticket retardé.

Router les requêtes entre modèles

Le même pattern choisit quel modèle doit répondre. Posez une question choice avec des options comme fast_model (requêtes factuelles courtes ou de formatage), strong_model (raisonnement en plusieurs étapes, code, long contexte) et human (juridique, remboursements, ou tout ce qu'un modèle ne devrait pas traiter seul). Chaque option revient avec une probabilité — vous voyez à quel point le choix était disputé.

Appliquez le même garde-fou : quand la confiance est basse, routez la requête vers une personne ou un chemin plus sûr plutôt que de faire confiance à l'option en tête — la probabilité du second choix indique à quel point la décision était serrée.

Coût et volume

Un appel réussi coûte 1 crédit, pour 1 ou 6 questions. Pour un backlog de tickets historiques, l'outil batch du tableau de bord exécute la même forme de requête sur un CSV ou un JSONL.

FAQ