Vercel AI Gateway — לחבר מאות מודלי AI בלי 5 SDKs

למי המדריך הזה: אתה מפתח שבונה פיצ׳ר AI בפרויקט אמיתי — chatbot, סיכום אוטומטי, סיווג, code completion. אתה משתמש עכשיו ב-openai SDK או @anthropic-ai/sdk ישירות, אבל הגעת לנקודה שבה אתה רוצה fallback (כש-OpenAI נופל — לעבור ל-Claude), routing לפי עלות (משימות פשוטות ל-Haiku, מורכבות ל-Opus), או פשוט לבחון כמה מודלים בלי לכתוב 5 SDKs. המדריך הזה יסביר מתי Vercel AI Gateway פותר את זה, מתי OpenRouter עדיף, ואיך מתחילים — עם תמחור 2026 מעודכן ודוגמאות קוד שעובדות באמת.

הבעיה ש-Vercel AI Gateway פותר

אם בנית פיצ׳ר AI ב-2024–2025, סביר שעבדת ככה:

import OpenAI from 'openai'

const client = new OpenAI({ apiKey: process.env.OPENAI_KEY })
const completion = await client.chat.completions.create({
  model: 'gpt-4o',
  messages: [{ role: 'user', content: 'Hello' }],
})

זה עובד עד הרגע שבו:

1. OpenAI נופל לחצי שעה. קרה ב-3 בדצמבר 2024, ב-4 בפברואר 2025, וכמה פעמים ב-2026. הפיצ׳ר שלך מת איתו.
2. אתה רוצה להשתמש ב-Claude לחלק מהמשימות. עכשיו אתה צריך SDK שני, key שני, error handling שני, וטיפול בפורמט תגובה שונה.
3. גוגל מוציאים Gemini 3 חדש והוא עולה רבע מ-GPT. אתה רוצה לבדוק — אבל זה SDK שלישי, ועוד שבוע של אינטגרציה.
4. אתה רוצה logs מאוחדים — כמה כל קריאה עולה, מי המשתמש, מה ה-latency. עכשיו אתה צריך לבנות observability לבד.

ה״פתרון הפשוט״ הוא לעטוף את הכל ב-abstraction layer משלך. הבעיה: אתה משחזר משהו שכבר קיים כשירות מנוהל — ומתחזק אותו לנצח.

Vercel AI Gateway (יצא בגרסה היציבה בנובמבר 2025) הוא בדיוק זה: שכבת ביניים אחת שמדברת עם כל ספקי ה-LLM, נותנת לך API אחיד, fallbacks אוטומטיים, ו-observability מובנה. אם השאלה הרחבה יותר היא איזה מודל בכלל לבחור לעסק, יש לי מדריך נפרד שמשווה את ChatGPT מול Claude מול Gemini לעסקים — Vercel AI Gateway הוא השכבה שמאפשרת לך להחזיק כמה מהם במקביל בלי כאב.

מה Vercel AI Gateway בעצם

API URL אחד. במקום api.openai.com, api.anthropic.com, generativelanguage.googleapis.com — אתה משתמש ב-ai-gateway.vercel.sh/v1.

מחרוזות model בפורמט provider/model. במקום לזכור איזה SDK עובד עם איזה מודל:

'openai/gpt-5.5'
'anthropic/claude-opus-4.8'
'anthropic/claude-haiku-4.5'
'google/gemini-3.1-pro-preview'
'meta/llama-4-405b'
'deepseek/deepseek-r2'

מאות מודלים נכון ל-2026, מכל הספקים המרכזיים. שים לב: בתוך ה-Gateway שמות המודלים נכתבים עם נקודה (claude-opus-4.8), בשונה מ-API הישיר של Anthropic שמשתמש במקף (claude-opus-4-8). זה בלבול נפוץ — הקפד על הפורמט של ה-Gateway כשאתה עובד דרכו.

Auto-fallback. אתה מגדיר רשימת מודלים. אם הראשון נופל — Gateway עובר לשני אוטומטית, בלי שתצטרך לכתוב try/catch. (התחביר המדויק בהמשך — והוא לא מה שאינטואיטיבי לחשוב.)

Zero data retention by default. Vercel רק מעבירים את הבקשה — הם לא שומרים את הקלט או התגובה (אלא אם תפעיל logs ידנית). זה משנה כשאתה עובד עם מידע רגיש של לקוחות.

Observability מובנה. dashboard שמראה כמה כל מודל עלה לך, מה ה-latency, מי המשתמש שעשה את הבקשה, וכמה tokens. אתה רואה את הכל בלי setup — בדומה למה שתקבל מ-GA4 / Plausible / PostHog בצד ה-frontend, רק עבור עלויות ה-AI.

vs OpenRouter — ההשוואה הכנה

OpenRouter קיים מ-2023 ועושה כמעט אותו דבר. הוא היה ה״פתרון״ ב-2024–2025 לפני ש-Vercel נכנסו. הנה ההבדלים הריאליים נכון ל-2026:

שים לב להבדל החשוב ביותר, שהשתנה לטובת Vercel: Gateway לא לוקח markup על ה-tokens עצמם — גם בתוכנית בתשלום, גם עם BYOK. ההכנסה של Vercel באה מהמסלולים שלהם, לא מ-markup על inference. OpenRouter, לעומת זאת, גובה 5.5% על רכישת קרדיט (5% בקריפטו) ו-5% נוסף על BYOK אחרי מיליון בקשות חינם בחודש. ב-2025 שני השירותים גבו markup דומה; ב-2026 זה כבר לא נכון.

Vercel AI Gateway עדיף אם:

• אתה כבר ב-Vercel ומתכוון להשתמש ב-AI SDK.
• אתה רוצה את ה-observability ב-dashboard אחד עם שאר הפרויקט.
• אתה רוצה fallback declarative בלי לכתוב logic.
• אתה רגיש לעלות בנפח גבוה — 0% markup מצטבר.

OpenRouter עדיף אם:

• אתה לא ב-Vercel ולא מתכנן להיות.
• אתה רוצה את הרשימה הכי גדולה של מודלים (כולל uncensored, fine-tuned קהילתיים).
• אתה רוצה לעבוד מול endpoint תואם-OpenAI אגנוסטי לחלוטין.

המסקנה הקצרה: שניהם טובים. אם אתה עובד עם Next.js + Vercel — Gateway הוא הבחירה הברורה, ועכשיו גם הזולה יותר. אם לא — OpenRouter הוא הפתרון הסטנדרטי בשוק. הבחירה הזו גם קשורה להחלטת ה-hosting הרחבה יותר; אם עוד לא סגרת איפה הפרויקט יושב, ראה Vercel מול Firebase Hosting.

תרחישים אמיתיים שבהם זה משתלם

1. Routing לפי עלות

יש לך chatbot. רוב הבקשות הן ״מה השעות שלכם״ — שאלות פשוטות. בקשות נדירות הן ״תכתוב לי מודל עסקי שלם״ — דורשות מודל חזק.

עם Gateway:

const model = isSimpleQuery(prompt)
  ? 'anthropic/claude-haiku-4.5'    // ~$1 / $5 ל-1M tokens
  : 'anthropic/claude-opus-4.8'     // ~$5 / $25 ל-1M tokens

החיסכון אמיתי: אם 80% מהבקשות פשוטות — אתה משלם פי כמה פחות עליהן. ב-100K בקשות בחודש, זה לפעמים מאות עד אלפי דולרים. הדרך הנקייה לעשות את ההחלטה הזו היא לא heuristic על אורך הטקסט, אלא מסווג קטן וזול שרץ קודם — קריאה ל-Haiku שמחזירה ״tier אחד או שניים״, ואז ניתוב המשימה האמיתית לפי התשובה:

import { generateText } from 'ai'

async function routeTier(prompt) {
  const { text } = await generateText({
    model: 'anthropic/claude-haiku-4.5',
    prompt: `סווג את הבקשה: 'simple' לשאלות מידע קצרות, 'complex' למשימות יצירה/ניתוח. החזר מילה אחת בלבד.\n\n${prompt}`,
  })
  return text.trim().toLowerCase().includes('complex') ? 'complex' : 'simple'
}

const tier = await routeTier(userPrompt)
const model = tier === 'complex'
  ? 'anthropic/claude-opus-4.8'
  : 'anthropic/claude-haiku-4.5'

קריאת הסיווג עצמה עולה כמה אגורות — הרבה פחות ממה שתחסוך מכך שלא תשלח כל ״מה השעות שלכם״ ל-Opus. את התבנית הזו אני מפרק לעומק במדריך בניית chatbot לאתר, ואם אתה רוצה לדעת אם המסווג עצמו מדויק מספיק — שוב מגיעים ל-evals.

2. Fallback כשספק נופל

OpenAI נופל בממוצע פעם בחודש לחצי שעה. עם Gateway אתה מגדיר רשימת fallback declarative — והמשתמש שלך לא מרגיש כלום כשהספק הראשי נופל. התחביר המדויק (שהשתנה ב-2026) בסעיף ה-Setup בהמשך — הנקודה כרגע היא שזה ההבדל בין ״השירות מושבת״ ל״תשובה איטית ב-300ms״.

3. A/B Testing של מודלים

אתה רוצה לבדוק — האם Gemini 3 עונה טוב כמו GPT-5.5 על הפיצ׳ר שלך? עם Gateway אתה יכול לפצל את הטראפיק:

const model = Math.random() < 0.5
  ? 'openai/gpt-5.5'
  : 'google/gemini-3.1-pro-preview'

ה-dashboard יראה לך את ההבדל ב-latency, עלות, ו-(אם תוסיף thumbs-up/down) שביעות רצון משתמש. אבל ה-vibes לא מספיקים להחלטה — כדי לדעת איזה מודל באמת עדיף לפיצ׳ר שלך, אתה צריך eval set אמיתי. על זה כתבתי בנפרד ב-פיתוח AI מונחה-evals.

4. ניהול עלות פר משתמש / פר feature

אם יש לך SaaS עם free tier ו-paid tier, ב-Gateway אתה יכול לתייג כל בקשה עם metadata של user ו-feature, ולקבל דוח עלויות מסונן. זה מאפשר לך לראות שמשתמש בודד ״אוכל״ 40% מתקציב ה-AI — ולתמחר אותו נכון. אם אתה בונה SaaS מאפס, התבנית הזו נכנסת מוקדם; ראה בניית SaaS MVP ב-2026.

Setup — שלב-שלב

1. צור פרויקט ב-Vercel (אם אין לך)

npx create-next-app@latest my-ai-app
cd my-ai-app
npm install ai
vercel link

שים לב: ב-AI SDK 5 לא חייבים להתקין @ai-sdk/openai או @ai-sdk/anthropic בנפרד כשעובדים דרך ה-Gateway — מספיק להעביר מחרוזת provider/model ל-model, וה-SDK יודע לנתב. החבילות הנפרדות נחוצות רק אם אתה רוצה לעקוף את ה-Gateway ולדבר ישירות עם ספק.

2. הפעל את ה-Gateway

לך ל-Vercel dashboard → AI Gateway → Enable. כל team מקבל $5/חודש בקרדיטים לבדיקה. אחרי שהם נגמרים — המעבר ל-pay-as-you-go אוטומטי (בלי markup, כפי שראינו).

3. הקוד הבסיסי

זה כל מה שצריך כדי לקרוא ל-AI דרך ה-Gateway:

import { generateText } from 'ai'

const { text } = await generateText({
  model: 'anthropic/claude-opus-4.8',
  prompt: 'מה ההבדל בין Vercel ל-Netlify?',
})

console.log(text)

אין apiKey. אין baseURL. הכל מוגדר אוטומטית כשאתה בתוך Vercel project (דרך OIDC token שה-CLI מזריק). מקומית, מספיק vercel env pull או משתנה סביבה אחד (AI_GATEWAY_API_KEY).

מתחת ל-hood, ה-AI SDK יודע איזה provider לקרוא לפי הקידומת (anthropic/), שולח את הבקשה דרך ai-gateway.vercel.sh, וה-Gateway מנתב ל-Anthropic.

4. Setup של Fallback — התחביר האמיתי

זה החלק העיקרי, וזה גם המקום שבו רוב המדריכים ברשת טועים. אין שדה fallback על model. המודל הראשי נשאר מחרוזת רגילה ב-model, ורשימת ה-fallback עוברת ב-providerOptions.gateway.models:

import { generateText } from 'ai'

const { text } = await generateText({
  model: 'openai/gpt-5.5', // המודל הראשי
  prompt: 'תכתוב 3 כותרות לדף נחיתה לחנות פרחים בעברית',
  providerOptions: {
    gateway: {
      models: [
        'anthropic/claude-opus-4.8',
        'google/gemini-3.1-pro-preview',
      ], // מודלי גיבוי, לפי הסדר
    },
  },
})

אם openai/gpt-5.5 נכשל או לא זמין — Gateway עובר ל-anthropic/claude-opus-4.8. אם גם הוא נופל — google/gemini-3.1-pro-preview. אם כולם — אתה מקבל error רגיל לטיפול. ב-provider metadata של התגובה תקבל מערך modelAttempts שמראה בדיוק מי נוסה ומי הצליח, כך שאפשר ללוג מה קרה.

אפשר גם לשלב עם order כדי לקבוע איזה ספק מטפל בכל מודל (למשל ״נסה דרך Azure לפני OpenAI״) — שימושי כשאותו מודל זמין מכמה ספקים והעלות או ה-latency שונים.

5. Streaming

ל-React components, אתה רוצה streaming:

import { streamText } from 'ai'

const { textStream } = streamText({
  model: 'anthropic/claude-opus-4.8',
  prompt: userMessage,
  providerOptions: {
    gateway: {
      models: ['anthropic/claude-sonnet-4.6'], // fallback עובד גם ב-streaming
    },
  },
})

for await (const chunk of textStream) {
  process.stdout.write(chunk)
}

ב-Next.js Route Handler אתה מחזיר את ה-stream לקליינט עם result.toUIMessageStreamResponse() וה-AI SDK יודע לטפל ב-rendering הדרגתי. אם אתה עדיין על App Router ולא בטוח איך Route Handlers ו-streaming משתלבים, יש לי מדריך נפרד על Next.js 16 App Router.

6. Tool calling ו-MCP (מתקדם)

ה-Gateway לא מוגבל ל-text. כשאתה מעביר tools ל-generateText, ה-SDK מנרמל את פורמט ה-tool-calling בין הספקים — כך ש-OpenAI ו-Anthropic מתנהגים אותו דבר מבחינתך, גם כשהפורמט הפנימי שלהם שונה. זה מה שהופך fallback בין ספקים לאפשרי גם בפיצ׳ר עם כלים. אם אתה בונה agent שמתחבר לכלים חיצוניים, השלב הבא הוא MCP servers — ה-Gateway מטפל ב-LLM, MCP מטפל בכלים.

תמחור 2026

נכון ליוני 2026:

מסלולי Vercel:

• Hobby: חינמי + $5/חודש בקרדיטים ל-AI Gateway.
• Pro: $20/חודש + קרדיטים נוספים כלולים.
• Enterprise: custom, עם הסכמי SLA ו-data residency.

0% markup. ה-tokens עצמם נגבים במחיר הספק המדויק — גם ב-pay-as-you-go וגם עם BYOK. זה השינוי הגדול מ-2025, ומה שהופך את ה-Gateway לזול יותר מ-OpenRouter בנפח גבוה. (העמלה היחידה ש-Vercel גובה היא עמלת עיבוד תשלום על רכישת הקרדיט עצמו — לא על ה-tokens.)

עלות מודלים נפוצים (מחיר ספק משוער, input / output ל-1M tokens):

המחירים מהספקים זזים כל הזמן, וגרסאות חדשות יוצאות כמעט מדי חודש. הטבלה כאן היא קירוב ליוני 2026 — השוו תמיד מול עמוד התמחור החי של כל ספק לפני שאתם נועלים החלטת תקציב.

מתי זה לא שווה

1. אתה משתמש במודל אחד ויחיד. אם כל הפרויקט בנוי על gpt-5.4-nano ואתה לא מתכוון להחליף — Gateway מוסיף שכבה מיותרת. תעבוד ישירות עם OpenAI SDK.

2. Latency קריטי. ה-overhead של ~100ms אולי לא נראה הרבה, אבל ב-real-time apps (live transcription, סוכני קול) זה משנה. שם תעבוד ישירות מול הספק.

3. אתה עובד עם מודל self-hosted. אם אתה מריץ Llama 4 או Mistral על שרת משלך — Gateway לא רלוונטי, ואתה ממילא משלם רק על GPU.

4. הפרויקט הוא Hobby אבסולוטי. אם אתה צורך פחות מ-$5 בחודש ב-AI, ה-$5 חינם ממילא מכסה אותך — אבל ה-fallback וה-observability הם הסיבה האמיתית להישאר, לא העלות.

פיטפולים שכדאי להכיר

פורמט שמות המודלים שונה מ-API הישיר. ב-Gateway זה anthropic/claude-opus-4.8 (נקודה), ב-API הישיר של Anthropic זה claude-opus-4-8 (מקף). העתקה של מחרוזת מ-tutorial אחד לקונטקסט אחר היא מקור באג נפוץ — תקבל ״model not found״ בלי הסבר ברור.

Vendor lock-in מתון. Gateway הוא של Vercel. אם תעבור ל-Cloudflare Workers, AWS Lambda או self-hosted — תצטרך לעבור ל-OpenRouter או SDK ישיר. הקוד נשאר דומה (AI SDK הוא agnostic), אבל מקור ה-credentials ישתנה.

קרדיט שנגמר חוסם גם BYOK. באג מתועד ומדווח: כש-יתרת הקרדיט של ה-Gateway מתאפסת, בקשות נחסמות גם אם הגדרת BYOK. הסיבה — כשבקשת BYOK נכשלת, ה-Gateway נופל אחורה ל-credentials של המערכת, וזה נגבה מהקרדיט שלך. השאר באלאנס מינימלי או נטר את היתרה.

ה-fallback לא מטפל ב-logic errors. אם GPT-5.5 מחזיר טקסט ״garbage״ — Gateway לא יודע, הוא יחזיר את זה. ה-fallback פועל רק על network errors, timeouts ו-rate limits. תקפו פלט תמיד בצד שלכם.

BYOK הוא prerequisite ל-features ייחודיים-לספק. אם אתה רוצה Anthropic prompt caching או computer use, אתה צריך לחבר את ה-API key שלך אצל Anthropic — ולא להישען רק על קרדיט Vercel.

Streaming דורש runtime נכון. ב-Edge functions ה-streaming עובד חלק; בכמה תצורות Node ישנות צריך לוודא שה-response לא מתבאפר. בדוק את ה-runtime לפני production.

שאלות נפוצות

האם Vercel AI Gateway חינמי?

יש $5/חודש בקרדיטים לכל team ללא תשלום — מספיק לבדיקות ולפרויקטים קטנים מאוד. אחרי שהקרדיט נגמר, המעבר ל-pay-as-you-go אוטומטי, ואתה משלם את מחיר הספק המדויק ללא markup. אין מנוי נפרד ל-Gateway עצמו — הוא חלק מהמסלול הקיים שלך ב-Vercel.

האם Vercel AI Gateway לוקח עמלה על כל קריאה?

לא ב-2026. ה-tokens נגבים במחיר הספק המדויק, ללא markup, גם ב-pay-as-you-go וגם עם BYOK. העמלה היחידה היא עמלת עיבוד תשלום על רכישת הקרדיט. זה הבדל מהותי מ-OpenRouter, שגובה 5.5% על רכישת קרדיט ו-5% על BYOK מעבר למיליון בקשות חינם בחודש. בנפח גבוה ההפרש הזה מצטבר.

מה ההבדל בין Vercel AI Gateway ל-OpenRouter?

שניהם נותנים API אחד לעשרות ספקי LLM. ההבדלים: ל-OpenRouter יותר מודלים (400+ כולל קהילתיים), הוא אגנוסטי לחלוטין, אבל גובה עמלות. ל-Gateway פחות מודלים אבל אינטגרציה מצוינת עם Next.js ו-Vercel AI SDK, fallback declarative מובנה, ו-0% markup. אם אתה ב-Vercel — Gateway. אם לא — OpenRouter.

איך מגדירים fallback אוטומטי בין מודלים?

המודל הראשי נכתב כרגיל ב-model, ומודלי הגיבוי עוברים כמערך ב-providerOptions.gateway.models. אין שדה fallback על model — זו טעות נפוצה. ה-Gateway מנסה את המודל הראשי, ואם הוא נכשל הוא עובר על מערך הגיבוי לפי הסדר עד שאחד עונה. ה-provider metadata של התגובה מחזיר modelAttempts עם פירוט מי נוסה ומי הצליח.

האם אפשר להשתמש ב-Vercel AI Gateway בלי Next.js או בלי Vercel?

כן. ה-Gateway חושף endpoint תואם-OpenAI (ai-gateway.vercel.sh/v1), כך שכל שפה או runtime שיכול לקרוא ל-OpenAI יכול לקרוא ל-Gateway עם מפתח. אבל יתרון ה-DX האמיתי — fallback אוטומטי, model strings ו-OIDC ללא keys — מגיע כשאתה בתוך פרויקט Vercel עם ה-AI SDK.

האם Vercel שומרים את הבקשות והתגובות שלי?

לא כברירת מחדל. ה-Gateway רץ במצב zero data retention — הוא מעביר את הבקשה לספק ולא שומר את הקלט או הפלט. אם תפעיל logs ידנית ב-dashboard, אז כן יישמרו metadata ותוכן לצורך debugging. למידע רגיש של לקוחות, השאר את ה-logs כבויים או השתמש ב-BYOK.

האם prompt caching של Anthropic עובד דרך ה-Gateway?

עובד, אבל features ייחודיים-לספק כמו prompt caching ו-computer use דורשים BYOK — כלומר חיבור מפתח Anthropic משלך. דרך קרדיט Vercel הסטנדרטי אתה מקבל את ה-API המנורמל, אבל לא בהכרח את כל ה-features הנישתיים של כל ספק.

לסיכום

לפרויקטי AI חדשים ב-Next.js — Vercel AI Gateway הוא ה-default הסביר ביותר ב-2026. הוא חוסך לך כתיבת abstraction layer, נותן fallbacks declarative מובנים (דרך providerOptions.gateway.models), מכניס observability איכותית בלי setup, ועם 0% markup הוא גם זול יותר מ-OpenRouter בנפח.

לפרויקטים שלא ב-Vercel — OpenRouter עושה את אותו דבר, עם פחות אינטגרציה אבל יותר מודלים (ובתמורה לעמלות).

לא לפרויקטים זעירים. לא לפרויקטים שמשתמשים במודל יחיד. כן לכל השאר. הכלל הפשוט: ברגע שאתה רוצה fallback או שתי בקשות לשני מודלים שונים — Gateway חוסך לך יותר זמן ממה שהוא עולה.

בונים פיצ׳ר AI ולא בטוחים איזה stack לבחור? 30 דקות שיחה חינם, ננתח את ה-use case ונחליט יחד. דבר איתי ב-WhatsApp.

מקורות

• Vercel AI Gateway Documentation
• Vercel AI Gateway Pricing
• Vercel AI Gateway — Model Fallbacks
• Vercel AI Gateway — Authentication & BYOK
• Vercel AI SDK Documentation
• AI Gateway blocks requests when credits depleted (BYOK) — GitHub Issue
• OpenRouter Pricing
• OpenRouter FAQ — fees & BYOK
• Anthropic Pricing
• OpenAI Pricing
• Google Gemini Pricing