ארגון שרוצה לתכנן את עלויות ה-AI שלו צריך להפסיק לחשוב על רישיונות תוכנה, ולהתחיל לחשוב על יחידת ייצור. הטוקן הוא יחידת הייצור הזו, והתקציב הנכון נבנה מלמטה למעלה: כמה תהליכים, באיזו תדירות, כמה טוקנים לכל תהליך, ובאיזה מודל. כל שאר הגישות, כולל "נקנה רישיונות לכולם ונראה מה קורה", מסתיימות באותה שיחה מול ה-CFO ברבעון השלישי.
לאחרונה עולה שאלה קבועה בשיחות שאנו מבצעים עם הנהלות : "הרי המחירים של המודלים רק יורדים, אז למה ההוצאה שלנו על AI דווקא עולה?"
זו שאלה מצוינת, והתשובה עליה היא כנראה התובנה הכלכלית החשובה ביותר שמנהלים צריכים להבין על AI ב-2026. היא גם הסיבה שרוב תקציבי ה-AI שאנחנו רואים בארגונים בנויים על הנחות שגויות.
מהו טוקן, ולמה הוא הפך ליחידת המטבע של הארגון?
טוקן הוא יחידת העיבוד הבסיסית של מודל שפה. בערך שלוש רבעי מילה באנגלית, קצת פחות בעברית. כשאתם שולחים שאלה למודל, אתם משלמים על הטוקנים של השאלה (קלט), ועל הטוקנים של התשובה (פלט). פלט, דרך אגב, עולה פי ארבעה עד שישה מקלט, כי לייצר מילה חדשה דורש הרבה יותר חישוב מאשר לקרוא אחת.
עד כאן הטכני. העניין הכלכלי מתחיל במקום אחר:
בפעם הראשונה בהיסטוריה של התוכנה הארגונית, המחיר משולם על חשיבה, ולא על רישיון.
תוכנה ארגונית תומחרה עשרות שנים לפי משתמש: מספר רישיונות כפול מחיר חודשי קבוע. תקציב צפוי, ליניארי, נוח לתכנון. AI שובר את המודל הזה. אתם לא משלמים על מי שמחובר למערכת, אלא על כמה המערכת חושבת. העלות נקבעת על ידי התנהגות: כמה שאלות העובדים שואלים, כמה מסמכים המערכת קוראת, כמה צעדים הסוכן מבצע, כמה פעמים הוא נכשל ומנסה שוב.
מבחינה פיננסית, AI הוא הרבה יותר דומה לחשבון החשמל של הארגון מאשר לרישיון ה-CRM. וכמו חשמל, מי שלא מתקין מונה, מגלה את הצריכה רק כשמגיע החשבון.
הפרדוקס שמבלבל כל הנהלה: המחירים צונחים, החשבון עולה
הנה שני נתונים ששניהם נכונים, ושניהם צריכים להופיע באותו משפט:
מחיר הטוקן צנח בקצב של פי עשרה בשנה בממוצע מאז 2023. יכולת שהייתה שקולה ל-GPT-4 עלתה אז כ-30 דולר למיליון טוקני קלט. היום אפשר לקבל יכולת דומה או טובה יותר בעשרות סנטים בודדים.
ההוצאה הכוללת של ארגונים על AI עולה בעשרות אחוזים בשנה. Gartner מעריכה שההוצאה העולמית על מודלים ופלטפורמות AI תגיע ב-2026 לכ-64 מיליארד דולר, צמיחה של 63% בשנה אחת. ההוצאה על מודלים גנרטיביים צומחת ב-117%.
שני הנתונים האלה לא סותרים. הם מתארים חוק כלכלי בן 160 שנה.
ב-1865 הבין הכלכלן ויליאם סטנלי ג'בונס שכשהמכונות נהיות יעילות יותר בשריפת פחם, צריכת הפחם לא יורדת אלא עולה, כי פחם זול הופך משתלם במקומות חדשים. זה קרה לחשמל, למחשוב אישי, לרוחב פס ולענן. עכשיו זה קורה לחשיבה.
כשחשיבה עולה סנטים, פתאום משתלם לבדוק כל מייל נכנס, לנתח כל שיחת שירות, לנסח כל הצעת מחיר מחדש. הפער בין מה שהמחירון מבטיח למה שהחשבון מראה הוא לא בעיה של תמחור. הוא בעיה של צריכה. ולכן התשובה לעלויות AI לא תימצא במו"מ על מחיר הטוקן, אלא בארכיטקטורה של הצריכה בארגון.
מי שמתכנן תקציב לפי הנחת "המחירים ימשיכו לרדת" בונה את התקציב על חול. מי שמתכנן לפי "נצרוך יותר חשיבה בכל שנה, והשאלה היא רק אם נקבל עליה ערך" בונה על סלע.
מ"עלות לכל משתמש" ל"עלות לכל החלטה"
המעבר הכי חד שקורה כרגע הוא לא המחיר אלא יחידת המדידה. הוא קשור למעבר מצ'אטבוטים לסוכנים.
אינטראקציית AI פשוטה, שאלה ותשובה, עולה היום סדר גודל של עשירית סנט. סוכן AI, שמתכנן צעדים, קורא מסמכים, קורא לכלים חיצוניים, בודק את עצמו ומנסה שוב כשהוא נכשל, עולה בין 10 סנט לדולר אחד למחזור החלטה אחד. זו קפיצה של פי מאה עד פי אלף לאותה "אינטראקציה" אחת מול המשתמש. ניתוח של EY מראה מסלול דומה: אינטראקציה שעלתה כ-4 סנט ב-2023 עולה היום סביב 1.2 דולר, כשמוסיפים לולאות חשיבה, קריאות כלים וניסיונות חוזרים.
וזו לא תקלה במערכת. זו נקודה. הסוכן עושה עבודה שבן אדם היה עושה, ועבודה עולה כסף.
המסקנה התקציבית היא שצריך להפסיק לשאול "כמה עולה הכלי" ולהתחיל לשאול:
כמה עולה תוצר?
כמה עולה לטפל בפניית שירות מקצה לקצה? כמה עולה להפיק הצעת מחיר? כמה עולה לסגור דוח חודשי? ברגע שיש מספר לתוצר, אפשר להשוות אותו לעלות של התהליך הידני, ורק אז השיחה על ROI נהיית אמיתית ולא סיסמה במצגת.
ארגון שלא יודע כמה עולה לו תוצר, גם לא יודע אם ה-AI שלו רווחי. הוא רק יודע שהחשבון גדל.
כמה עולה טוקן בפועל?
המחירים משתנים כמעט כל רבעון, אז במקום טבלת מחירון שתהיה מיושנת בעוד חודשיים, הנה סדרי הגודל שחשוב להכיר (נכון לאמצע 2026, במחירי API לכל מיליון טוקנים):
רמת מודל | דוגמאות | קלט | פלט |
|---|---|---|---|
מודלי חזית (החזקים ביותר) | Claude Opus 5, GPT-5.6 Sol | 5-10$ | 25-50$ |
מודלים "עובדים" | Claude Sonnet 5, GPT-5.4, Gemini 3.1 Pro | 2-3$ | 10-15$ |
מודלים קטנים ומהירים | Gemini Flash-Lite, GPT-5.4 nano, Claude Haiku | 0.2-1$ | 1-5$ |
מודלים פתוחים / חלופיים | DeepSeek, Qwen, Mistral | 0.1-0.5$ | 0.3-1.5$ |
מודלי חשיבה מתקדמים (Reasoning) | o3, מצבי חשיבה מורחבת | 5-20$ | 20-80$ ומעלה |
שלוש נקודות ששוות יותר מהטבלה עצמה:
הפער בין מודלים הוא פי 100 לאותה משימה. אותו תהליך שירות יכול לעלות 24 דולר בחודש על מודל קטן או 2,550 דולר על מודל חזית. במרבית המשימות הארגוניות השגרתיות, סיווג פניות, חילוץ נתונים, ניסוח תשובות ראשוני, ההבדל באיכות בין מודל חזית למודל בינוני קטן בהרבה מההבדל במחיר. לשלוח את כל התעבורה למודל הכי חזק זו החלטה הנדסית הגיונית (פשוט יותר) והחלטה פיננסית קשה להצדקה.
מודלי חשיבה שורפים טוקנים שלא רואים. מודל reasoning "חושב" לפני שהוא עונה, והחשיבה הזו עולה טוקנים, לפעמים פי מאה ממה שהתשובה הסופית מרמזת. אם הערכתם עלות לפי אורך התשובה שקיבלתם, טעיתם בסדר גודל.
מחירון הכניסה הוא לא מחירון היציאה. ספקים מציעים מחירי השקה שקופצים אחרי כמה חודשים, תוספות על הקשר ארוך מעל 200 אלף טוקנים, ומחירי Cache ששונים פי עשרה ממחיר רגיל. חוזה ארוך מול ספק אחד, בשוק שבו המחירים יורדים פי עשרה בשנה, הוא כמעט תמיד עסקה גרועה לצד הקונה.
חמש עלויות נסתרות שלא מופיעות באף הצעת מחיר
כשאנחנו מנתחים חשבונות AI של ארגונים, העלות שהם תכננו (קריאות המודל המתוכננות) היא בדרך כלל רק חלק מהתמונה. הנה מה שמסתתר בשורות הבאות:
1. ההקשר שחוזר על עצמו. רוב היישומים שולחים את כל היסטוריית השיחה או המסמכים הרלוונטיים מחדש בכל קריאה. סוכן שירות עם 40 תורי שיחה, או כלי שמזין 20 אלף טוקנים של מסמכים בכל שאלה, הופכים את הקלט מפרט שולי לשורה הראשית בחשבון. מחקרים שמדדו את זה מצאו שגישת "לשלוח הכל בכל פעם" צורכת בממוצע כ-26 אלף טוקנים לשיחה, מול כ-1,800 בגישה של זיכרון סלקטיבי. פי 14, על אותה שיחה. אופי הזרימה של המידע למודל הוא החלטת תקציב לכל דבר, גם אם איש לא הציג אותה כך.
2. לולאות וניסיונות חוזרים. סוכן שנכשל מנסה שוב. סוכן זהיר בודק את עצמו. כל ניסיון חוזר וכל לולאת בדיקה הם קריאות מודל מלאות. כלל אצבע מקצועי: תוסיפו 30-50% לכל הערכת טוקנים תיאורטית. ארגונים שלא מוסיפים מגלים את הפער בחשבון הראשון.
3. הפלט המילולי. טוקני פלט עולים פי 4-6 מטוקני קלט. מערכת שמחזירה תשובות ארוכות ומנומסות משלמת על הנימוס במזומן. ההחלטה "כמה מילולי המוצר שלנו" נשמעת כמו החלטת חוויית משתמש. היא גם החלטה תקציבית, וכדאי שמישהו יתייחס אליה ככזו.
4. שכבת התשתית והתפעול. בסקרים של מי שבונה סוכנים ב-2026, עלות המודלים עצמם היא רק שכבה אחת מתוך חמש. מעליה: תשתית תזמור, מערכות הערכה ובדיקות איכות, פיקוח אנושי, וטיפול בכשלונות. כלל האצבע בשוק הוא שעלות הבעלות בשנה הראשונה גבוהה ב-40-80% מעלות הבנייה. אם בתקציב מופיעה רק שורת "API", התקציב חסר.
5. ממשל ובקרה. זו שורת התקציב הצומחת ביותר: מ-3-5% מתקציב ה-AI ב-2024 ל-8-12% ב-2026. ועדות היגוי, מדיניות שימוש, ניטור, עמידה ברגולציה. ארגונים מתייחסים לזה כעלות תקורה. זו טעות: זו הביטוח שמונע את הפרויקטים שמתפוצצים. Gartner מעריכה שמעל 40% מפרויקטי ה-AI הסוכנתי יבוטלו עד סוף 2027, בעיקר בגלל עלויות לא צפויות וערך לא מוכח. הביטוח הזה זול מהאלטרנטיבה.
דוגמה מספרית: כמה עולה סוכן שירות לקוחות בחודש?
כדי שזה לא יישאר תיאורטי, הנה חשבון פשוט על מקרה שאנחנו פוגשים הרבה: מרכז שירות שמטפל ב-5,000 פניות בחודש, עם סוכן שמבצע לכל פנייה כ-15 קריאות מודל, וצורך בסך הכול כ-60 אלף טוקני קלט ו-8 אלף טוקני פלט לפנייה.
בחירת מודל | עלות לפנייה | עלות חודשית |
|---|---|---|
מודל קטן (כ-0.2$ קלט / 1.2$ פלט) | כ-2 סנט | כ-108$ |
מודל בינוני (כ-2$ קלט / 10$ פלט) | כ-20 סנט | כ-1,000$ |
מודל חזית (כ-5$ קלט / 30$ פלט) | כ-54 סנט | כ-2,700$ |
אותה משימה בדיוק. פער של פי 25 בין הקצוות, וזה עוד לפני שהוספנו את ה-30-50% של לולאות וניסיונות חוזרים, ולפני תשתית, בקרה ופיקוח.
ומכאן השאלה האמיתית, שהיא כבר לא שאלה טכנולוגית: האם פניית שירות שמטופלת בעלות של חצי דולר במקום שמונה עד עשרה דולר של טיפול אנושי היא עסקה טובה? כמעט תמיד כן. האם היא עדיין עסקה טובה אם אפשר היה לטפל בה בשני סנט? כאן מתחיל ניהול תקציב AI.
איך בונים תקציב AI נכון: חמישה עקרונות
1. בונים מלמטה למעלה, לא מהתקציב למטה. הנוסחה הבסיסית: מספר תהליכים כפול תדירות חודשית כפול טוקנים לתהליך כפול מחיר למיליון, ועל זה מוסיפים 30-50% מרווח ללולאות ותקלות, ואז את שכבות התשתית והממשל. תקציב שנגזר מ-"כמה הקצינו לחדשנות השנה" ייפגע מהמציאות. תקציב שנגזר מתהליכים ישרוד אותה.
2. מתקצבים לתוצר, לא לכלי. במקום שורת "כלי AI" בתקציב, צריכות להופיע שורות כמו "הפקת הצעות מחיר", "טיפול בפניות שירות", "דוחות רגולטוריים". לכל שורה יש בעלים, יעד עסקי, ומחיר יעד לתוצר. זה גם מה שמאפשר לעצור תהליך שלא מצדיק את עצמו בלי לפגוע באלה שכן.
3. מנתבים בין מודלים. הנתון של Gartner ששווה לזכור: הקטגוריה הצומחת ביותר ב-2026 היא לא מודלי החזית אלא מודלים ייעודיים וממוקדי-תחום, צמיחה של 210%. השוק עצמו אומר לכם שאת רוב התעבורה צריך לנתב למודלים קטנים וזולים, ואת מודלי החזית לשמור ל-10-20% של המשימות שבאמת דורשות אותם. ניתוב (Routing) הוא היום מנוף החיסכון הגדול ביותר שקיים, גדול מכל הנחת כמות.
4. משתמשים במנופי ההנחה שכבר קיימים. שני מנופים שמפתיע כמה ארגונים לא מפעילים: שמירה במטמון של הקשרים חוזרים (Prompt Caching) מוזילה את חלק הקלט בעד 90% בחלק מהספקים, ועבודות שלא דורשות תשובה מיידית (סיווג לילי, סיכומי מסה, העשרת נתונים) מקבלות הנחה של כ-50% בממשקי Batch. תהליך שרץ בלילה על כמויות לא צריך לשלם מחיר של צ'אט בזמן אמת.
5. שומרים על חופש תנועה. בשוק שבו המחיר יורד פי עשרה בשנה והמודל המוביל מתחלף כל רבעון, הנכס הכי חשוב הוא היכולת להחליף מודל בלי לכתוב מחדש את המערכת. שכבת ביניים (Gateway) שמנתקת את התהליכים העסקיים מהספק הספציפי היא לא מותרות טכנית. היא האופציה הפיננסית שלכם על עתיד זול יותר.
AI FinOps: מי משלם, מי מאשר, מי עוצר
התחום שנקרא FinOps, ניהול פיננסי של תשתיות ענן, הגיע ל-AI, והוא נראה קצת אחרת ממה שמכירים. בענן סופרים שרתים ושעות. ב-AI צריך לעקוב אחרי מי קרא לאיזה מודל, כמה טוקנים, באיזה תהליך, ובשביל איזה תוצר.
שלושה מנגנונים שמבדלים ארגונים ששולטים בהוצאה מאלה שמופתעים ממנה:
שקיפות (Showback) ואז חיוב פנימי (Chargeback). בשלב הראשון כל יחידה רואה את צריכת הטוקנים שלה. בשלב השני היא משלמת עליה מהתקציב שלה. המחקר בתחום עקבי: צוותים שיודעים שהחשבון יירשם על שמם בונים אחרת מאשר צוותים שצורכים מתקציב משותף. כל עוד ה-AI הוא "מתנה מההנהלה", אף אחד לא כיבה אור.
תיוג ברמת התהליך, לא ברמת המחלקה. לדעת ש"שירות הלקוחות הוציא X" לא עוזר. לדעת שהסוכן שמטפל בבירורי חיוב עולה פי שלושה מהסוכן שמטפל בשאלות מכירה, כבר אומר איפה לייעל ואיפה להרחיב.
תקציבים, התראות ומעצורים. ספק נתון שצריך להטריד כל הנהלה: לפי הערכות בשוק, רק כחמישית מהארגונים שמפעילים סוכני AI יודעים בכל רגע מה הם עושים וכמה זה עולה. התראה ב-80% מהתקציב החודשי, ועצירה אוטומטית ב-100%, הם לא חוסמים חדשנות. הם מה שמאפשר לתת לחדשנות לרוץ בלי פיקוח צמוד.
וזו אולי הנקודה הכי לא אינטואיטיבית במאמר הזה: הסיכון התקציבי הגדול ביותר שלכם הוא לא חשבון הטוקנים, אלא פרויקטים שלא מייצרים ערך. חשבון גבוה על תהליך שמחזיר פי חמישה את עלותו הוא בעיה טובה. חשבון "סביר" על עשרה פיילוטים שאף אחד לא מדד הוא הבזבוז האמיתי. ניהול עלויות AI מתחיל במדידת ערך, לא בקיצוץ טוקנים.
מתי דווקא לא כדאי לייעל?
נקודה אחרונה, וחשוב לומר אותה בקול: בשוק שבו המחיר ליחידה יורד פי עשרה בשנה, אופטימיזציה מוקדמת מדי היא בזבוז של משאב הנדסה יקר. אם הפיילוט שלכם עולה 200 דולר בחודש בטוקנים, אל תשקיעו שבועיים של מהנדס בחיסכון של 80 דולר. הזמן של המהנדס שווה יותר, ועוד שנה אותה עבודה תעלה פחות ממילא.
הכלל: בשלב הפיילוט ממטבים ללמידה, לא לעלות. אופטימיזציה אגרסיבית מתחילה כששורת הטוקנים מגיעה לסדר גודל שמשנה ל-P&L. עד אז, העלות שצריך לנהל בקפידה היא עלות ההקמה, ההכשרה והשינוי הארגוני, שהן כמעט תמיד גדולות מחשבון ה-API.
שאלות נפוצות על כלכלת טוקנים ותקציב AI
מה זה טוקן במילים פשוטות?
יחידת טקסט שהמודל מעבד, בערך שלוש רבעי מילה. כל קריאה למודל מתומחרת לפי מספר טוקני הקלט שנשלחים אליו ומספר טוקני הפלט שהוא מייצר, כשטוקני פלט עולים בדרך כלל פי ארבעה עד שישה יותר.
למה חשבון ה-AI שלנו עולה למרות שמחירי הטוקנים יורדים?
כי הצריכה גדלה מהר מהירידה במחירים. ארגונים מפעילים יותר תהליכים, עוברים לסוכנים שצורכים פי מאה יותר טוקנים לאינטראקציה, ומודלי חשיבה צורכים טוקנים נסתרים. זהו פרדוקס ג'בונס: ככל שחשיבה זולה יותר, צורכים יותר ממנה.
כמה כדאי להקצות לתקציב AI בשנה הראשונה?
אין מספר אוניברסלי, אבל כן יש מבנה: תקציב רישיונות לעובדים, תקציב טוקנים לתהליכים מוטמעים, עלויות הטמעה ואינטגרציה (לרוב השורה הגדולה ביותר), ו-8-12% לממשל ובקרה. תקציב שכולל רק רישיונות וטוקנים הוא תקציב חסר.
מה ההבדל בין תקציב רישיונות לתקציב טוקנים?
רישיונות (כמו ChatGPT Enterprise או Copilot) הם עלות קבועה למשתמש וקלים לתכנון. טוקנים הם עלות משתנה לפי צריכה, שמופיעה כשמשלבים AI בתהליכים דרך API. רישיון קונים פעם בשנה; צריכת טוקנים צריך לנהל כל חודש.
איך מעריכים את העלות של פיילוט AI?
ממפים את צעדי התהליך, מעריכים טוקני קלט ופלט לכל צעד, מכפילים בתדירות החודשית הצפויה ובמחיר המודל, ומוסיפים 30-50% מרווח ללולאות, ניסיונות חוזרים וטעויות. את המספר הזה מתייחסים כרצפה, לא כתקרה.
מה זה AI FinOps?
התחום שמיישם על הוצאות AI את המשמעת שפותחה לענן: שקיפות צריכה ברמת צוות ותהליך, חיוב פנימי של יחידות על הצריכה שלהן, תקציבים והתראות, ואופטימיזציה שוטפת של בחירת מודלים, מטמון וניתוב.
מתי משתלם להריץ מודל פרטי במקום API?
כשהנפח גבוה ויציב, כשדרישות רגולציה או סיווג מחייבות שהמידע לא יצא מהארגון, או כשמשימה חוזרת מצדיקה כיול (Fine-tuning) של מודל קטן. עד אז, API כמעט תמיד זול יותר כשמחשבים את עלות התשתית, התחזוקה והכישרונות.
מתחילים מהתהליך, לא מהמחירון
כלכלת הטוקנים מחזירה את ניהול ה-AI למקום שהוא תמיד היה צריך להיות: שאלות עסקיות פשוטות. איזה תהליך שווה לנו לייצר בחשיבה ממוכנת? כמה התוצר הזה עולה לנו היום? ומה יקרה לעלות ולערך כשנפעיל עליו סוכן?
ארגונים שעונים על השאלות האלה לפני שהם קונים מגלים שהחשבון כמעט אף פעם לא מפתיע אותם. ארגונים שמתחילים מהרכש מגלים את כלכלת הטוקנים בדרך הקשה, בשורת ההוצאות.
רוצים להבין איך ליישם את העקרונות בארגון שלכם? דברו איתנו
או קראו עוד על הטמעת בינה מלאכותית בארגונים
