מה מודד רווח גולמי
רווח גולמי הוא מה שנשאר מההכנסה אחרי העלויות הישירות של אספקת המוצר. בתוכנה קלאסית זו הייתה השורה המשעממת בדוח: עותק נוסף כמעט אינו עולה דבר, ולכן כמעט כל שקל הכנסה נותר בידי החברה. במוצר AI השאלה חזרה למרכז, מפני שכל בקשה בודדת של משתמש צורכת חישוב אמיתי אצל הספק — ההוצאה אינה חד-פעמית אלא נגררת עם כל שימוש, וגדלה יחד עם ההצלחה.
הטענה של a16z מ-2020
המסמך שקבע את מסגרת-הדיון הוא פוסט של קרן ההון-סיכון Andreessen Horowitz מ-16 בפברואר 2020, מאת מרטין קסאדו ומאט בורנשטיין. לפי מה שראו בנתונים הפיננסיים של חברות AI שבחנו, הרווח הגולמי שלהן נע לעיתים קרובות בטווח 50%–60%, לעומת טווח של 60%–80% ומעלה בעסקי תוכנה כשירות דומים, ולעומת 30%–50% בעסקי-שירותים. הם כתבו גם שחברות AI מוציאות לא אחת 25% ומעלה מההכנסה על משאבי ענן. ההסתייגות חשובה: אלה מספרים משנת 2020 ולא מדידה עדכנית. בהערת-המקורות שבסוף הפוסט מציינים המחברים מאיפה הגיע כל אומדן — אומדני הרווח הגולמי של חברות ה-AI התבססו על כמה ריאיונות עם מייסדי סטארט-אפים ב-AI, אומדני התוכנה-כשירות על מדגם חברות ציבוריות, ואומדני חברות-השירותים על דוחות 10-K.
למה העלות אינה נעלמת עם הגודל
אותו פוסט מונה את המקורות. אימון מודל עולה כסף, והוא אינו הוצאה חד-פעמית, כי הנתונים משתנים עם הזמן ונדרש אימון-מחדש. ההסקה — הרגע שבו המודל מייצר תשובה — כרוכה בסדרת חישובים כבדה בהרבה מקריאה ממסד-נתונים. מוצרי AI עובדים לעיתים קרובות על תמונות, קול ווידאו, שיקרים לאחסן ולעבד. ולחלק מהחברות נוספת עלות של העברת מודלים בין אזורי ענן. הצטברות הגורמים האלה היא הסיבה שעלות-האספקה אינה מתכנסת לאפס כמו בתוכנה. הפוסט הצביע גם על כיוון-ההקלה — מעבדים ייעודיים ל-AI וטכניקות ייעול כמו דחיסת מודלים, שמקטינות את כמות החישוב הנדרשת לכל תשובה — אבל אלה מוזילים את עלות-האספקה ואינם הופכים אותה לאפסית.
הצלע השנייה: אנשים בתוך הלולאה
הגורם השני שהפוסט מצביע עליו הוא אנושי. מוצרי AI רבים נשענים על בני-אדם כדי להגיע לדיוק גבוה — לתייג נתונים, לבדוק פלט או לטפל במקרים שהמודל אינו מצליח בהם. הנקודה החדה שם היא שהשניים כרוכים זה בזה: הפחתת עלות-הענן נוטה להגדיל את עלות-האדם, ולהפך. אפשר לייעל כל אחד מהם, אבל לפי אותו מקור אף אחד מהם אינו מגיע לרמות-העלות האפסיות שמאפיינות תוכנה כשירות.
מה חברות עושות עם זה
מכאן נגזרות כמעט כל ההחלטות המוצריות שנראות מבחוץ כטכניות. בחירת מודל קטן וזול למשימה שאינה דורשת את החזק ביותר, שימוש חוזר בהקשר שכבר נשלח, ועיבוד באצווה כשהתשובה אינה דחופה — כולם מופיעים בערך תמחור-לפי-טוקן כהנחות שהספקים מציעים בפועל, ומהצד של הקונה הם קודם כול כלים לניהול עלות-האספקה. רכישת תפוקה מוקצית מראש היא כלי אחר לאותה מטרה: החלפת הוצאה משתנה בהוצאה קבועה שאפשר לתכנן. וכשמאמנים מודל, גם רישוי נתוני-אימון הוא סעיף-עלות ולא רק שאלה משפטית.
איפה המשתמש רואה את זה
הרווח הגולמי הוא ההסבר הפשוט לכמה תופעות שנראות שרירותיות: למה לגרסה החינמית יש מכסה ולא רק פרסומות, למה קיימת הגבלת קצב גם ללקוחות משלמים, ולמה מסלול "ללא הגבלה" נדיר בתחום הזה. כל אלה הם ניהול של עלות-אספקה שאינה נעלמת. יש להבחין בין השאלה הזו לשאלה הסמוכה לה — מה קורה כשמחיר ההסקה יורד. ההשפעה על היקף הביקוש הכולל נדונה בערך אחר (פרדוקס ג'בונס).