Fireworks AI נוסדה ב-2022 בסן-מטאו שבקליפורניה בידי קבוצת מהנדסים לשעבר של מטא. המייסדת-השותפה והמנכ"לית, לין צ'או, ניהלה שם את צוות PyTorch — ספריית הפיתוח שרוב מחקר הבינה המלאכותית בעולם נכתב בה. הרקע הזה מסביר היטב את התמחות החברה: לא בניית מודלים, אלא התשתית שמריצה אותם.
היא אינה מאמנת מודלים משלה. היא מריצה מודלים של אחרים — בעיקר כאלה שמשקליהם פתוחים — כשירות, ומתחרה על שני פרמטרים בלבד: כמה מהר מתקבלת תשובה, וכמה עולה טוקן. זו שכבת ההסקה, וחשיבותה גדולה יותר משנדמה. בעלות הכוללת של מוצר-AI פעיל, האימון הוא הוצאה חד-פעמית, ואילו כל תשובה שנמסרת למשתמש עולה כסף שוב ושוב, כל יום, לאורך כל חיי המוצר. חברות כמו Fireworks הן מי שמנסות להוריד את המחיר הזה, בין השאר על ידי אופטימיזציה של האופן שבו המודל נטען ומורץ על החומרה.
דוגמה קונקרטית לשימוש: ב-2024 השתמשה בה Cursor, סביבת-הפיתוח מבוססת הבינה המלאכותית, כדי להפעיל את מודל Fast Apply שלה ואת מנגנון העריכה המשוערת שפיתחה — מנגנון שנועד לקצר את זמן ההמתנה של מתכנת בין בקשה לתוצאה.
קצב הגיוסים ממחיש כמה השכבה הזו נחשבת: 52 מיליון דולר בסבב B ביולי 2024 בהובלת Sequoia, שהעמיד את סך הגיוס עד אז על 77 מיליון; 250 מיליון דולר בסבב C באוקטובר 2025 לפי שווי של ארבעה מיליארד; ו-1.51 מיליארד דולר בסבב D ביולי 2026 לפי שווי של 17.5 מיליארד. נכון ל-2026 הצמיחה של שכבת ההרצה — ולא של מודל מסוים כלשהו — היא אחד הסימנים הברורים לכך שהבינה המלאכותית עברה משלב המחקר לשלב שבו היא מוצר שמופעל בפועל בקנה-מידה גדול. הסיכון המובנה בעסק כזה ברור באותה מידה: הוא תלוי בכך שימשיכו להתפרסם מודלים פתוחים שיש טעם להריץ.