Deci AI נוסדה ב-2019 על ידי יונתן גייפמן, רן אל-יניב ויונתן אליאל, ועסקה בשאלה מעשית שמתעוררת רק אחרי שמודל כבר עובד: כמה הוא עולה להריץ.
מודל למידה עמוקה שמגיע לדיוק גבוה במעבדה עשוי להיות איטי ויקר מדי בייצור, במיוחד כשצריך להריץ אותו על טלפון, על מצלמה או בכל סביבה מוגבלת-משאבים. הגישה המקובלת היא לכווץ מודל קיים — למשל בקוונטיזציה, הפחתת הדיוק המספרי של המשקולות — במחיר של פגיעה מסוימת באיכות. Deci ניגשה מכיוון אחר: במקום לכווץ ארכיטקטורה שכבר נבחרה, היא בנתה מנוע אוטומטי בשם AutoNAC שחיפש ארכיטקטורה חלופית המותאמת מראש לחומרה שעליה המודל אמור לרוץ. הרעיון נשען על תחום מחקרי המכונה חיפוש ארכיטקטורה עצבית, שעד אז נחשב יקר מדי לשימוש מסחרי.
תוצריו כללו את משפחת המודלים DeciNets ואת מודל זיהוי-העצמים YOLO-NAS, ששוחרר ב-2023 וזכה לשימוש רחב בקהילת הראייה-הממוחשבת. הפלטפורמה של החברה ליוותה את כל מחזור-החיים — בנייה, ייעול ופריסה לענן, לקצה ולנייד — ולא רק את שלב האופטימיזציה עצמו.
באפריל 2024 דיווח כלכליסט שאנבידיה רוכשת את Deci בכ-300 מיליון דולר. הרכישה נעשתה באותו שבוע שבו הודיעה אנבידיה על רכישת Run:AI הישראלית ב-700 מיליון דולר — שתי עסקאות בסך מיליארד דולר בשבוע אחד, ושתיהן בתחום התשתית להרצת מודלים ולא במודלים עצמם. הצירוף הזה סימן את האסטרטגיה של יצרנית השבבים: לא להסתפק בחומרה, אלא לשלוט גם בשכבת התוכנה שקובעת כמה ביצועים מפיקים ממנה. הצוות שולב בפעילות אנבידיה בישראל, שהתרחבה מאוד בשנים שלאחר-מכן.
בהקשר רחב יותר, החברה שייכת לקבוצה של חברות ישראליות שעסקו לא במודלים אלא בעלות ההרצה שלהם. ככל שמודלים גדלו, השאלה כמה עולה כל תשובה הפכה מרכזית לא פחות מהשאלה כמה המודל חכם — ובשוק שבו כל אחוז של חיסכון בחומרה מסתכם במיליונים, זו נקודה שתאגידים מוכנים לשלם עליה.