SambaNova הוקמה בנובמבר 2017 בסן-חוזה שבקליפורניה בידי קונלה אולוקוטון וכריסטופר רה, שני חוקרים מסטנפורד, ורודריגו ליאנג, מנהל לשעבר באורקל. הבסיס הטכנולוגי צמח ממחקר על מערכי-מיקרו-מעבדים ללמידת-מכונה שמומן בידי DARPA, סוכנות המחקר המתקדם של משרד ההגנה האמריקאי — דפוס מוכר בתולדות תעשיית השבבים, שבו מימון ביטחוני מוקדם מוביל למוצר אזרחי.
המעבד שהיא מפתחת נקרא RDU — יחידת זרימת-נתונים בת-תצורה. ההבדל מ-GPU עקרוני: במקום צינור-פקודות קבוע שהמודל צריך להתאים את עצמו אליו, מסלולי הנתונים בתוך השבב מוגדרים מחדש לפי צורת המודל שרצים עליו. המטרה היא לצמצם את תנועת הנתונים בתוך המערכת, שהיא המרכיב שצורך את רוב האנרגיה ואת רוב הזמן בהרצת מודלים גדולים. הדגם SN40L, שהוצג ב-2023, מיועד בעיקר להסקה על מודלים גדולים, כלומר לשלב שבו המודל כבר מאומן ורק צריך לענות. הרעיון הזה — התאמת החומרה למודל במקום התאמת המודל לחומרה — הוא הקו המשותף לרוב מתחרותיה של NVIDIA, וכל אחת מהן מנסה אותו בדרך אחרת.
בין 2018 ל-2021 גייסה החברה כ-1.1 מיליארד דולר, ובאפריל 2021 הוערכה ב-5.1 מיליארד דולר. היא אינה מוכרת שבבים בודדים אלא מערכות שלמות, חומרה ותוכנה יחד — החלטה שמפשטת את חיי הלקוח ובה-בעת קושרת אותו לספק אחד. מוצר התוכנה שלה, SambaNova Suite, נכלל ברשימת ההמצאות של השנה של מגזין Time ב-2024, והחברה נכללה ב-2026 ברשימת AI 50 של Forbes.
המערכות שלה מותקנות בעיקר במוסדות מחקר ציבוריים: מעבדת ארגון הלאומית בארצות-הברית שילבה אותן במתקן הבדיקות שלה ל-AI, ומרכז המחשוב R-CCS של מכון ריקן ביפן מפעיל אותן לצד מחשב-העל Fugaku. זהו דפוס מוכר בקרב מתחרותיה של NVIDIA: אימוץ מוקדם בקהילת המחקר, שבה יש נכונות גבוהה יותר להתאים קוד לחומרה חדשה, לפני ניסיון להיכנס לשוק המסחרי הרחב.