החברה נוסדה ב-1995 בסנטה-קלרה בידי סהט סוטרדג'ה, אשתו ווילי דאי ואחיו פנטס סוטרדג'ה. המוצר הראשון היה ערוץ-קריאה לכונני-דיסק, והלקוחה הראשונה הייתה Seagate. היא הונפקה בנאסד״ק ביוני 2000, ולאורך השנים סיפקה רכיבים למוצרי-צריכה מוכרים — בהם שבב ה-Wi-Fi של דגם ה-iPhone הראשון ומעבדי ה-Chromecast של גוגל. ב-2016 הודחו שני המייסדים מתפקידיהם לאחר שקרן אקטיביסטית רכשה כ-7% מהמניות, ומאז מנהל אותה מאט מרפי. נכון ל-2026 היא מעסיקה כ-7,500 עובדים ומחזיקה למעלה מ-10,000 פטנטים.
הצמיחה שלה נעשתה בעיקר ברכישות, ושתיים מהן קובעות את מקומה בעולם הבינה המלאכותית. ב-2019 רכשה את Avera Semiconductor — חטיבת ה-ASIC המותאם-ללקוח שהייתה קודם של GlobalFoundries ולפני כן של IBM — וכך נכנסה לתחום תכנון מאיצים ייעודיים עבור לקוח יחיד, במקום שבב כללי הנמכר לכולם. ב-2021 רכשה את Inphi, שהביאה איתה את רכיבי העיבוד לתקשורת אופטית: השבבים שמעבירים נתונים בין מדפי-שרתים בקצב הנדרש כדי שאלפי מאיצים יתנהגו כמכונה אחת. לפני כן רכשה גם את Cavium (2018) ואת Aquantia (2019) בתחומי מעבדי-התשתית והרשת.
הצירוף הזה ממחיש עיקרון שקל להחמיץ בדיון על חומרת-AI: אשכול-אימון גדול אינו רק אוסף של מאיצים, אלא גם רשת שמחברת ביניהם. אם הקישוריות איטית מדי, מאיצים יקרים מבלים חלק ניכר מהזמן בהמתנה זה לזה. זו גם הסיבה שמארוול נחשבת, לצד Broadcom, לאחת משתי החברות שאליהן פונות ענקיות-הענן כשהן רוצות שבב משלהן.
לחברה יש גם נוכחות ישראלית ותיקה: בפברואר 2003 רכשה את RADLAN Computer Communications תמורת 49.7 מיליון דולר, ובמאי 2007 שולבה זו לתוכה תחת השם Marvell Software Solutions Israel. בהיסטוריה שלה נרשם גם אחד מפסקי-הדין הגדולים בתחום הפטנטים: ב-2016 הסכימה לשלם לאוניברסיטת קרנגי-מלון 750 מיליון דולר בפשרה על הפרת פטנטים בטכנולוגיית כונני-דיסק.