מערכת הפעלה (Operating System)

מערכת ההפעלה היא השכבה שבין החומרה לתוכנות שהמשתמש מפעיל בפועל: היא מקצה זיכרון, מתזמנת אילו תוכניות רצות מתי, ומספקת ממשק אחיד כדי שכל תוכנה לא תצטרך "לדבר" ישירות עם החומרה.

שרתים שמריצים מודלי AI בענן רצים לרוב על מערכות הפעלה מבוססות-לינוקס, מותאמות לביצועים ולניהול משאבים בקנה-מידה גדול — שונות ממערכת ההפעלה על מחשב אישי ביתי.