תשתית בינה מלאכותית (AI Infrastructure)

מה זה, במילים פשוטות

כשמדברים על בינה מלאכותית, מדברים בדרך כלל על המודל — על מה שהוא יודע לכתוב, לצייר או לענות. אבל כל מודל רץ על משהו פיזי מאוד: שבבים, שרתים, כבלים, מבנים, מזגנים וחשמל. את כל אלה יחד מכנים תשתית בינה מלאכותית. אפשר לחשוב על זה כמו על חשמל בבית: הקורא רואה את המנורה דולקת, ולא את תחנת הכוח, קווי המתח והשנאים שמאחוריה. התשתית משרתת שני שלבים שונים בחיי המודל. באימון, המודל לומד מכמויות גדולות של נתונים. בהסקה, המודל המוכן עונה למשתמשים, וכל שאלה ששואלים צ'אטבוט מפעילה לרגע חלק מהתשתית הזו. שני השלבים צורכים חישוב, זיכרון, תקשורת וחשמל, ובשניהם אפשר לפגוש את אותם צווארי בקבוק. הערך הזה מסביר מהן השכבות; ערכים אחרים באתר עוסקים בהיקף ההשקעות בהן ובשאלה אם הן משתלמות.

השבבים: הלב של המערכת

השכבה הבסיסית היא השבבים שמבצעים את החישובים. לפי ויקיפדיה, מעבדים גרפיים מודרניים של חברות כמו אנבידיה ו-AMD כוללים רכיבים ייעודיים לחישובי מטריצות ברמת דיוק נמוכה, ומשמשים מאיצי בינה מלאכותית נפוצים הן לאימון והן להסקה. לצידם יש שבבים שתוכננו מראש לבינה מלאכותית, ובהם ה-TPU של גוגל ו-Trainium ו-Inferentia של אמזון, שמוצעים בשירותי הענן של החברות. ויקיפדיה מבדילה בין שני עולמות: מאיצים קטנים וחסכוניים בחשמל בתוך טלפונים ומחשבים אישיים, שמריצים מודלים קטנים, לבין מאיצים במרכזי נתונים, שמטפלים בעבודה בקנה מידה גדול. ליד המעבד יושב זיכרון מהיר במיוחד — למשל, לפי ויקיפדיה, ב-TPU v4 יש ארבע ערמות של זיכרון ברוחב פס גבוה (HBM). את רוב השבבים המתקדמים האלה אין מייצרות החברות שמתכננות אותם: TSMC הטאיוואנית, שמחזיקה לפי ויקיפדיה כ-70 אחוזים משוק ייצור השבבים בהזמנה, מייצרת עבור חברות כמו אנבידיה ואפל.

מרכז הנתונים: הבניין

השבבים מותקנים בשרתים, והשרתים מותקנים במרכזי נתונים. ויקיפדיה מגדירה מרכז נתונים כחדר, בניין או מתקן לאחסון, ניהול והפצה של נתונים ומידע, כולל מערכות המחשב והרכיבים הנלווים להן. מרכז נתונים אינו רק אולם מלא מחשבים. הוא צריך אספקת חשמל רציפה, ולכן יש בו מערכות אל-פסק, סוללות וגנרטורים. הוא צריך קירור, כי השרתים מפיקים חום רב: ויקיפדיה מונה בין השיטות מיזוג אוויר, שימוש באוויר מבחוץ, קירור באידוי עקיף וקירור במי ים, וכן הפרדה בין מעברים חמים לקרים בין שורות השרתים. לפי ויקיפדיה, במרכזי נתונים גדולים מאוד צפיפות ההספק גבוהה פי יותר ממאה מזו של בניין משרדים רגיל. מרכזי נתונים שנבנים במיוחד לבינה מלאכותית צפויים לפי ויקיפדיה לדרוש פי 20 בערך מהחשמל של מתקנים רגילים, ולכן החשמל הוא השכבה הבאה.

הרשת: לחבר אלפי שבבים למחשב אחד

מודל גדול לא נכנס לשבב אחד. כדי לאמן אותו, מספר גדול מאוד של שבבים צריך לעבוד יחד כאילו היה מחשב אחד, ולהעביר נתונים בין השבבים כל הזמן. לכן הרשת שמחברת אותם היא חלק מרכזי בתשתית, ולא פרט טכני. אחד התקנים הבולטים בתחום הוא InfiniBand, שלפי ויקיפדיה היה בין 2014 ליוני 2016 טכנולוגיית החיבור הנפוצה ביותר ברשימת 500 מחשבי העל החזקים בעולם, ומאז נדחק בחלקו על ידי רשתות Ethernet. לישראל תפקיד מרכזי בשכבה הזו. במרץ 2019 הודיעה אנבידיה על רכישת מלאנוקס מיקנעם, ספקית מוצרי InfiniBand ו-Ethernet, תמורת 6.9 מיליארד דולר. לפי הודעת אנבידיה, המוצרים של מלאנוקס חיברו אז יותר ממחצית ממחשבי העל המהירים בעולם, ומנכ"ל אנבידיה ג'נסן הואנג הסביר שהמטרה היא ארכיטקטורות שמחברות מספר עצום של צמתי חישוב מהירים ברשתות חכמות. לפי ויקיפדיה, מלאנוקס הייתה הספקית העצמאית האחרונה של מוצרי InfiniBand.

החשמל: המשאב שקובע את הקצב

כל השכבות האלה נשענות על חשמל. לפי הסוכנות הבינלאומית לאנרגיה (IEA), מרכזי הנתונים בעולם צרכו ב-2024 כ-415 טרה-וואט-שעה, כ-1.5 אחוזים מצריכת החשמל העולמית, והצריכה צפויה להגיע לכ-945 טרה-וואט-שעה ב-2030. הסוכנות קובעת שבינה מלאכותית היא המניע החשוב ביותר של הצמיחה הזו. לפי הדוח, מרכז נתונים טיפוסי שמתמקד בבינה מלאכותית צורך חשמל כמו 100,000 משקי בית, והגדולים שנמצאים כעת בבנייה יצרכו פי 20. איפה הולך החשמל? לפי הסוכנות, השרתים אחראים בממוצע לכ-60 אחוזים מצריכת החשמל במרכז נתונים מודרני; הקירור — מכ-7 אחוזים במרכזים יעילים מאוד ועד יותר מ-30 אחוזים במרכזים פחות יעילים; האחסון לכ-5 אחוזים; וציוד הרשת לעד 5 אחוזים. הסוכנות צופה שצריכת החשמל של שרתים מואצים, שמונעת בעיקר מאימוץ בינה מלאכותית, תגדל ב-30 אחוזים בשנה בתרחיש הבסיס, לעומת 9 אחוזים בשרתים רגילים.

מי בונה, מי שוכר ומי משלם

חברות רבות אינן קונות שבבים ובונות מרכז נתונים, אלא שוכרות כוח חישוב מספקי ענן, שמציעים גם מעבדים גרפיים וגם שבבים ייעודיים משלהם. מכאן שהתשתית היא גם עסק עצום, ומעורבים בו חברות ענן, יצרניות שבבים, חברות בינה מלאכותית וממשלות. דוגמה להיקף: לפי ויקיפדיה, ב-21 בינואר 2025 הכריז נשיא ארצות הברית דונלד טראמפ בבית הלבן על המיזם סטארגייט של OpenAI, סופטבנק, אורקל וקרן ההשקעות MGX, שמתכנן להוציא עד 500 מיליארד דולר על תשתית בינה מלאכותית בארצות הברית עד 2029, והאתר הראשון שלו נבנה באבילין שבטקסס. היקף ההשקעות בכל התעשייה, והוויכוח אם ההכנסות מבינה מלאכותית יצדיקו אותן, מתוארים בערכים נפרדים באתר. מבחינת הקורא, השורה התחתונה פשוטה: כל תשובה של צ'אטבוט נשענת על שרשרת פיזית ארוכה, ומחירה, מהירותה וזמינותה תלויים בשבבים, ברשת ובחשמל לא פחות מאשר במודל עצמו.