זו אחת השאלות שנשאלות הכי הרבה, ובמשך שנים הסתובבו בה מספרים מנופחים. ההערכות המעודכנות נמוכות בהרבה. מכון המחקר Epoch AI העריך את צריכת החשמל של שאילתת ChatGPT טיפוסית בכ-0.3 וואט-שעה, ומחקר שפרסמה גוגל ב-2025 הגיע למספר דומה עבור Gemini — חציון של כ-0.24 וואט-שעה לבקשת טקסט.
כדי לתת לזה קנה-מידה: 0.3 וואט-שעה הם בערך מה שנורת לד ביתית צורכת בפחות מדקה, או כמה שניות של הרתחת מים בקומקום חשמלי.
המספר החשוב יותר הוא הפיזור, ולא הממוצע. חוקרים מאוניברסיטת מישיגן מדדו ב-2024 את משפחת מודלי Llama 3.1 של Meta ומצאו הפרש של פי חמישים ושמונה בין הקצוות: מודל בגודל 8 מיליארד פרמטרים צרך כ-0.03 וואט-שעה לתשובה, בעוד המודל בן 405 מיליארד הפרמטרים הגיע לכ-1.86 וואט-שעה. גודל המודל, אורך התשובה, ובמודלים חדשים גם כמות ה"חשיבה" לפני המענה — כל אלה משנים את התוצאה בסדרי גודל.
לצד החשמל נמדדת גם צריכת המים לקירור, ובאותו מחקר של גוגל מ-2025 עמד החציון לבקשת טקסט על כ-0.26 מיליליטר — כחמש טיפות. גם כאן, המספר לשאילתה בודדת קטן מכדי שאדם ירגיש בו.
לכן שני דברים יכולים להיות נכונים בו-זמנית: שאילתה בודדת היא זניחה מבחינה אנרגטית, ובמצטבר מדובר בצריכה משמעותית. מיליארדי בקשות ביום מסכימות למספרים שמופיעים בדוחות הסוכנות הבינלאומית לאנרגיה, שהעריכה את צריכת החשמל של מרכזי הנתונים בעולם בכ-415 טרה-וואט-שעה ב-2024.
כל המספרים כאן הם הערכות מ-2024 ומ-2025, וסביר שיתעדכנו לשני הכיוונים. מצד אחד החומרה מתייעלת, ולפי דוח מדד ה-AI של סטנפורד ממהדורת 2025 היעילות האנרגטית משתפרת בכ-40 אחוזים בשנה. מצד שני, מודלים חדשים משקיעים יותר חישוב בכל תשובה — ובמודלים שמייצרים שרשרת חשיבה לפני המענה, אותה שאלה עצמה עשויה לצרוך פי כמה ממה שצרכה לפני שנה.