צריכת האנרגיה של שאילתה בודדת (Energy Per Query)

מ-3 וואט-שעה ל-0.3: איך ההערכה המצוטטת ביותר התחלפה

ההערכה שהסתובבה הכי הרבה ברשת בין 2023 ל-2024 — כ-3 וואט-שעה לשאילתת ChatGPT בודדת, פי עשרה מחיפוש בגוגל — הגיעה ממחקר של אלכס דה-פריז מ-2023, שהניח כ-2,000 טוקני-פלט ו-4,000 טוקני-קלט לשאילתה טיפוסית: כמות טקסט ארוכה בהרבה מרוב השאלות בפועל.

מכון המחקר Epoch AI פרסם בפברואר 2025 חישוב מחדש, עם הנחות עדכניות יותר: אורך-פלט טיפוסי של כ-500 טוקנים (כחצי עמוד), מודל-ייחוס ⁦GPT-4o⁩ עם כ-100 מיליארד פרמטרים פעילים, ורכיבי חומרה מסוג Nvidia ⁦H100⁩. התוצאה: כ-0.3 וואט-שעה לשאילתה — פי עשרה נמוך מההערכה הקודמת. מקור הפער אינו רק חומרה יעילה יותר, אלא בעיקר הנחה מציאותית יותר על אורך התשובה הממוצעת.

יש לכך אישוש עצמאי: מחקר שפרסמה גוגל ב-2025 על שירות Gemini הגיע למספר דומה מכיוון אחר לגמרי — מדידה על מערכת חיה ולא חישוב תיאורטי — חציון של כ-0.24 וואט-שעה לבקשת טקסט.

קנה-מידה יומיומי: כמה דקות של נורת לד

0.3 וואט-שעה הם בערך מה שנורת לד ביתית צורכת בכמה דקות, או כמה שניות של הרתחת מים בקומקום חשמלי. משק-בית אמריקאי ממוצע צורך כ-10,500 קילוואט-שעה בשנה — כ-28,000 וואט-שעה ביום — כך שגם משתמש כבד ב-ChatGPT מוציא על כך שבריר קטן מצריכת החשמל הביתית הרגילה שלו.

לצד החשמל נמדדת גם צריכת המים לקירור: מחקר שפרסמה גוגל ב-2025 מצא חציון של כ-0.26 מיליליטר מים לבקשת טקסט טיפוסית — כחמש טיפות.

לא כל שאילתה שווה: הפער בין מודלים

חוקרים מאוניברסיטת מישיגן מדדו ב-2024 את משפחת מודלי Llama 3.1 של Meta ומצאו פער של פי חמישים ושמונה בין הקצוות: מודל בגודל 8 מיליארד פרמטרים צרך כ-0.03 וואט-שעה לתשובה, בעוד המודל בן 405 מיליארד הפרמטרים הגיע לכ-1.86 וואט-שעה. גודל המודל ואורך התשובה משנים את התוצאה בסדרי-גודל, עוד לפני שמדברים על מודלי-חשיבה.

קלט ארוך יקר גם הוא: לפי חישובי Epoch AI, שאילתה עם קלט של כ-10 אלף טוקנים (מאמר קצר) עשויה להעלות את העלות לכ-2.5 וואט-שעה, וקלט של 100 אלף טוקנים (כ-200 עמודים) עשוי להגיע לכ-40 וואט-שעה — אך זו עלות חד-פעמית של עיבוד המסמך, לא עלות שחוזרת על עצמה בכל הודעה בשיחה שלאחר-מכן.

מודלי-חשיבה משנים את המשוואה

מודלים שמייצרים "שרשרת מחשבה" ארוכה לפני שהם עונים — כמו ⁦o1⁩, ⁦o3⁩ ו-⁦DeepSeek-R1⁩ — צורכים משמעותית יותר אנרגיה מאשר מודל-שיחה רגיל, כי הם מייצרים הרבה יותר טוקנים "פנימיים" לפני התשובה הסופית. מסגרת-בנצ'מרק אקדמית שפורסמה במאי 2025 ועודכנה בנובמבר 2025 מדדה שלושים מודלים חזיתיים ומצאה שהמודלים העתירים-באנרגיה ביותר, בהם מודלי-חשיבה, חוצים 29 וואט-שעה לבקשה ארוכה — פי יותר מ-65 מהמערכות החסכוניות ביותר; אפילו שאילתה קצרה של 0.42 וואט-שעה, כשמכפילים אותה ב-700 מיליון שאילתות ליום, מצטברת לצריכת חשמל שנתית שמקבילה לכ-35 אלף בתים אמריקאים.

זניח לבד, משמעותי במצטבר

דוח הסוכנות הבינלאומית לאנרגיה מאפריל 2026 מציין שמשימות חדשות ועתירות-אנרגיה — יצירת וידאו, חשיבה, ופעולות-סוכן — יכולות לצרוך פי מאות עד אלפים יותר אנרגיה לשאילתה בודדת מאשר יצירת-טקסט פשוטה. לפי אותו דוח, אילו כל החיפושים המקוונים הרגילים בעולם היו מתבצעים כשאילתת-טקסט פשוטה ל-AI, הצריכה השנתית הכוללת הייתה נמוכה מ-4 טרה-וואט-שעה — פחות מאחוז אחד מצריכת מרכזי הנתונים כולה.

מיליארדי בקשות ביום מסתכמות במספרים שמופיעים בדוחות הסוכנות הבינלאומית לאנרגיה, שהעריכה את צריכת החשמל של מרכזי הנתונים בעולם בכ-415 טרה-וואט-שעה ב-2024. שאילתה בודדת זניחה אנרגטית, והמצרף אינו זניח — שתי הקביעות נכונות בו-זמנית.

מגמת ההתייעלות מול מגמת ההסלמה

שני כיוונים מתחרים באותה נשימה. מצד אחד, לפי דוח ה-IEA מאפריל 2026, צריכת האנרגיה למשימת AI בודדת יורדת בקצב חסר-תקדים בהיסטוריה של האנרגיה — לפחות סדר-גודל אחד מדי שנה, בזכות שיפורי חומרה ותוכנה. מדידה צרה יותר של אותו כיוון מופיעה בדוח מדד ה-AI של סטנפורד ממהדורת 2025: יעילות האנרגיה של חומרת למידת-המכונה משתפרת בכ-40 אחוזים בשנה, לצד ירידה של כ-30 אחוזים בשנה בעלות החומרה. שני המספרים אינם סותרים זה את זה — סטנפורד מודד את החומרה בלבד, וה-IEA את האנרגיה למשימה שלמה, שנכנסים בה גם שיפורי התוכנה והמודל. מצד שני, אותו דוח מדגיש שהשימושים החדשים — חשיבה, וידאו, סוכנים — מכניסים כל הזמן משימות עתירות-אנרגיה חדשות שמקזזות חלק ניכר מהחיסכון.

התוצאה: קשה לחזות לאן הממוצע ילך, כי הוא תלוי לא רק ביעילות המודל אלא גם בכמה "קשות" השאלות שנשאלות בפועל.