המפלצת של מיקרון: זיכרון בנפח של פיל לבינה מלאכותית

מה זה בכלל אומר?

כדי להבין את גודל המאורע, צריך להבין שני מושגים:

• DDR5: זהו הדור החמישי והמתקדם ביותר של זיכרון ה-RAM (זיכרון גישה אקראית). הוא מהיר יותר, חסכוני יותר בחשמל ויכול להכיל הרבה יותר נתונים מקודמיו.

• דיגום (Sampling): זהו שלב שבו היצרנית שולחת גרסאות ראשוניות של המוצר ללקוחות הגדולים שלה (כמו גוגל, אמזון או מיקרוסופט) כדי שהם יבחנו אותו בשרתים שלהם לפני תחילת הייצור ההמוני.

למה זה קריטי ל-AI?

מודלים של בינה מלאכותית, כמו ChatGPT, הם "רעבים" לנתונים. כדי שהם יעבדו מהר, הם צריכים שכל המידע שלהם יהיה זמין בזיכרון ה-RAM ולא "ייזרק" לדיסק הקשיח האיטי יותר.

• נפח חסר תקדים: עד היום, מודולים של 64GB או 128GB נחשבו לסטנדרט גבוה. 256GB על "סטיק" זיכרון בודד מאפשרים לדחוס פי 2 יותר זיכרון באותו שרת.

• ביצועים: יותר זיכרון פירושו שהמודלים יכולים לעבד יותר פרמטרים בו-זמנית, מה שמקצר את זמני האימון והתגובה של ה-AI.

בשורה התחתונה: מיקרון בונה את "צינורות הדלק" של שרתי העתיד. בלי זיכרון כזה, המעבדים הכי חזקים בעולם פשוט יעמדו בתור ויחכו לנתונים.