Colossus: מחשב העל-הכוח של אילון מאסק
- ג'י.פי טובה
- ספטמבר 7, 2024
- AI Tools, חדשות בינה מלאכותית, מודלי שפה
- AI, Grok, Grok-3, LLM
- 0תגובות
Colossus: מכונת-העל הכול יכולה של מאסק
אלון מאסק, מייסד טסלה וספייסX, תמיד היה חלוץ בתחום הטכנולוגיה. עם זאת, הצעד האחרון שלו עם חברת הבינה המלאכותית xAI עשוי להיות הגדול ביותר עד כה. החברה החדשה שלו חשפה את Colossus – מערכת אימון ענקית המורכבת מ-100,000 מעבדי Nvidia Hopper H100, ובקרוב תגדל לכפול כוח עם הוספת 50,000 שבבי H200 החדשים והמתקדמים יותר של Nvidia.
הענק הלא מעורער
עם הספק כה עצום, Colossus מתיימרת להיות מערכת האימון החזקה ביותר לבינה מלאכותית בעולם. היא עוקפת בקלות את התוכניות של ענקיות כמו מטא (350,000 מעבדי H100 עד 2024) וOpenAI (כ-25,000 יחידות GPU לאימון GPT-4). במהלך חג העבודה, מאסק הכריז בגאווה על השלמת הקמת Colossus תוך 122 ימים בלבד, בציינו כי ‘זו מערכת אימון ה-AI החזקה בעולם’.
Grok: המודל המתקדם ביותר?
המשימה הראשונה של Colossus היא לאמן את מודל השפה הגדול (LLM) של xAI, Grok. גרסת הביתא הנוכחית של Grok-2, שאומנה על כ-15,000 מעבדים, כבר נחשבת כאחת המערכות המתקדמות ביותר בתחום ה-AI. למרות שזהו מודל פתוח קוד, הישגיו מרשימים לא פחות מאלה של מתחרות כמו OpenAI, Anthropic וגוגל.
הכתר הבא: Grok-3
אך מאסק לא מתכוון לעצור כאן. בראיון עם ג’ורדן פיטרסון, הוא הצהיר בביטחון כי ‘גרוק-3, הצפוי לצאת בדצמבר 2024, אמור להיות ה-AI החזק בעולם באותו זמן’. עם הכוח העצום של Colossus מאחוריה, ההשקעה הענקית של 6 מיליארד דולר בסבב הגיוס האחרון, ומשאבים כמעט בלתי מוגבלים, קשה לפקפק בשאיפותיו של מאסק.
מעבר לLLM: חוקר את הבלתי נתפס
אך המטרות של xAI חורגות הרבה מעבר לפיתוח מודלי שפה. כפי שמאסק עצמו הסביר, החברה רוצה ‘באמת להבין מה קורה כאן’ – לחקור שאלות יסודיות על המציאות, חומר אפל, פרדוקסים קוסמיים ותעלומות אחרות. צוות ההקמה שלה, הכולל את איגור באבושקין מCERN וחוקר ה-AI ג’ימי בא, נבחר במיוחד כדי לרדוף אחר חזון זה של ‘מכונה לפתרון בעיות כללית’.
חיבור לטסלה ו-Optimus
העוצמה העצומה של Colossus מציבה את xAI במצב מצוין לקדם גם את החזון של מאסק לגבי הרובוט האנושי Optimus של טסלה. מומחים רבים מאמינים שגרוק תספק את ה-AI שתפעיל את Optimus – מהלך שמאסק טען שיכול להניב לטסלה רווחים שנתיים של טריליון דולר. מאסק אף רמז להשקעה אפשרית של 5 מיליארד דולר מטסלה ב-xAI, מה שמעורר סערה רבה בקרב המשקיעים.
האם זהו העידן הבא של ה-AI?
בעוד גרוק-3 צפויה להיות המודל החזק ביותר לתקופה קצרה, ברור שמאסק ו-xAI שואפים להרבה יותר מאשר להשתמש בכוח העצום של Colossus רק כדי להמשיך את המירוץ המתמשך של מודלי LLM. בסופו של דבר, שאיפותיהם הן לחדור אל מעבר לגבולות הידע הנוכחי ולפתור את התעלומות הגדולות ביותר של היקום.
האם Colossus תהיה הפלטפורמה שתוביל את xAI אל עבר חידושים באמת חלוציים בתחום הבינה המלאכותית? או שהיא רק תשמש להגדיל עוד את כוח העיבוד לשיפור מודלי LLM קיימים? העתיד יגלה אם מאסק וחברתו החדשה אכן יצליחו לפרוץ דרך משמעותית בגבולות המדע.
