הפיצוץ של בינה מלאכותית ואתגר העלויות
- ג'י.פי טובה
- אוגוסט 20, 2024
- חדשות בינה מלאכותית, מודלי שפה
- ChatGPT, Dall-E, GPU, LLMs, כוח חישוב
- 0תגובות
הנה גרסה משופרת ומעובדת של המאמר שלך:
פריצת הדרך של הבינה המלאכותית ואתגרי העלות המתעוררים
השנתיים האחרונות חוללו מהפכה בתחום הבינה המלאכותית (AI), כאשר מודלים גדולים של שפה (LLMs) כגון ChatGPT, Dall-E ומידג’ורני הפכו לכלים יומיומיים. בזמן שאתם קוראים שורות אלה, תוכנות AI גנרטיביות עונות על אימיילים, כותבות חומרי שיווק, מחברות שירים ויוצרות תמונות מקלטים פשוטים.
קצב האימוץ המסחרי של טכנולוגיות AI
מה שמרשים אף יותר הוא קצב האימוץ המהיר של טכנולוגיות AI על ידי יחידים וחברות. סקר של חברת הייעוץ מקינזי העלה כי מספר החברות שאימצו כלי AI גנרטיבי בתפקיד עסקי כלשהו הוכפל בתוך שנה והגיע לכדי 65% – עלייה חדה מכ-33% בתחילת 2023.
אתגרי הטכנולוגיה המתקדמת
אף על פי כן, בדומה לרוב ההתקדמויות הטכנולוגיות, התחום החדשני הזה מגיח אתגרים לא מבוטלים. אימון והפעלת אלגוריתמי AI הם משימות אינטנסיביות משאבים, ולפי שעה, נראה כי לחברות הטכנולוגיה הגדולות יש יתרון משמעותי, מצב אשר מציב סיכון של ריכוזיות יתרה בתעשיית ה-AI.
המגבלה החישובית בפיתוח AI
על פי מאמר שפורסם בפורום הכלכלי העולמי, קיימת דרישה מוגברת לכוח חישוב למטרות AI; הצורך החישובי הנדרש לקידום תחום ה-AI גדל כיום בשיעור שנתי של 26% עד 36%.
מחקר עדכני של חברת Epoch AI אכן מאשר את המגמה הזו, כשהתחזיות מצביעות על עליית עלויות מיליארדי דולרים לאימון ותפעול תוכנות AI בשנים הקרובות. ‘עלויות האימון לרשתות העצביות הגדולות ביותר כפולות עד משולשות מדי שנה מאז 2016,’ מסביר בן קוטייר, חוקר בכיר ב-Epoch AI, ‘ומציבות תגי מחיר של מיליארדי דולרים באופק עד 2027, ואולי אף קודם לכן.’
ההשקעות העתק של ענקיות הטכנולוגיה
לדעתי, אנו כבר ממוקמים בנקודה הזו. מיקרוסופט השקיעה 10 מיליארד דולר בחברת OpenAI בשנה שעברה, וכעת הודיעו שתי החברות על תכניות לבניית מרכז נתונים שיארח את אחד המחשבים החזקים בעולם, המופעל במיליוני שבבים מיוחדים. המחיר הצפוי? כ-100 מיליארד דולר, עשר פעמים מההשקעה הראשונית.
אך מיקרוסופט אינה לבדה בתחרות הזרמת ההשקעות העתק למשאבי חישוב AI. חברות אחרות בתחרות ‘חימוש’ על AI, כגון גוגל, אלפאביט ונוידיה, מייחדות תקציבים משמעותיים למחקר ופיתוח AI.
הסיכונים בריכוזיות חישובית
אף שניתן להסכים כי התוצרים עשויים להצדיק את הסכומים המושקעים, קשה להתעלם מהעובדה שפיתוח AI הפך כרגע ל’ספורט’ של חברות טכנולוגיה גדולות בלבד. רק לגופים אלו, בהיותם עתירי משאבים, יש היכולת לממן פרויקטים AI בהיקפים של עשרות ומאות מיליארדי דולרים.
נקודה זו מעלה את השאלה: כיצד ניתן למנוע מתחום ה-AI לחזור על תסריט רשת האינטרנט הנוכחית (Web2), בה החדשנות שלטו בידי קומץ של חברות בלבד?
צעדים לפיתוח כוח חישוב מבוזר
ג’יימס לנדיי, סגן מנהל המכון לבינה מלאכותית וחדשנות באנושיות (HAI) באוניברסיטת סטנפורד, הוא אחד המומחים שנידרשו למצב זה קודם לכן. לדברי לנדיי, הביקוש ההולך וגובר למשאבי GPU והעדפתן של חברות ענק לשמור את כוח החישוב לצרכים פנימיים, יובילו לגידול בביקוש והאצה בפיתוח פתרונות חישוב חומרתיים זולים יותר.
בסין, הממשלה כבר פועלת לתמיכה בחברות AI צעירות לאור מלחמות הסחר והסנקציות של ארה”ב, אשר הגבילו את גישתן של חברות סיניות לשבבים מתקדמים. ממשלות מקומיות בסין הכריזו השנה על תמריצים וצ’קים ‘חישוביים’ לחברות AI צעירות, בהיקפים של 140,000 עד 280,000 דולר. המאמצים נועדו להקל על נטל העלויות הכרוכות בכוח חישוב.
ביזור עלויות החישוב של AI
כאשר בוחנים את המצב הנוכחי בחישוב AI, קיימת קבוצה בולטת – חברות הטכנולוגיה הגדולות שולטות במרבית כוח החישוב ובתוכנות הפועלות על תשתיותיהן. ככל שהפרטים משתנים, היסודות נותרים זהים.
עם זאת, הפעם, השינוי עשוי לפנות לכיוון חיובי יותר, הודות לתשתיות חישוב מבוזרות כגון בלוקצ’יין Qubic Layer 1. בלוקצ’יין L1 זה נעזר במנגנון כרייה מתקדם המכונה ‘הוכחת עבודה שימושית’ (uPoW). בשונה מ-PoW הקלאסי של ביטקוין, המשתמש באנרגיה לשם אבטחת הרשת בלבד, ה-uPoW של Qubic מנצל את משאבי החישוב שלו גם למשימות AI קריטיות, כמו אימון רשתות עצביות.
בפשטות, Qubic מבזרת את אספקת כוח החישוב של AI על ידי היפרדות מהפרדיגמה הקיימת, בה חדשנים מוגבלים לחומרה בבעלותם או לשכירת כוח חישוב מחברות ענק. במקום זאת, בלוקצ’יין L1 זה שואב כוח חישוב מרשת של עשרות אלפי ‘כורי’ מבוזרים.
היתרונות במודל החישוב המבוזר
למרות שהגישה המבוזרת לאספקת כוח חישוב AI קצת יותר טכנית מאשר להסתמך על חברות טכנולוגיה מרכזיות, היא זולה יותר מבחינה כלכלית. חשוב מכך, גישה זו תאפשר חדשנות מבוזרת יותר בתחום ה-AI, שתונע על ידי מגוון רחב של בעלי עניין ולא רק על ידי מספר מצומצם של גופים כפי שקיים כיום.
מה יקרה אם כולן ייכשלו בתחרות על כוח החישוב? לא רק זאת, חברות הטכנולוגיה הגדולות כבר הוכיחו חוסר אמינות כשמדובר בטכנולוגיות משנות חיים. כיום, רבים מוחים נגד הפרות פרטיות ומתריעים מפני סכנות כגון מניפולציה חברתית. עם חדשנות מבוזרת, יהיה קל יותר לעקוב אחר ההתפתחויות בתחום ולהפחית את חסמי הכניסה.
סיכום
פריצות הדרך של ה-AI הן רק ההתחלה, אך האתגר של גישה לכוח חישוב נשאר מכשול משמעותי. יתרה מכך, חברות הטכנולוגיה הגדולות שולטות כרגע במרבית המשאבים – מצב המהווה סכנה להאטת קצב החדשנות ומגביר את החשש מהעברת כוח רב מדי לידיים מועטות, גם ביחס לנתוני המשתמשים – ‘הזהב הדיגיטלי’ של העידן הנוכחי.
עם התפתחותן של תשתיות מבוזרות, לפקוסיסטם של AI יש סיכוי טוב יותר להפחתת עלויות החישוב ולגיוון החופשי של חדשנות ללא שלטון עריץ של כוחות טכנולוגיים דומיננטיים, בתחום החשוב ביותר של המאה ה-21.
שאלות נפוצות
מדוע כוח החישוב הוא כה קריטי לפיתוח AI?
תוכנות AI מתקדמות דורשות עוצמת חישוב אדירה לצורך אימון, במיוחד כשמדובר ברשתות עצביות גדולות ומורכבות. ללא משאבי חישוב מספיקים, קצב ההתקדמות והחדשנות בתחום ה-AI יתקל בקיר כביר, וההמשך פיתוח אלגוריתמים מתקדמים עלול להיעשות איטי עד בלתי אפשרי.
מדוע עלויות החישוב של AI הולכות וגדלות?
הדרישה לאלגוריתמים ומודלים מורכבים יותר היא שמובילה לצמיחה בעלויות החישוב. ככל שתוכנות ה-AI מתקדמות, כך גדלות הדרישות לכוח חישוב עצום בהתאמה, מה שמייקר את העלויות.
מה הסיכון העיקרי בשליטה בידי חברות טכנולוגיה גדולות על כוח החישוב של AI?
הסיכון המרכזי הוא ריכוזיות יתר, בה חדשנות בתחום ה-AI תלויה במספר מצומצם מדי של גופים. מצב זה עלול לפגוע בתחרות, להוביל לעלייה חדה של עלויות, ואף לאפשר לרעה את הכוח הטכנולוגי העצום הזה.
כיצד תשתיות מבוזרות עשויות לסייע בהתמודדות עם אתגר עלויות החישוב?
תשתיות חישוב מבוזרות דוגמת בלוקצ’יין Qubic Layer 1 מנצלות את כוחה של רשת מבוזרת כדי לספק כוח
