הסכם חדשני של OpenAI עם ממשל ארה”ב לשיתוף פעולה

• אלגו ריתם
• ספטמבר 3, 2024
• חדשות בינה מלאכותית
• AI, GPT-5, OpenAI
• 0תגובות

OpenAI וממשלת ארה”ב מתאחדות למען בינה מלאכותית בטוחה ואמינה

במהלך חדשני ומכונן, OpenAI – ענקית הבינה המלאכותית הידועה לשמצה, חתמה על הסכם שיתוף פעולה ראשון מסוגו עם ממשלת ארה”ב. ההסכם המרתק, שנחתם עם מכון הבטיחות של הבינה המלאכותית בארה”ב (AI Safety Institute), יאפשר לרשויות לעקוב מקרוב אחר התפתחויות מפתיעות בתחום האבולוציוני של מודלי הבינה המלאכותית המתקדמים של החברה.

צעד היסטורי לעבר פיקוח ממשלתי על הבינה המלאכותית

בצעד משמעותי זה, ממשלת ארה”ב תקבל גישה בלעדית למודלים החדשניים של OpenAI טרם שחרורם לציבור הרחב, וכן תוכל לבחון אותם לאחר השחרור המסעיר. למרות שקשה להעריך את המשמעויות המדויקות של המהלך הנועז, ברור כי מדובר בניסיון חשוב להעמיק את הפיקוח הממשלתי על טכנולוגיות הבינה המלאכותית החדשניות והמסקרנות ביותר בעולם.

אתגרי הבנת מודלי הבינה המלאכותית המורכבים

יש להודות שאפילו מפתחי הבינה המלאכותית המנוסים ביותר אינם תמיד מבינים עד תום את אופן פעולתם של המודלים המתקדמים שהם יוצרים. לפיכך, התועלת שתיהנה ממנה הממשלה עשויה להיות מוגבלת במידת מה. עם זאת, השותפות החדשה מסמלת נכונות חשובה להגביר את הפיקוח על טכנולוגיות הבינה המלאכותית החדישות והסודיות ביותר.

הדרך לאמון ובטיחות בעידן הבינה המלאכותית

סם אולטמן, מייסד OpenAI, הביע התלהבות מההסכם החלוצי עם המוסד הממשלתי. ‘אנו שמחים להגיע להסכם עם מכון הבטיחות של הבינה המלאכותית של ארה”ב לבחינה מוקדמת של המודלים העתידיים שלנו,’ כתב בציוץ בטוויטר. ‘מסיבות רבות, אנו חושבים שזה חשוב שזה יקרה ברמה הלאומית. ארה”ב צריכה להמשיך ולהוביל!’

קולות מצדדים בהסכם המכונן

ג’ייסון קוון, סמנכ”ל האסטרטגיה של OpenAI, הוסיף: ‘בינה מלאכותית בטוחה וראויה לאמון היא קריטית להשפעה החיובית של הטכנולוגיה. אנו מאמינים שלמכון יש תפקיד מכריע במתן הגדרה למנהיגות ארה”ב בפיתוח אחראי של בינה מלאכותית.’

אליזבת’ קלי, מנהלת מכון הבטיחות של הבינה המלאכותית של ארה”ב, כינתה את ההסכמים ‘ציון דרך חשוב בעת שאנו עובדים כדי לסייע בניהול עתיד הבינה המלאכותית באופן אחראי’.

תפקיד המכון והשיתוף הפעולה הבינלאומי

במסגרת ההסכם, המכון יספק משוב מקצועי לOpenAI על דרכים אפשריות לשפר את בטיחות המודלים שלה, תוך שיתוף פעולה הדוק עם מכון הבטיחות של הבינה המלאכותית הבריטי – המוסד האחראי לפיקוח על טכנולוגיות הבינה המלאכותית במדינה. גם בריטניה ביקשה גישה פנימית למודלים המתקדמים של החברות המובילות בענף.

התמודדות עם חסמי רגולציה ובטיחות

חשוב לציין כי ההסכמים הללו הגיעו לאחר עיכובים משמעותיים במאמצי הרגולציה של הבינה המלאכותית בממשל ביידן. למרות צו הנשיא שנחתם באוקטובר 2023, קידום משילות הבינה המלאכותית בארה”ב התקדם בקצב איטי למדי, כאשר חלק מהקולות טענו כי ההתקדמות הייתה חלקית ביותר.

הערכת השווי הגבוהה של OpenAI והצפי לשחרור מוצר חדש

עיתוי ההסכם ראוי לתשומת לב מיוחדת משתי סיבות עיקריות. ראשית, הוא מגיע בעת שOpenAI כביכול נמצאת בדיונים לגייס סבב גיוס הון חדש שיעריך את החברה בסכום עצום של למעלה מ-100 מיליארד דולר – מספר אסטרונומי המייצג עלייה של יותר משילוש מההערכה המדווחת של 29 מיליארד דולר בלבד לפני שנה.

לפי מקורות מוסמכים, חברת ההשקעות Thrive Capital צפויה להוביל את סבב הגיוס עם השקעה של מיליארד דולר, בעוד ענקית הטכנולוגיה מיקרוסופט – התומכת הגדולה ביותר בOpenAI כיום – אמורה גם להשתתף בגיוס המפואר.

שנית, OpenAI עומדת כנראה לפני שחרור של מוצר חדש ומסעיר, שעשוי להיות GPT-5, SearchGPT או איטרציה אחרת הכוללת קוד בשם המפתה “Project Strawberry”. פרויקט Strawberry, שכונה בעבר Q*, משלב כביכול מודל בינה מלאכותית עם סוכן אוטונומי המסוגל לגלוש באינטרנט. מרתק במיוחד העובדה שOpenAI הציגה את Strawberry בפני קציני ביטחון אמריקאים, מה שעשוי להסביר את ההסכם החדש עם מכון הבטיחות של הבינה המלאכותית ומכון התקנים הלאומי של טכנולוגיה (NIST).

עיכובים בשחרור GPT-4 בשל אתגרי בטיחות ורגולציה

תוך כדי התרחשויות מרתקות אלה, OpenAI נותרה די שקטה לאחרונה. למרות שGPT-4 היה אמור להוות התקדמות גדולה, התכונה המרכזית שלו – צ’אט קולי – טרם זכתה להפצה המונית. OpenAI ציינה חסמי בטיחות ורגולציה כסיבה מרכזית לעיכוב. האם השותפות החדשה עם הרשויות נועדה לסייע לחברה להתגבר על מכשולים מעין אלה בעתיד?

שאלות נפוצות

מהי מטרת ההסכם בין OpenAI והממשלה?

מטרת ההסכם המכונן היא לאפשר לממשלת ארה”ב לבחון מקרוב את מודלי הבינה המלאכותית החדשניים של OpenAI לפני ואחרי שחרורם לציבור הרחב, במטרה לסייע בהערכת הבטיחות ולפקח על ההתפתחויות העתידיות בתחום הבינה המלאכותית המתקדמת.

מדוע זהו הסכם חשוב?

מדובר בהסכם ראשון מסוגו בין חברת בינה מלאכותית מובילה לבין ממשלת ארה”ב, ומהווה ציון דרך משמעותי במאמצי הרגולציה והפיקוח על טכנולוגיות הבינה המלאכותית המתקדמות ביותר.

מה האתגרים העיקריים בהבנת מודלי הבינה המלאכותית המתקדמים?

אפילו מפתחי מודלי הבינה המלאכותית עצמם אינם מבינים תמיד לחלוטין את אופן הפעולה של המודלים המורכבים שהם יוצרים, מה שמציב אתגרים משמעותיים בהערכה ובפיקוח עליהם.

מה הקשר בין ההסכם לגיוס ההון המתוכנן של OpenAI?

ההסכם מגיע בתקופה שבה OpenAI מדווחת על דיונים לגייס סבב השקעות חדש בהערכת שווי של למעלה מ-100 מיליארד דולר, מה שממחיש את הרלוונטיות וההשפעה העצומה של החברה בתחום הבינה המלאכותית.

מדוע עיתוי ההסכם חשוב?

עיתוי ההסכם רלוונטי הן לגיוס ההון הצפוי והן לשחרור מוצר חדש ומסעיר – כנראה GPT-5 או Project Strawberry – שעשוי להיות אחת הסיבות העיקריות לכריתת ההסכם הזה.