OpenAI מגבילה את תהליך החשיבה של מודלים חדשים
- רובי בוטוביץ'
- ספטמבר 18, 2024
- חדשות בינה מלאכותית
- AI, o1, OpenAI, Strawberry
- 0תגובות
בינה מלאכותית בעידן החדש: OpenAI מרחיבה את הגבולות אך שומרת על סודותיה
חברת OpenAI, החלוצה בתחום הבינה המלאכותית, הצליחה לעורר סערה עם השקת משפחת המודלים “Strawberry”. במרכזה עומדים המודלים o1-preview ו-o1-mini, שמציבים רף חדש ביכולות החשיבה והפתרון השלב אחר שלב של בעיות מורכבות. עם זאת, החברה אינה נרתעת מלנקוט בצעדים דרסטיים כדי לשמור על סודותיה המסחריים.
תהליך חשיבה איטרטיבי חדשני
בשונה ממודלים קודמים כמו GPT-4, המודלים החדשים של OpenAI עוברים תהליך חשיבה איטרטיבי ייחודי לפני הפקת תשובה סופית. ברגע ששואלים שאלה במערכת ChatGPT, ניתן לצפות בשרשרת החשיבה הזו – צעד אחר צעד, המודל מנתח את השאלה, חוקר אפשרויות, ובסופו של דבר מגיע לתשובה מנומקת. אולם, OpenAI אינה מציגה את שרשרת החשיבה הגולמית עצמה, אלא פרשנות מסוננת שנוצרה על ידי מודל AI נוסף.
ניסיונות לפריצה וחשיפת הסודות
ההחלטה לחסום את הגישה אל שרשרת החשיבה הגולמית של המודלים החדשים עוררה תגובות נזעמות בקרב חוקרים וחובבי בינה מלאכותית. רבים ניסו לעקוף את המגבלות באמצעות טכניקות מתוחכמות כמו ‘jailbreaking’ – ניסיון לרמות את המודלים להפר את ההנחיות המוגדרות עליהם ולחשוף את תהליך החשיבה שלהם. דוגמה נוספת היא ‘prompt injection’ – זריקת הנחיות מכוונות כדי לגרום למודלים לחשוף את הסודות הגלומים בהם. למרות דיווחים ראשונים על הצלחות מסוימות בחשיפת תהליכי החשיבה, עדיין אין אישור חד-משמעי על כך.
התגובה הנמרצת של OpenAI
בתגובה לניסיונות החשיפה, OpenAI נוקטת בצעדים נמרצים. לפי דיווחים, החברה פועלת באכזריות כלפי כל מי שמנסה לחקור את תהליך החשיבה של המודלים החדשים, אפילו אם מדובר במשתמשים סקרנים בלבד. משתמשים מדווחים כי הם קיבלו אזהרות מצד החברה כאשר ניסו להשתמש במונחים כמו “reasoning trace” או לשאול על “החשיבה” של המודל.
מניעים משמעותיים להסתרת תהליכי החשיבה
בפוסט רשמי, OpenAI הסבירה כי חשיפת תהליכי החשיבה הגולמיים של המודלים מאפשרת לחברה לנטר את “מחשבותיו” של המודל ולהבין לעומק את תהליך החשיבה שלו. עם זאת, חשיפה כזו עלולה לפגוע באינטרסים המסחריים של החברה. למשל, היא עלולה לפגוע ביכולת לזהות ניסיונות להטעיית משתמשים, ולתת יתרון תחרותי למתחרים שעשויים להשתמש בתהליכי החשיבה כנתוני אימון עבור מודלים משלהם.
מנגד, חוקרים עצמאיים מביעים תסכול עמוק מההחלטה של OpenAI. לטענתם, היא פוגעת בשקיפות ובנגישות לתהליכי החשיבה של המודלים החדשניים ביותר, דבר שמקשה על פיתוח יכולות ה-AI בקצב מהיר יותר. יחד עם זאת, ניתן להבין את הרצון של OpenAI לשמור על יתרון תחרותי ולמנוע שימוש לרעה במודלים שלה, במיוחד לאור הפוטנציאל הרב של המודלים החדשים.
שאלות נפוצות ותשובות
מהו המודל o1 של OpenAI?
o1 הוא מודל בינה מלאכותית חדשני וייחודי של OpenAI, המסוגל לעבור תהליך חשיבה איטרטיבי שלב אחר שלב לפני הפקת תשובה מנומקת. זהו אחד ממודלי משפחת “Strawberry” שהחברה השיקה לאחרונה.
מדוע OpenAI מסתירה את תהליכי החשיבה של המודלים החדשים?
לטענת OpenAI, החשיפה של תהליכי החשיבה הגולמיים עלולה לפגוע באינטרסים המסחריים שלה ולאפשר למתחרים להשתמש במידע זה לצרכים עצמיים. כמו כן, חשיפה כזו עלולה לפגוע ביכולת לזהות ניסיונות הטעיה של משתמשים. לפיכך, החברה מעדיפה לשמור על תהליכי החשיבה הגולמיים לצרכי ניטור פנימיים.
כיצד קהילת חובבי הבינה המלאכותית מגיבה להחלטה הזו?
חוקרים ואנשי קהילה רבים מבקרים את ההחלטה בתוקף. לדבריהם, היא פוגעת בשקיפות ובנגישות לתהליכי החשיבה של המודלים המתקדמים ביותר, דבר שמקשה על פיתוח מהיר יותר של יכולות בינה מלאכותית חדשניות.
מהן הדרכים שבהן מנסים לחשוף את תהליכי החשיבה של o1?
חוקרים וחובבים מנסים לעקוף את ההגבלות באמצעות טכניקות כגון ‘jailbreaking’ – ניסיון לרמות את המודלים להפר את ההנחיות המוגדרות עליהם ולחשוף את תהליך החשיבה שלהם. כמו כן, הם משתמשים ב’prompt injection’ – זריקת הנחיות מכוונות כדי לגרום למודלים לחשוף את הסודות הגלומים בהם.
