הדרך לבינה מלאכותית בטוחה: חוק האי-בינה החדשני של קליפורניה
- אלגו ריתם
- ספטמבר 4, 2024
- בינה מלאכותית ועולם המשפט, חדשות בינה מלאכותית
- AI, Anthropic, OpenAI
- 0תגובות
דרך חדשה לבינה מלאכותית אחראית: חוק הבטיחות הראשון מסוגו בקליפורניה
עיני ענקיות הטכנולוגיה מכוונות לקליפורניה, שם נחקק לאחרונה חוק חדשני שעתיד להטביע חותם על עתידה של תעשיית הבינה המלאכותית. “חוק החדשנות הבטוחה והמאובטחת לתבניות יסוד של בינה מלאכותית גבולית” (SB 1047) הוא הראשון מסוגו בארצות הברית והוא קורא להטלת צעדי בטיחות חדשניים על חברות הבינה המלאכותית הפועלות בקליפורניה.
דרישות מרכזיות לבטיחות ובקרה
בליבת החוק נמצאות דרישות ספציפיות שנועדו להבטיח שחברות הבינה המלאכותית יפעלו באחריות ובזהירות המתבקשת לפני הכשרת מודלים מתקדמים. הדרישות כוללות יישום מנגנוני כיבוי מהיר של המודלים, הגנה על המודלים מפני ‘שינויים לא בטוחים’ לאחר ההכשרה, והקמת נהלים לבדיקת סיכוני הנזק הפוטנציאליים של המודלים או גזרותיהם.
המטרה: התמודדות עם סיכונים עתידיים
סקוט ויינר, הסנאטור שהוביל את החקיקה, מסביר: ‘הבינה המלאכותית מציבה הזדמנויות עצומות אך גם סיכונים קיצוניים. SB 1047 נועד להכין אותנו להתמודד עם הסיכונים העתידיים הללו, וליצור מסגרת שתמנע נזק קריטי כתוצאה משימוש לרעה או תקלה של בינה מלאכותית מתקדמת.’
ביקורת וחששות מוצדקים
עם זאת, החקיקה החדשנית זכתה גם לביקורת ממגוון גורמים בתעשייה. חברות בינה מלאכותית גדולות כמו OpenAI וAnthropicן, פוליטיקאים כמו זואי לופגרן וננסי פלוסי, ולשכת המסחר של קליפורניה הביעו חששות כבדים. המבקרים טוענים שהחוק מתמקד יתר על המידה בסיכונים קיצוניים, ועלול להכביד באופן בלתי פרופורציונלי על מפתחי קוד פתוח ועל חברות בינה מלאכותית קטנות ופורצות דרך.
‘אנחנו מבינים את החששות הקיימים ואת הצורך לפעול בזהירות,’ אומרת אמנדה אוברמן, דוברת חברת הבינה המלאכותית Anthropic. ‘אך החוק הזה עלול למנוע שיתופי פעולה חיוניים ולעכב חדשנות בתחום הבינה המלאכותית, שעתידה להיטיב עם האנושות בתחומים רבים.’
תיקונים לאחר דיונים סוערים
לאחר דיונים סוערים, בוצעו מספר תיקונים בחוק במטרה להפיג חלק מהחששות שהועלו. העונשים הפליליים הפוטנציאליים הוחלפו בעונשים אזרחיים, וסמכויות האכיפה של פרקליטות המדינה הוגבלו. כמו כן, בוצעו שינויים בדרישות להצטרפות לוועדת המודלים הגבוליים שהחוק קובע.
השלב הבא: אישור סופי והשפעה אפשרית
כעת, SB 1047 צפוי לעבור להצבעה בסנאט של קליפורניה, שם הוא צפוי לזכות באישור. לאחר מכן, החוק יוגש לגוברנור גוין ניוסום, שיהיה עליו להחליט אם לחוקק אותו עד סוף ספטמבר. אם החוק יחוקק, הוא עשוי לשמש תקדים חשוב לחקיקה דומה בארצות הברית ובעולם כולו, ולהשפיע באופן משמעותי על התפתחות תעשיית הבינה המלאכותית בשנים הבאות.
