מחלוקת על חוק בטיחות AI חושפת פערים
- בינה ארטיפישלי
- אוגוסט 28, 2024
- בינה מלאכותית ועולם המשפט, חדשות בינה מלאכותית
- AI, OpenAI, אנתרופיק
- 0תגובות
פולמוס סביב חוק בטיחות AI בקליפורניה חושף פערים בתפיסות הבטיחות
הצעת החוק הקליפורנית SB 1047, שנועדה להגביר את בטיחות מערכות הבינה המלאכותית הגדולות והחזקות, הפכה לסלע מחלוקת בקרב ענקיות הטכנולוגיה. בעוד שחברות מסוימות תומכות בה, אחרות, כמו OpenAI, מתנגדות לה בתוקף. המחלוקת חושפת פערים בתפיסות השונות של בטיחות ואחריות בתעשיית הבינה המלאכותית הצומחת.
העיקרון מאחורי החוק
הצעת החוק מציעה לחייב בדיקות בטיחות נוספות עבור מודלי בינה מלאכותית שעלות הכשרתם עולה על 100 מיליון דולר, וכן להטמיע “מתג כיבוי” במערכות אלו, שיאפשר להפסיק את פעולתן במקרה של התנהגות לא רצויה או מסוכנת. אם ההצעה תאושר בסנאט הקליפורני עד סוף החודש, היא תגיע לשולחנו של המושל גאווין ניוסום לחתימה סופית.
התנגדות מצד OpenAI והצדקתה
OpenAI, שהתנגדותה לחוק גררה תגובה חריפה מחוקרי בטיחות AI לשעבר שלה, טוענת כי סוגיות אבטחה לאומית רגישות, כגון סיכונים כימיים, ביולוגיים, רדיולוגיים וגרעיניים, ‘מטופלות בצורה טובה יותר על ידי הממשלה הפדרלית והסוכנויות הרלוונטיות שלה’. לטענתם, אם מדינות שונות ינסו ‘להתחרות בממשלה הפדרלית על משאבים אנושיים נדירים והון’, זה יפוזר את המומחיות המוגבלת כבר עתה בתחום, ויוביל למדיניות פחות יעילה ופרוקה להגנה מפני סיכונים לאבטחה לאומית ונזקים קריטיים.
תמיכה בחוק מצד חוקרים לשעבר
מנגד, וויליאם סאונדרס ודניאל קוקוטאג’לו, חוקרים לשעבר של OpenAI שפרשו מהחברה לאחר שאיבדו את אמונם ביכולתה לפתח באופן בטוח ואחראי את מערכות הבינה המלאכותית שלה, תומכים בחוק. הם מסבירים כי ‘פיתוח מודלי AI חדשניים ללא אמצעי זהירות בטיחותיים נאותים מציב סיכונים צפויים של נזק הרסני לציבור’. לטענתם, הסיבה שטרם אירעו תרחישי אסון היא שמערכות מסוכנות באמת טרם נבנו, ולא בשל תהליכי בטיחות מספקים בחברות הטכנולוגיה.
אנתרופיק – תמיכה לאחר תיקונים
OpenAI אינה החברה היחידה שהתנגדה להצעה בתחילה, אך חברת אנתרופיק, שחששה מההשלכות של הגרסה המקורית, כעת תומכת בה לאחר שעברה תיקונים. לדברי דריו אמודיי, מנכ”ל אנתרופיק, ‘בהערכתנו, הגרסה המתוקנת של SB 1047 משופרת באופן משמעותי, עד כדי כך שהיתרונות שלה עולים כנראה על העלויות הפוטנציאליות.’ הוא מוסיף כי החששות הראשוניים שלהם לגבי פגיעה אפשרית בחדשנות הצטמצמו בזכות התיקונים לגרסה הנוכחית.
השלכות אפשריות של החוק
אם הצעת החוק תאושר, היא עשויה להוביל לכך שחברות בינה מלאכותית בקליפורניה יידרשו להשקיע משאבים רבים יותר בבטיחות ובבדיקות למערכות הבינה המלאכותית הגדולות והחזקות שלהן. חלופית אפשרית היא שחלק מהחברות יבחרו לעזוב את המדינה ולהעתיק את פעילותן למקום אחר, על מנת להימנע מהרגולציה החדשה. בכל מקרה, הפולמוס הנוכחי ממחיש את חשיבות הדיון הציבורי בנושאי בטיחות ואחריות בתחום הבינה המלאכותית הצומח במהירות.
