מאבקי הכוח בבינה המלאכותית
- בינה ארטיפישלי
- נובמבר 10, 2024
- בינה מלאכותית ועולם המשפט, חדשות בינה מלאכותית, מודלי שפה
- AI, ChatGPT
- 0תגובות
הכוח של הבינה המלאכותית המבוזרת: שומרת על תחרות, פרטיות וערכים אתיים
הבינה המלאכותית הגנרטיבית שכבשה את תודעת הציבור בזכות יישומים מהפכניים כמו ChatGPT, נושאת עימה פוטנציאל לשינויים חסרי תקדים בכמעט כל תחום מחיינו. החל מרפואה מותאמת אישית ועד לרכבים אוטונומיים ונכסים דיגיטליים, האפשרויות המוצעות על ידי הבינה המלאכותית נראות כבלתי נגמרות. אך לצד ההזדמנויות המרגשות, קיימים גם סיכונים משמעותיים הטמונים בריכוז כוחה של טכנולוגיה זו בידי מספר מצומצם של גורמים.
הסכנות שבריכוז הכוח
בעוד שהחשש מפני מערכת בינה מלאכותית זדונית בסגנון ‘סקיינט’ נראה מוגזם, הסכנות הכרוכות בריכוז העוצמה של הבינה המלאכותית בידי קבוצה קטנה של ענקיות טכנולוגיה כמו מיקרוסופט, גוגל ונוויה הן אמיתיות ומטרידות. עם התקדמות החברות האלה בפיתוח יכולות הבינה המלאכותית, החששות מריכוז יתר של הכוח בידיים מרכזיות אלו הופכים ברורים יותר מתמיד.
המונופול המאיים
הבעיה הדחופה ביותר הנובעת מריכוז הבינה המלאכותית היא האפשרות של השגת שליטה מונופוליסטית בתעשייה על ידי מספר מצומצם של ענקיות טכנולוגיה. לחברות הגדולות נצברה נתח שוק משמעותי ביותר בתחום זה, מה שנותן להן בעלות על כמויות עצומות של נתונים. הן גם שולטות בתשתית שעליה רצות מערכות הבינה המלאכותית, מה שמאפשר להן לחסום מתחרים פוטנציאליים, לפגוע בחדשנות ולשמר פערים כלכליים.
במצב של מונופול על פיתוח הבינה המלאכותית, חברות אלו יוכלו להשיג השפעה בלתי הוגנת על מסגרות הרגולציה, שאותן הן יוכלו לנצל לטובתן. כך יקשה על חברות סטארט-אפ קטנות, שחסרות את המשאבים של הענקיות, להתקדם בקצב החדשנות הנדרש. אלו שיצליחו לשרוד ולפרוח כמעט בוודאי יירכשו בסופו של דבר, ובכך יתרכז הכוח עוד יותר בידיים המועטות. התוצאה תהיה מגוון מצומצם בפיתוח הבינה המלאכותית, פחות אפשרויות לצרכנים ותנאים פחות נוחים – מצב שמגביל את מקרי השימוש וההזדמנויות הכלכליות של הבינה המלאכותית.
הטיות והפליה שיטתית
מעבר לאיום של מונופול, קיימים חששות ממשיים סביב ההטיה הפוטנציאלית של מערכות בינה מלאכותית – חששות שרק יגברו ככל שהחברה תסתמך יותר על הבינה המלאכותית. הסיכון נובע מכך שארגונים הופכים תלויים יותר ויותר במערכות ממוחשבות לקבלת החלטות במגוון תחומים. דוגמה לכך היא שימוש באלגוריתמי בינה מלאכותית לסינון מועמדים לעבודה, עם הסיכון שמערכת מוטה עלולה לפסול באופן לא הוגן קבוצות של מועמדים על בסיס גזעם, גילם או מיקומם.
בינה מלאכותית משמשת גם חברות ביטוח לקביעת תעריפי פוליסות, גופים פיננסיים לקביעת זכאות להלוואות וריביות, ורשויות אכיפת חוק לזיהוי אזורים בעלי פשיעה גבוהה. בכל אחד ממקרי השימוש הללו, ההשלכות של מערכות בינה מלאכותית מוטות הן מטרידות ביותר – החל מהפליה כלפי מיעוטים בידי רשויות אכיפה, דרך אפליה בהלוואות ועד לגזענות במקרים אחרים. בינה מלאכותית מרוכזת עלולה להחריף אי-שוויון חברתי ולאפשר הפליה שיטתית.
פגיעה בפרטיות וסיכונים ביטחוניים
סיכון נוסף של מערכות בינה מלאכותית מרוכזות הוא היעדר הגנות על הפרטיות. כאשר מספר קטן של חברות גדולות שולטות ברוב המכריע של הנתונים שנוצרים על ידי הבינה המלאכותית, הן מקבלות יכולת לבצע פיקוח בלתי מוגבל על משתמשיהן. הנתונים שנצברים יכולים לשמש לניטור, ניתוח וחיזוי התנהגות הפרט במדויק תוך פגיעה בפרטיותו – סיכון מוגבר במיוחד במשטרים אוטוריטריים שיכולים לנצל נתונים אלו לפיקוח על אזרחים.
גם בדמוקרטיות קיים איום של פיקוח מוגבר, כפי שהוכח על ידי חשיפת ‘פרשת פריזם’ בארה”ב. חברות גם עלולות לנצל נתוני צרכנים לצרכים עסקיים בלבד, וריכוז נתונים רגישים יוצר מטרה אטרקטיבית להאקרים ודליפות מידע. בנוסף, יש חששות מפני ניצול מערכות הבינה המלאכותית לצרכים צבאיים וביטחוניים כמו מלחמת סייבר, ריגול ופיתוח נשק חדש.
שאלות אתיות מטרידות
לבסוף, יש לתת את הדעת גם לשיקולים האתיים של ריכוז הבינה המלאכותית. הקבוצה המצומצמת של חברות ששולטות במערכות הבינה המלאכותית עלולה לרכוש השפעה רבה מדי על נורמות תרבותיות וערכיות של החברה, כשלעתים קרובות היא עדיין מעדיפה את הרווח על פני שיקולים אחרים. למשל, אלגוריתמים מודרים תכנים ‘לא ראויים’ על פלטפורמות מדיה חברתית, אך קיים חשש שהם עלולים להדיר דעות לגיטימיות ולדכא חופש ביטוי.
קיימים מקרים רבים של פוסטים תמימים שנחסמו או הוסרו על ידי אלגוריתמים אוטומטיים, מה שמוביל לחששות שמערכות אלו אינן נייטרליות אלא מונפות מאחורי הקלעים לפי האג’נדה של הפלטפורמה. לכן, יש להביא בחשבון את השלכותיה האתיות של ריכוזיות רבה מדי בתחום הבינה המלאכותית.
הפתרון: בינה מלאכותית מבוזרת
על מנת לאזן את כוחן של מערכות בינה מלאכותית מרוכזות, הפתרון הוא בפיתוח מערכות בינה מלאכותית מבוזרות שיבטיחו ששליטה בטכנולוגיה חשובה זו תישאר בידי הרוב ולא של מעטים. כך ננטרל את השגת ההשפעה המשמעותית של חברות בודדות או ישויות על כיוון התפתחות הבינה המלאכותית.
כאשר פיתוחה וניהולה של הבינה המלאכותית מתחלקים בין אלפי או מיליוני ישויות, התקדמותה תהיה צודקת יותר, עם התאמה טובה יותר לצרכי היחידים. התוצאה תהיה מגוון עשיר יותר של יישומי בינה מלאכותית, עם מבחר כמעט אינסופי של מודלים המשמשים מערכות שונות, ולא רק מספר מצומצם של מודלים דומיננטיים המשלטים על התעשייה.
מערכות בינה מלאכותית מבוזרות יובילו גם לאיזונים ובלמים מול הסיכונים של פיקוח המונים וניצול נתונים. בעוד שבינה מלאכותית מרוכזת עלולה לשמש ככלי נשק ונגד האינטרסים של הרוב, בינה מלאכותית מבוזרת מגנה כנגד סוג זה של דיכוי. היתרון העיקרי שלה הוא ששליטת כולם בהתפתחות הטכנולוגיה מונעת מישות בודדת מלנצל את הכוח שלה באופן שרירותי או פוגע.
בעולם שבו הבינה המלאכותית מבוזרת ופתוחה, תהיה תחרות אמיתית, חדשנות משגשגת, הגנות טובות יותר על הפרטיות ומרחב לערכים אתיים. זהו המפתח לנטרול הסיכונים הכרוכים בהרכזת הכוח, ולמיצוי הפוטנציאל המלא של הבינה המלאכותית למען כולנו.
