This post is also available in:
English (אנגלית)
מערכות בינה מלאכותית הופכות ליותר ויותר עצמאיות, עם יכולת להשתמש בכלים חיצוניים ולפעול מול תשתיות דיגיטליות בעולם האמיתי. ההתקדמות הזו מציבה בפני התעשייה שאלה מורכבת: האם ניתן להמשיך לפתח מודלים חזקים יותר בקצב הנוכחי, כאשר מנגנוני הבטיחות מתקשים להדביק אותו?
כמה מבכירי תעשיית הבינה המלאכותית מביעים כעת תמיכה פומבית בהאטת הקצב. מנכ"ל אנתרופיק קרא לאחרונה לחברות בתחום, לרבות החברה שבראשה הוא עומד, למתן את קצב הפיתוח של מודלי הבינה המלאכותית המתקדמים ביותר. בהמשך הביעו גם מנכ"לי OpenAI ו־xAI תמיכה ברעיון הרחב יותר.
החשש אינו תיאורטי בלבד. תקריות מהתקופה האחרונה שבהן היו מעורבים סוכני בינה מלאכותית אוטונומיים הדגימו כיצד מערכות בעלות גישה לכלים ולשירותים חיצוניים יכולות לחרוג מהגבולות שיועדו להן. אירועים אלה הגבירו את תשומת הלב לשאלה מה עלול לקרות כאשר הדורות הבאים של הסוכנים יהפכו לבעלי יכולות מתקדמות עוד יותר.
ההצעה אינה מסתכמת בקריאה לחברות להפסיק לאמן מודלים. היא מציגה מערכת ממשל מדורגת, שתתחיל בהערכות בטיחות עצמאיות מצד גורמים חיצוניים עבור מפתחי מודלים מתקדמים. בשלב הבא ייקבעו תקני בטיחות מתואמים בין המדינות המשתתפות, ובהמשך עשויים להיחתם גם הסכמים בינלאומיים.
על פי דיווח של TechXplore, הגישה לחומרת מחשוב מתקדמת עשויה לשמש כאמצעי אכיפה. פיתוח מערכות הבינה המלאכותית המתקדמות ביותר תלוי בכמויות גדולות של שבבים ייעודיים ובתשתיות מרכזי נתונים, ולכן קיימים צווארי בקבוק פיזיים שממשלות יכולות לפקח עליהם באופן שקשה יותר לעשות עם תוכנה רגילה. ההצעה כוללת הגבלות על יצוא שבבים מתקדמים לארגונים או למדינות שאינם עומדים בדרישות הבטיחות המוסכמות.
הקושי המרכזי הוא התחרות. כל חברה שתאט את הפיתוח מרצונה מסתכנת בכך שמתחרה תגיע לפניה למודל בעל יכולות מתקדמות יותר. אותה בעיה קיימת גם בין ממשלות, שמתייחסות יותר ויותר לבינה מלאכותית מתקדמת כנכס כלכלי, צבאי וגיאופוליטי.
במקביל עולות שאלות לגבי האפשרות שחברות הבינה המלאכותית הגדולות והמבוססות דווקא ירוויחו מסחרית מהחמרת הכללים. דרישות בטיחות יקרות והגבלת הגישה למשאבי מחשוב עלולות להקשות על מתחרים קטנים יותר להיכנס לשוק. האטת קצב הפיתוח עשויה גם להעניק למעבדות המובילות זמן נוסף להפיק הכנסות מהמודלים הקיימים, לאחר השקעות עצומות בתשתיות מחשוב.
עבור גופי ביטחון ותשתיות קריטיות, לדיון יש השלכות מיידיות. השימוש בבינה מלאכותית נשקל יותר ויותר בתחומים כמו אבטחת סייבר, מערכות אוטונומיות ותמיכה בקבלת החלטות מבצעיות. מתן גישה לתוכנה אוטונומית מאוד לרשתות צבאיות, לרשתות חשמל או לתשתיות מים עלול ליצור השלכות חמורות בהרבה מתשובה שגויה של צ'אטבוט.
לכן, אחד המענים המעשיים הוא בידוד והגבלת המערכות, ללא קשר לאופן שבו יתפתח הדיון הרגולטורי הרחב. מערכות רגישות יכולות להגביל את ההרשאות שניתנות לבינה מלאכותית, להפריד בין רשתות ולשמור על אישור אנושי לפעולות בעלות השלכות משמעותיות. בחלק מהתשתיות הקריטיות ייתכן שיידרש אף ניתוק מוחלט משירותי בינה מלאכותית הנגישים לרשתות חיצוניות.
עדיין לא ברור אם האטה מתואמת תוכל לשרוד את הלחצים המסחריים והגיאופוליטיים. עם זאת, עצם הדיון משקף שינוי בשאלת הבטיחות של בינה מלאכותית: הסוגיה כבר אינה רק אם מודלים מסוגלים לייצר מידע מסוכן, אלא מה קורה כאשר מערכות אוטונומיות יותר ויותר מקבלות גם את היכולת לפעול על בסיסו.
