בינה מלאכותית בטוחה תלויה בחומרה, לא בתוכנה

This post is also available in: English (אנגלית)

דו"ח חדש גדול קורא לרגולציה של החומרה העומדת בבסיס כל בינה מלאכותית ("מחשוב") על מנת לסייע במניעת שימוש לרעה של הטכנולוגיה.

מספר אפשרויות מדיניות המודגשות בדו"ח כוללות רישום גלובלי העוקב אחר זרימת השבבים המיועדים למחשבי-על של בינה מלאכותית, "Compute Caps" (מגבלות מובנות למספר השבבים אליהם שבב בינה מלאכותית יכול להתחבר), והפצת "מתג הפעלה" להכשרת בינה מלאכותית על פני מספר קבוצות (כדי לאפשר וטו דיגיטלי על בינה מלאכותית מסוכנת לפני שהיא ניזונה מנתונים).

לפי Techxplore, חוקרים טוענים כי שבבי בינה מלאכותית ומרכזי נתונים מציעים מטרות יעילות יותר לבדיקה ולפיקוח על בטיחות AI, משום שצריכים לשלוט על הנכסים האלה באופן פיזי בעוד נתונים ואלגוריתמים ניתנים לשכפול והפצה מרחוק.

המומחים מציינים גם כי שבבי המחשוב רבי העוצמה הנדרשים כדי להניע מודלים של בינה מלאכותית נבנים באמצעות שרשראות אספקה מרוכזות מאוד הנשלטות על ידי קומץ חברות – מה שהופך את החומרה עצמה לנקודת התערבות חזקה למדיניות להפחתת סיכונים בתחום.

היידן בלפילד, אחד ממחברי הדו"ח של מרכז לברהולם למען עתיד המודיעין בקיימברידג' טוען: "הבינה המלאכותית התקדמה באופן מדהים בעשור האחרון, והרבה מזה התאפשר הודות לעלייה החדה בכוח המחשוב המיושם על אלגוריתמים להכשרה. ממשלות מודאגות בצדק מההשלכות הפוטנציאליות של בינה מלאכותית, ובוחנות כיצד לווסת את הטכנולוגיה, אבל נתונים ואלגוריתמים הם בלתי מוחשיים וקשה לשלוט בהם. מחשבי על של AI מורכבים מעשרות אלפי שבבי בינה מלאכותית מרושתים המתארחים במרכזי נתונים ענקיים, לעתים קרובות בגודל של כמה מגרשי כדורגל, וצורכים עשרות מגה-וואט של חשמל".

הוא מסביר עוד כי חומרת המחשוב היא פיזית, מוחשית, ניתנת לכימות, ומשמעותה הפיזית היא שניתן להטיל עליה מגבלות בדרך שעלולה בקרוב להיות כמעט בלתי אפשרית עם אלמנטים וירטואליים יותר של הבינה המלאכותית.

הדו"ח מספק מספר "סקיצות" של כיוונים אפשריים לניהול כוח המחשוב, כאשר רעיונות המדיניות מחולקים לשלושה מחנות: הגדלת הנראות הגלובלית של מחשוב הבינה המלאכותית, הקצאת משאבי מחשוב לתועלת הגדולה ביותר לחברה, ואכיפת הגבלות על עוצמת המחשוב.

הצעה אחת כוללת רישום בינלאומי של שבבי בינה מלאכותית המחייב יצרנים, מוכרים ומשווקים של שבבים לדווח על כל ההעברות, ובכך יספקו מידע מדויק על כמות המחשוב הנמצאת ברשותן של מדינות ותאגידים בכל זמן נתון. תוספת לרעיון הזה יכולה להיות הוספת מזהה ייחודי לכל שבב כדי למנוע ריגול תעשייתי ו"הברחת שבבים".

מחברי הדו"ח מבהירים כי הצעות המדיניות שלהם הן יותר ניסיוניות מאשר הצעות מגובשות לחלוטין, ומוסיפים כי לכולן יש חסרונות פוטנציאליים, החל מסיכוני דליפות מידע קנייניות ועד השפעות כלכליות שליליות ופגיעה בהתפתחות החיובית של הבינה המלאכותית.