התוכנית של אוסטרליה לרגולציית AI "בסיכון גבוה"

This post is also available in: English (אנגלית)

ממשלת אוסטרליה חשפה השבוע את תגובתה לניהול בינה מלאכותית בטוחה ואחראית, כפי שהוכרז על ידי השר הפדרלי לתעשייה ומדע, אד הוסיק.

במקום ללכת בנתיב של האיחוד האירופי ולקבוע תקנה אחת של בינה מלאכותית, ממשלת אוסטרליה מתכננת להתמקד באזורי יישום בינה מלאכותית בסיכון גבוה עם הפוטנציאל הגדול ביותר לפגיעה (כמו מערכת המשפט, תוכנות מעקב, מכוניות אוטונומיות, וכו').

על פי Techxplore, יוזמה זו העלתה שאלות רבות, כגון כיצד יוגדרו אזורים בסיכון גבוה ומי יקבל את ההחלטה הזו, אם יישומי בינה מלאכותית בסיכון נמוך יעמדו בפני רגולציה דומה, וכיצד ארגונים אמורים לצפות סיכונים לטכנולוגיות AI ויישומים חדשים של כלי בינה מלאכותית בעתיד ללא מועצה מייעצת קבועה?

עם זאת, חשוב לזכור כי ההערכה של סיכון בטכנולוגיות חדשות אינה דבר חדש והיא בעלת עקרונות, קווים מנחים ותקנות רבות שניתן להתאים כדי לטפל בחששות לגבי כלים מבוססי AI.

בעיה משמעותית אחת עם רגולציה של בינה מלאכותית היא שיש כלים רבים שכבר נמצאים בשימוש בבתים ובמקומות עבודה ברחבי אוסטרליה ללא מעקות רגולטוריות לניהול סיכונים. בעוד צרכנים וארגונים אכן זקוקים להדרכה לאימוץ נכון של כלי בינה מלאכותית לניהול סיכונים, יש שימושים רבים הנמצאים מחוץ לתחומי ה"סיכון הגבוה".

זה מביא אותנו לאתגר של קביעת הגדרות "סיכון גבוה" – המושג "סיכון" אינו דבר מוחלט אלא יותר נמצא על ספקטרום. הסיכון אינו נקבע על ידי הכלי עצמו או על ידי ההגדרה שבה הוא משמש, אלא נובע מגורמים הקשריים היוצרים פוטנציאל לנזק. יתר על כן, סיכונים הנשקפים על ידי אנשים וארגונים המשתמשים בכלי בינה מלאכותית חייבים להיות מנוהלים לצד סיכונים הנשקפים על ידי הטכנולוגיה עצמה.

הממשלה הצהירה כי הגוף המייעץ המומחה לסיכוני בינה מלאכותית יזדקק חברים בעלי מומחיות מגוונת מכל רחבי התעשייה (ממגזרים וגדלי חברות שונים), לאקדמיה (מומחי מחשוב AI כמו גם ומדענם סוציאליים), החברה האזרחית ואנשי החוק.

הצעד הבא הוא להחליט כיצד הממשלה רוצה לנהל את סיכוני ה-AI הפוטנציאליים בעתיד – גוף מייעץ קבוע יוכל לנהל סיכונים עבור טכנולוגיות עתידיות ולשימושים חדשים בכלים הקיימים. גוף כזה יכול גם לייעץ לצרכנים ולמקומות עבודה ביישומי בינה מלאכותית ברמות סיכון נמוכות יותר, במיוחד במקומות בהם התקנות מוגבלות או לא קיימות.

מידע זה סופק על ידי Techxplore.