אנת'רופיק קוראת ליצירה דחופה של תקנות סביב בינה מלאכותית ומניעת סיכונים הרסניים

This post is also available in: English (אנגלית)

בזמן שהבינה המלאכותית ממשיכה להתפתח בקצב מהיר, חברת פיתוח הבינה המלאכותית המובילה אנת'רופיק מרימה דגל בנוגע לסיכונים הקטסטרופליים הפוטנציאליים שמציבים מודלים של בינה מלאכותית. בנובמבר 2024, חשפה החברה גרסה משודרגת של מודל "קלוד" שלה, אשר מסוגל כעת לשלוט במחשב, והדגישה את הצורך ברגולציה דחופה כדי לטפל בסיכונים הקשורים לבינה מלאכותית.

בהצהרה, החברה הדגישה כי "החלון למניעת סיכונים פרואקטיביים נסגר במהירות". מודלים של בינה מלאכותית כבר הוכיחו את יכולתם להניע התקדמות משמעותית במחקר מדעי, בבריאות ובכלכלה. עם זאת, אנת'רופיק מזהירה כי ללא רגולציה ממוקדת היטב, טכנולוגיות אלה יכולות גם לחשוף את החברה לסיכונים חמורים. אנת'רופיק טוענת כי חוסר ברגולציה מתאימה יכול להוביל לתרחיש שבו התקדמות הבינה המלאכותית מעוכבת על ידי מדיניות ריאקציונית שלא מצליחה להתמודד עם הסכנות האמיתיות.

הדחיפות של אנת'רופיק מושרשת בפיתוח המהיר של מודלים של בינה מלאכותית, שחלקם מגיעים כעת לרמות ביצועים שנחשבו בעבר ככאלו במרחק של שנים. החברה הצביעה על ההתקדמות של עצמה, בה קלוד 3.5 סונט הגיע לשיעור הצלחה של כמעט 50% במשימות כתיבת קוד בעולם האמיתי רק שישה חודשים לאחר ש-Devin AI של חברת Cognition Labs הגיע ל-13.5%, אשר נחשב להישג מדהים באותו הזמן. עם הדור הבא של מודלי בינה מלאכותית באופק, המסוגלים לתכנן משימות מורכבות ומרובות שלבים, אנת'רופיק רואה בכך רגע קריטי כדי להתכונן לסיכונים העתידיים שעלולים לצוץ.

הסיכונים הקשורים ל-AI אינם רק תיאורטיים. מודלים של בינה מלאכותית כבר מראים ידע ברמה של מומחים בתחומים מדעיים רבים, בהם הם עלולים להיות מנוצלים לרעה. אנת'רופיק הזהירה מזה זמן רב כי מודלים מתקדמים יכולים בקרוב להוות סיכונים משמעותיים בתחומי אבטחת הסייבר והכימיה, הביולוגיה, הרדיולוגיה והגרעין, תחומים שבהם הסיכונים גבוהים מאוד.

אנת'רופיק קוראת לממשלות לנקוט בפעולה בתוך 18 החודשים הבאים כדי להבטיח שהבינה המלאכותית תפותח באופן אחראי. בעוד שההתקדמות בתחום ה-AI טומנת בחובה הבטחה עצומה, רגולציה אסטרטגית וזהירה הינה חיונית כדי לרתום את היתרונות שלה תוך הפחתת הסכנות. בלי זה, הסיכונים שמציב AI יכולים להפוך בקרוב למציאות בלתי נמנעת.