מומחי טכנולוגיה קוראים לעצירת הבינה המלאכותית

This post is also available in: English (אנגלית)

מומחי טכנולוגיה, אקדמיים ומנכ"לי חברות ה-Tech הגדולות בעולם חתמו על מכתב פתוח שקורא לעצירה של לפחות שישה חודשים של ניסיונות חדשים בפיתוח בינה מלאכותית.

חברות שחוקרות בינה מלאכותית "לכודים במרץ בלתי ניתן לשליטה לפתח ולהפעיל יותר ויותר מוחות דיגיטליים שאף אחד – אפילו לא המפתחים עצמם – יכולים להבין, לחזות או לשלוט עליהם באופן מהימן," כך מכריז המכתב. "אם לא יהיה ניתן לבסס עצירה במהירות, הממשלות צריכות להתערב ולבסס הקפאה."

על פי דיווח של חדשות NBC, המכתב מזהיר אודות תרחישים הרסניים אפשריות.

"האם עלינו לפתח מוחות לא אנושיים שיכולים עם הזמן לעלות עלינו במספרם, לחשוב מהר יותר, ולהפוך אותנו לחסרי ערך?" כך שואל המכתב. "האם עלינו לסכן את יכולת השליטה על והארגון של החברה שלנו? החלטות אלו לא יכולות ליפול בידיהם של מנהיגי tech שלא נבחרו על ידי העם."

מנכ"ל חברת טסלה ו-SpaceX, אילון מאסק, אחד ממייסדי חברת אפל סטיב ווזניאק, המדען הראשי של IBM גריידי בוץ', מנכ"ל חברת stability AI אמד מוסטק והאתיקאי לענייני טכנולוגיה טריסטן האריס חתמו על המכתב הפתוח, אשר פורסם בשעות הבוקר של רביעי שעבר.

אקדמיים אשר חתמו על המכתב כוללים את סטוארט ראסל, ראש מרכז לבינה מלאכותית משולבת עם בני האדם של אוניברסיטת בארקלי בקליפורניה, יובל הררי, אחד מבין ההיסטוריונים הידועים מהאוניברסיטה העברית בירושלים, ושון אוהגיטא, מנהל ראשי של מרכז הלמידה אודות סיכונים קיומיים באוניברסיטת קיימברידג'.

למרות שרבים מסכימים כי תעשיית הבינה המלאכותית מתפתחת במהירות מסוכנת, חלק מאנשי הדעת מבקרים את המכתב הפתוח בשל מיקודו על הנזק התאורטי העתידי שעלול להיגרם בעקבות פיתוחי הבינה המלאכותית.

שרה מיירז ווסט, מנהלת הארגון AI Now, עמותה שמטרתה היא לחקור כיצד טכנולוגיית הבינה המלאכותית משפיעה על החברה, אומרת כי המכתב מפספס הרבה דאגות משמעותיות בנוגע לתעשיית ה-AI.

היא אומרת שחברות כמו גוגל ומיקרוסופט מחזיקים במונופול של שוק הבינה המלאכותית בארה"ב, ושטכנולוגיה זו עלולה לגרום לגלי פיטורים עצומים של עובדים בתחומים יצירתיים, ושבעצם רוב החברות מנפחות את היכולות האמתיות של המוצרים שלהם.