האם בינה מלאכותית תהרוס אותנו?
This post is also available in: 
English (אנגלית)
בינה מלאכותית חזקה כנראה שלא תתממש בזמן הקרוב, אם תתממש אי פעם. אך הדאגה אשר ממשיכה להתגנב למחשבתנו היא שברגע שנצליח לפתח בינה מלאכותית מהסוג שיום אחד עלולה לחשוב בכוחות עצמה, היא עלולה לפנות נגדנו, ולאנושות לא יהיה די כוח לעצור בעדה.
בסופה של השנה שעברה, התמודדו בדיוק עם הנושא הזה בוועידת פסגה במונטריאול, כמו גם עם נושאי תעסוקה, סיבוכים לתהליכים משפטיים, ועוד.
"אני חושבת שהאתגר הגדול ביותר הוא האתגר לתעסוקה," אמר אנדרו נג, המדען הראשי של מנוע החיפוש באידו הסיני. הקצב המסחרר של ההתקדמות בטכנולוגיית בינה מלאכותית יכולה לסכן באופן רציני את הצפי לעבודה של "מספר גדול של אנשים בשנות ה- 20, ה- 40, וה- 50 לחייהם," הוא אמר.
“אין ספק שישנם סוגים של עבודות שיכולות להפוך לאוטומטיות היום למרות שבעבר הן לא יכלו להפוך לאוטומטיות," אמר אריק ברייניולפסון, כלכלן במכון הטכנולוגי של מסצו'סטס (MIT). עבודות בסיכון כוללות עורכי דין זוטרים, עובדים בקופה בסופרמרקטים, ומגוון שלם של מקצועות אחרים בהם עובדים כיום מיליוני בני אדם.
בעוד שהסיכון המיידי למחייתם של בני אדם ברור, אולי יום אחד בעתיד, הסכנה עלולה להיות לאנשים עצמם. אנחנו נזדקק לאכוף הגנות חזקות במיוחד כנגד בינה מלאכותית אשר עלולה לפנות כנגדנו.
“אנחנו רוצים סוכן שלא יהיה מסוגל או לא יהיה מוכן לשנות את מערכת הערכים שלו," אמר שחר אבין, חוקר במרכז למחקר סיכונים קיומיים באוניברסיטת קיימברידג'.
אבל אולי אנחנו אפילו מדמיינים את הסיכונים האלו לא נכון.
“אנחנו מונעים על ידי האינסטינקט הבסיסי אשר הוטמע בתוכנו לצורך הישרדות," אמר ראש מחקר בינה מלאכותית בפייסבוק, יאן לקון. "למכונות יהיה סוג שונה מאוד מאוד של בינה. לא יהיו להן את המניעים אשר גורמים לאנשים לעשות דברים רעים זה לזה."
