This post is also available in:
English (אנגלית)
ככל שמערכות בינה מלאכותית נעשות מתקדמות יותר, הבטחת ההתנהגות שלהן בהתאם לכוונה המקורית הופכת לאתגר מרכזי. גישות קונבנציונליות מתמקדות ב"יישור" (alignment) קפדני, כלומר, תכנון מערכות שיפעלו לפי כללים וערכים מוגדרים מראש. אך ככל שהמערכות מורכבות יותר, קשה יותר לחזות כל התנהגות אפשרית. הדבר מעורר חשש שמערכות AI מתקדמות עלולות לפעול בדרכים בלתי צפויות, גם אם תוכננו להיות בטוחות.
גישה חדשה מציעה לנטוש את הרעיון של מערכת אחת הנשלטת באופן מושלם, ולעבור לניהול התנהגות באמצעות גיוון. על פי דיווח של TechXplore, במקום להסתמך על מודל יחיד, מספר מערכות AI בעלות נקודות מבט וסדרי עדיפויות שונים פועלות יחד, ומאזנות זו את זו.
הקונספט מבוסס על ההנחה שבינה מלאכותית מתקדמת אינה ניתנת לחיזוי מלא. ככל שמערכות מתקרבות ליכולות כלליות, הן צפויות לפתח פתרונות והתנהגויות שלא נצפו מראש על ידי המפתחים. במקום לנסות לבטל את חוסר הוודאות, הגישה המוצעת שואפת להכיל אותו באמצעות פיזור קבלת ההחלטות בין מספר מערכות.
במסגרת זו, כל מערכת AI פועלת עם יישור חלקי לערכים או מטרות שונות. חלקן עשויות להעדיף רווחת אדם, אחרות שיקולים סביבתיים, ואחרות לשמור על ניטרליות. כאשר מתמודדים עם החלטות מורכבות, המערכות מקיימות אינטראקציה בכך שמאתגרות, מתקנות או מחזקות זו את זו. כך נוצר איזון דינמי, המפחית את הסיכון שהטיה או שגיאה של מערכת אחת ישפיעו באופן מכריע על התוצאה.
בניסויים נמצא כי מערכות קשיחות יותר אמנם קשות יותר להטיה לכיוון מזיק, אך גם פחות גמישות כאשר הן סוטות מהמסלול. לעומת זאת, מערכות גמישות יותר היו ניתנות להשפעה בקלות יחסית, אך בשילוב ביניהן יצרו מגוון רחב יותר של תגובות, שסייע לאזן קיצוניות.
מנקודת מבט ביטחונית, לגישה זו יש השלכות על האופן שבו AI משולבת במערכות קריטיות. הסתמכות על מודל יחיד עלולה ליצור נקודת כשל, בעוד רשת של מערכות מגוונות עשויה להציע עמידות גבוהה יותר בפני מניפולציה או התנהגות בלתי צפויה. הדבר רלוונטי במיוחד בתחומים כמו תמיכה בקבלת החלטות, סייבר ומערכות אוטונומיות.
ככל שהבינה המלאכותית ממשיכה להתפתח, ניהול התנהגותה עשוי להישען פחות על שליטה מוחלטת ויותר על אינטראקציה מובנית בין מערכות. גישה מבוזרת ורב־סוכנית עשויה להציע דרך מעשית יותר לשמירה על אמינות בסביבות מורכבות ודינמיות.
