This post is also available in:
English (אנגלית)
מכשירים חכמים הופכים למתקדמים יותר ויותר, אך כוח המחשוב הגדל שלהם יוצר גם סיכוני סייבר חדשים. טלוויזיות, מצלמות, מכשירי חשמל ביתיים ומוצרים אחרים המחוברים לאינטרנט מצוידים לעיתים קרובות בהגנות אבטחה חלשות יותר ממחשבים רגילים, מה שהופך אותם למטרות אטרקטיביות עבור תוקפים. ככל שמודלים של בינה מלאכותית הופכים לקטנים מספיק כדי לפעול ישירות על גבי המכשירים הללו, חוקרים מזהירים מפני אפשרות חדשה: תוכנה זדונית שיכולה להשתמש בבינה מלאכותית כדי להתפשט באופן עצמאי.
חוקרים בחברת Anthropic בחנו כיצד מודלים קטנים של בינה מלאכותית עשויים להתנהג בדומה לתולעי מחשב, לעבור בין מכשירים מחוברים וליצור עותקים נוספים של עצמם ללא מעורבות אנושית רציפה.
תולעי מחשב מסורתיות הן תוכנות זדוניות שמשכפלות את עצמן ומתפשטות ברשתות באופן אוטומטי. גרסה המבוססת על בינה מלאכותית עשויה לנצל את יכולות המחשוב המתקדמות של מוצרי אלקטרוניקה צרכניים כדי לפעול ללא תלות במרכזי נתונים מרוחקים ועוצמתיים.
על פי דיווח של TechXplore, הטכנולוגיה הדרושה להתנהגות מסוג זה עשויה להפוך לזמינה בתוך חודשים ספורים.
במקום להסתמך על מערכת מחשוב מרכזית, תולעת בינה מלאכותית היפותטית תוכל לפעול על גבי מכשירים שנפרצו ולשכפל את עצמה ברשתות של התקנים פגיעים, לרבות ממירי טלוויזיה חכמים זולים ומכשירי חשמל ביתיים.
כדי להעריך את היקף ההתפשטות האפשרי, החוקרים בחנו את רשת הבוטים Kimwolf, שלפי הדיווחים הדביקה בשיאה יותר משני מיליון מכשירים, בעיקר ממירי טלוויזיה זולים המבוססים על מערכת ההפעלה אנדרואיד.
החוקרים העריכו כי תולעת בינה מלאכותית שתתפשט באמצעות חומרה דומה תנוע ככל הנראה בקצב איטי יחסית, כאשר תהליך השכפול והמעבר בין מכשירים עשוי להימשך ימים.
עם זאת, גם שכפול הדרגתי עלול להפוך לקשה לבלימה. מכיוון שהתוכנה תפעל על פני מספר רב של מכשירים עצמאיים, ייתכן שלא תהיה מערכת מרכזית אחת שהרשויות יוכלו להשבית כדי לעצור את התפשטותה.
הממצאים עדיין תיאורטיים. הערכות החברה התבססו על רשת בוטים קודמת ועל קטגוריה מוגבלת של מכשירים, ולא על התפרצות שהודגמה בפועל של תוכנה זדונית מבוססת בינה מלאכותית המשכפלת את עצמה.
חוקרים בלתי תלויים הזהירו גם כי המסקנות טרם אומתו באופן עצמאי.
בתחומי אבטחת הסייבר וביטחון המולדת, ההשלכות האפשריות חורגות מעבר למוצרי אלקטרוניקה ביתיים. מצלמות המחוברות לאינטרנט, חיישנים והתקנים משובצים אחרים משמשים יותר ויותר בתשתיות קריטיות, במערכות ניטור אבטחה וברשתות מבצעיות.
אם מכשירים שאינם מוגנים כראוי יהפכו למסוגלים להריץ תוכנות זדוניות אוטונומיות, הם עלולים ליצור נקודות חדירה נוספות למערכות רגישות.
המחקר מתפרסם גם על רקע חשש גובר מהתנהגות בלתי צפויה של סוכני בינה מלאכותית. עם זאת, מומחים מדגישים כי האיום המיידי יותר נותר תוקפים אנושיים המשתמשים בבינה מלאכותית כדי לשפר מתקפות סייבר ולהרחיב את היקפן, ולא מערכות בינה מלאכותית עצמאיות המתפשטות בכוחות עצמן.
ככל שמודלים של בינה מלאכותית הופכים לקטנים יותר והחומרה הצרכנית נעשית חזקה יותר, ההבחנה בין מכשירים מחוברים רגילים לבין מחשבים המסוגלים להריץ תוכנות אוטונומיות עשויה להמשיך ולהיטשטש.
האתגר של עולם אבטחת הסייבר יהיה להבטיח שההגנה על המכשירים תשתפר במקביל להתפתחות היכולות הללו, לפני שמוצרי אלקטרוניקה יומיומיים יהפכו לסביבה נוספת שבה תוכנות זדוניות בעלות יכולות אוטונומיות הולכות וגוברות יוכלו לפעול.
