מי מפקח על הבינה המלאכותית?

מי מפקח על הבינה המלאכותית?

This post is also available in: enEnglish (אנגלית)

כיום, יותר ויותר מערכות מקיפות ועוטפות את חיי היום יום שלנו. מרכבים אוטונומיים ועד לטעינת הטלפון, כל הפעולות האלו מייצרות מידע ונגישויות שונות שבינה מלאכותית יכולה לנצל. בכל מקום שלא תלכו אליו, הפרטים שלכם נרשמים והנראות שלהם מזוהה. בנמל התעופה, בדרך לעבודה, בסופר ועוד' באמצעות מצלמות אבטחה וטכנולוגיות נוספות.

בניגוד למערכות מבוססות קוד, מערכות זיהוי נבנות בבסיסן על בינה מלאכותית. מערכות אלו אוספות מיליוני של מיליוני תמונות ומייצרות תבנית (template) שבעזרתה הן מזהות גורמים. על כל שילוב של פיקסלים ניתן ערך, משמעות. עם זאת, הדיוק של מערכות אלו אף פעם לא נמצא ב-100% ויגיעו מצבים בהם המערכת טועה. לומר את האמת, כבר קרו הרבה מקרים כאלו.

עכשיו דמייני שאותו המידע שמזין את המערכת מורעל ומה סקלת הנזק שיכולה להיגרם. אם האקר יוכל להשיג גישה למאגר המידע הזה וישנה אך ורק מספר פיקסלים קטן, כל המערכת תהיה מורעל ויתכן שתניב תוצאות ומסקנות שגויות. אפילו אם ההאקר לא נמצא בתמונה, רוב המפתחים כיום קונים את מאגרי התמונות מספק חיצוני, שכן אין אדם שמסוגל לצלם מיליוני תמונות. מספיק שתמונה אחת תהיה מורעל או שגויה במאגר הזה, והאלגוריתם של המערכת עלול להחזיר תשובות לא מדויות עם נתונים שגויים.

החברה הישראלית DeepKeep פיתחה פיתרון אפקטיבי – אנטי-וירוס לבינה מלאכותית. מערכת אשר מזהה אנומליות וסטיות, עורכת בדיקות מעמיקות ואף מחזירה ללקוח דיווחים אודות חולשות שעלולות להיות למנוע הבינה המלאכותית.

פלטפורמת ה- MLProtect של החברה מספקת כלים לחיזוק מודלי בינה מלאכותית והגנה מפני מתקפות. על ידי שימוש בשיטות הגנה כגון AI firewall, מזהים, אלגוריתמים טרום-עיבוד ולאחר עיבוד ועוד, החברה מייצרת שכבה של הגנה שמערכות הבינה המלאכותית והלמידה המכונה של היום זקוקות לו. מתחילת מעגל החיים של מערכת הבינה המלאכותית ועד למורכבות הפעולות שהיא מבצעת, DeepKeep מספקת שירותים למגזרי הביטחון ו-HLS, תעשיית הרכבים, תעשיות ה- fintech וה- insurtech, ותעשיות נוספות. בקרוב, החברה תפרוס את המערכת המבצעית הראשונה שלה אצל לקוח.

הסטארטאפ הוא בוגר מרכז החדשנות INNOFENSE שמפעילה iHLS בשיתוף עם משרד הביטחון. תוכנית האצה יחודית שמסירה עבור יזמים את החסמים לאקוסיסטם הטכנולוגי, והופכת אותם לחברות בשלות ומובילות תוך חיבור למשקיעים הנכונים ומובילה למיזמים טכנולוגיים דואליים במגזרים האזרחי והביטחוני. מטרת התכנית היא חיזוק הקשר בין השוק האזרחי והשוק הביטחוני באמצעות פיתוח משותף של הטכנולוגיות, ובכך לקדם ולשפר את הטמעתן בשני השווקים.

למידע נוסף ושאלות, ניתן ליצור קשר עם חברת DeepKeep דרך האתר deepkeep.ai.

מעוניינים לצלול אל תוך עולם העתידנות הטכנולוגית? – הירשמו לINNOTECH 2023, הכנס והתערוכה הבינלאומיים לסייבר, HLS וחדשנות באקספו תל אביב ב29-30 במרץ.

מעוניינים בחסות / ביתן תצוגה בתערוכת ה-INNOTECH 2023? לחצו כאן לפרטים!