פייסבוק תפעל נגד טרוריסטים ברשת באמצעות בינה מלאכותית

This post is also available in: English (אנגלית)

פייסבוק מתכננת להשתמש בטכנולוגיות בינה מלאכותית כדי לזהות פוסטים שעלולים לקדם או לשבח פעולות טרור, מהלך שנעשה על רקע הדאגה הגוברת ממאמצי טרוריסטים לגייס חברים באמצעות הרשתות החברתיות. כיום, מסתמכת פייסבוק בעיקר על משתמשים שמתריעים על תכנים בעייתיים.

מנכ"ל פייסבוק מרק צוקרברג כתב במכתב שפרסם כי "פיתוח מלא של הטכנולוגיה יארך שנים רבות" מפני שנדרשת תוכנה שתהיה מספיק מתוחכמת כדי להבחין בסיפור חדשותי על התקפת טרור לבין מאמצים לגייס אנשים עבור ארגון טרור.

הוא הוסיף וציין כי "מידי יום ישנם מיליארדי פוסטים, תגובות והודעות בכל רחבי השירותים שלנו, וכיוון שלא ניתן לעבור על כולם, אנו בודקים תכנים כאשר מדווחים לנו… הבינה המלאכותית תוכל לסייע באמצעות גישה טובה יותר. אנחנו חוקרים מערכות שיוכלו לסרוק תמונות וסרטונים ולסמן תוכן שיועבר לצוות שלנו לבדיקה. הדבר נמצא עדיין בשלבי פיתוח מוקדמים, אך התחלנו לבחון מקרוב תכנים מסוימים, וכבר הצלחנו ליצור כשליש מכל הדיווחים המיועדים לבחינת הצוות."

לפי ה-washingtonpost.com, צוקרברג התיחס גם למאמצי החברה לבנות קהילה גלובאלית באמצעות פייסבוק, וציין כי הצלחתה תהיה תלויה בשאלה "האם אנו מקימים קהילה שתשמור על ביטחוננו – תמנע פגיעה, תסייע במשברים ותסייע בשיקום שלאחריהם".

המבקרים של פיסבוק ורשתות חברתיות אחרות טענו כי לא נעשים מספיק מאמצים למשטור התוכן העובר ברשתות, כדוגמת דברי תעמולה שמשתפים טרוריסטים חשודים, או סרטוני התאבדות המועברים בשידור חי. הטרור הוא נושא רגיש במיוחד.

"בהסתכלות קדימה, אחת ההזדמנויות הגדולות ביותר עבורנו לשמור על ביטחון האנשים היא לבנות בינה מלאכותית שתבין במהירות ובדיוק גבוהים יותר את המתרחש ברחבי הקהילה שלנו", כתב צוקרברג.

פייסבוק כבר פועלת זה למעלה משנה להשתיק תעמולת טרור פוטנציאלית. דוח של הוול סטריט ז'ורנל מפברואר 2016 כבר ציין כי לחצים מצד הממשלה הניעו את החברה להסיר פרופילים של חשודים בתמיכה בטרור ולסרוק את הפוסטים של חבריהם באופן קפדני יותר.

לאחרונה דווח כי פייסבוק, טוויטר, גוגל ומיקרוסופט יקימו מאגר נתונים משותף על מנת לאתר ולמחוק "תמונות טרור אלימות או סרטוני גיוס לטרור".

צוקרברג התייחס בדבריו גם לסוגיית ה"חדשות המזויפות", אם כי לא ציין אם טכנולוגיית הבינה המלאכותית תסייע גם בהתמודדות עם אתגר זה.

לפי אתר האינטרנט של תחום המחקר בפייסבוק, חוקרי הבינה המלאכותית של החברה פועלים להבנה ולפיתוח של מערכות ברמה של אינטליגנציה אנושית באמצעות קידום הבעיות האקדמיות הקשורות בתחום זה בטווח הארוך. החברה מעורבת באופן פעיל בקהיליית המחקר באמצעות פרסומים, קוד פתוח וכו'.