This post is also available in:
English (אנגלית)
מגמה חדשה ומדאיגה מתעוררת בעולם הבינה המלאכותית – כזו שבה הכוונות והרצונות העמוקים ביותר שלכם יכולים להפוך בקרוב למטבע שמתדלק כלכלה דיגיטלית חדשה. חוקרים מאוניברסיטת קיימברידג' מרימים דגל סביב עלייתה של "כלכלת הכוונות" – שוק המונע על ידי מודלים של בינה מלאכותית שיכולים לחזות, לתמרן ולמכור את כוונותיך לכל המרבה במחיר.
בעוד שפרסום ממוקד המבוסס על העדפות דיגיטליות הוא כבר פרקטיקה מבוססת היטב, השימוש ב-AI לוקח את זה צעד נוסף קדימה. עוזרי ה-AI הפופולריים של היום, צ'אט בוטים, ומלווים וירטואליים אוספים ומנתחים כמויות עצומות של נתונים אישיים, ומציעים שירותים מעבר לרק לענות על שאלות. על פי חוקרי קיימברידג', מודלים אלה יוכלו בקרוב לייצר רווחים מהמצב הפסיכולוגי שלך, מאמונותיך הפוליטיות, ואפילו בחירות השפה שלך, ובכך לייצר סוג חדש של עסקה דיגיטלית בה הכוונות שלך נמכרות לתאגידים.
החוקרים במרכז לוורהולם לעתיד הבינה (Leverhulme Center for the Future of Intelligence -LCFI) של קיימברידג' מדגישים כיצד מערכות בינה מלאכותית אלה, כגון מודלי שפה (LLM), מסוגלות להסיק מידע רגיש הרבה יותר ממה שאנו עשויים לצפות מעקבות דיגיטליות מסורתיות. הם טוענים כי היכולת של הבינה המלאכותית לנתח את הניואנסים של השיחות שלך – כגון טון, קצב, ואת המניעים הבסיסיים מאחורי המילים שלך – נותן לחברות הטכנולוגיה רמה חסרת תקדים של תובנות על החיים האישיים שלך. עובדה זו פותחת את הדלת לפרסום ממוקד מאוד ואפילו מניפולטיבי, עם השלכות מרחיקות לכת על פרטיות, פוליטיקה והתנהגות הצרכן.
השוק החדש המונע על ידי בינה מלאכותית, שיכול להיות רלוונטי לסוגיות החל מרכישות מוצרים ועד להעדפות פוליטיות, מהווה סיכון למניפולציה חברתית בקנה מידה תעשייתי. ככל שהבינה המלאכותית ממשיכה להתפתח, חברות טכנולוגיה גדולות כבר ממקמות את עצמן באופן שיוכל להשתמש בתובנות הללו. לדוגמה, מסגרת "App Intents" החדשה של אפל וקריאותיה של OpenAI להשיג נתונים שניתן להסיק מהם כוונה אנושית, מדגישים שינוי לכיוון חיזוי והשפעה על התנהגות המשתמשים.
עם ענקיות טכנולוגיה כמו Nvidia, Meta ו-Shopify הבוחנות באופן פעיל את הפוטנציאל של AI לחזות כוונה אנושית, מתעוררת השאלה: את האינטרסים של מי מערכות AI אלה באמת משרתות? חוקרים מזהירים כי כאשר חברות אוספות נתונים על הרצונות הלא-מדוברים שלך, הצעד הבא יהיה למכור את הכוונות האלה לפני שאתה אפילו מסוגל להבין אותם באופן מלא בעצמך. כלכלת הכוונות עשויה בקרוב להיות כבר כאן – אבל באיזה מחיר?
