This post is also available in:
English (אנגלית)
במדינה שבה צנזורה קפדנית הולכת יד ביד עם תחרותיות אדירה בפיתוחים טכנולוגיים, אין זה מפתיע שישנם קשיים שצפים. דו"ח שפורסם לאחרונה על ידי ה-Financial Times חשף כי חברות בינה מלאכותית בסין עוברות כעת ביקורת של הממשלה הסינית כדי לוודא שמודלי השפה שלהם עומדים בקנה אחד עם "ערכי ליבה סוציאליסטיים".
הביקורת, אשר מנוהלת על ידי מנהל הסייבר של סין (CAC), שהוא רגולטור האינטרנט הראשי של המדינה, בוחנת מודלי בינה מלאכותית על תגובותיהם לנושאים רגישים פוליטית, כולל נשיא סין שי ג'ינפינג, בודקת את הנתונים עליהם המודלים מאומנים וכן סוקרת את פרוטוקולי הבטיחות שלהם. הביקורת כוללת בין היתר חברות גדולות כמו Bytedance (חברת האם של TikTok) ו-Alibaba, אך מגיעה עד חברות סטארט-אפ קטנות יותר.
רק בשנה שעברה קבעה סין כללים מקיפים ל-generative AI, המחייבים ציות ל"ערכי הליבה של הסוציאליזם" ואוסרים על יצירת "תוכן בלתי חוקי". יישום כללים אלה כרוך בתהליך קפדני של סינון תוכן במהלך אימון מודל ה-AI, בייחוד כי מודלים סיניים רבים עדיין מאומנים על נתונים בשפה האנגלית. הסינון מתבצע על ידי הסרת מידע שעשוי להיות בעייתי מנתוני האימון, ובמקביל יצירת מאגר של ביטויים שעשויים להיות רגישים כך שהמודל ידע לא להשתמש בהם. צ'אטבוטים פופולריים בסין מסרבים לעתים קרובות לדון בנושאים רגישים כמו המחאות בכיכר טיאננמן, אם כי במהלך הבדיקות של CAC יש מגבלה על כמות השאלות שמודלים יכולים לסרב לענות עליהן, ולכן המודל חייב לייצר תשובה מתאימה ופוליטיקלי-קורקט. כדי לנהל סיכונים, מפתחים בסין משלבים סינון בזמן אמת במודלי ה-AI שלהם כדי להחליף תגובות בעייתיות באופן מיידי.
למרות שסין איטית בהשקת המתחרה שלה ב-GPT בשל אתגרים רגולטוריים וסנקציות אמריקאיות המשפיעות על הגישה לשבבים המשמשים להכשרת LLM, סין עודנה מובילה בפטנטים גלובליים של בינה מלאכותית גנראטיבית.
