This post is also available in:
English (אנגלית)
חברת OpenAI הודיעה לאחרונה כי פלטפורמת ChatGPT תחל להציע בקרוב גרסה מותאמת במיוחד לבני נוער, כחלק ממאמץ רחב להתמודד עם הדאגה הגוברת להשפעות הכלים מבוססי בינה מלאכותית על בטיחותם ובריאותם הנפשית של צעירים.
ההודעה מגיעה בעקבות מקרים מתוקשרים, בהם תביעה שהוגשה על ידי משפחתו של נער בן 16 ששם קץ לחייו בתחילת השנה. המשפחה טוענת כי ChatGPT היה מעורב באירועים שהובילו לטרגדיה, לאחר שהנער התייעץ עם הכלי בנושא ההתאבדות. המקרה עורר מחדש דיון ציבורי בנוגע לסיכונים הפוטנציאליים של אינטראקציות בלתי מפוקחות עם מערכות בינה מלאכותית.
לפי OpenAI, משתמשים שיזוהו כמתחת לגיל 18 יועברו אוטומטית לגרסה ייעודית של ChatGPT, שתכלול מדיניות תוכן מחמירה יותר ואמצעי הגנה נוספים. בין היתר, יסוננו תכנים בעלי אופי מיני, ותופעל מערכת דיווח אוטומטית שתוכל, במקרים נדירים, לערב רשויות מוסמכות כאשר זוהה מצוקה נפשית חמורה של המשתמש.
"האופן שבו ChatGPT מגיב לבן 15 צריך להיראות שונה מהאופן שבו הוא מגיב למבוגר", נמסר מ-OpenAI, תוך הדגשת החשיבות של התאמה לגיל המשתמש.
מאפייני בטיחות נוספים צפויים להתווסף בשבועות הקרובים. לפי OpenAI, כלי בקרת הורים יהיו זמינים עד סוף ספטמבר, ויאפשרו קישור בין חשבונות הורים לחשבונות ילדיהם, צפייה בהיסטוריית השיחות, הגדרת מגבלות שימוש ואף קביעת "שעות שקט" ללא גישה לפלטפורמה.
בנוגע לאימות גיל המשתמש, ציינה החברה כי במקרים שבהם לא ניתן לאמת גיל באופן חד-משמעי, המערכת תנקוט בגישת זהירות ותציג כברירת מחדל את גרסת בני הנוער.
המהלך מגיע על רקע בדיקות רגולטוריות מתגברות בארצות הברית ובמדינות נוספות. נכון להיום, רשות הסחר הפדרלית האמריקאית (FTC) חוקרת את הסיכונים הרחבים יותר שבצ’אטבוטים מבוססי AI עבור ילדים ובני נוער. במקביל, ממשיכה לגדול הדאגה הציבורית סביב הקשר בין פלטפורמות דיגיטליות לבין מצוקות נפשיות בגיל ההתבגרות.
חברות טכנולוגיה נוספות נוקטות גם הן צעדים דומים: כך למשל, YouTube החלה להפעיל מערכות חדשות להערכת גיל, המבוססות על דפוסי שימוש והיסטוריית חשבון, כדי להתאים את הגישה לתוכן לפי הגיל המשוער.
לאחר שהבינה המלאכותית חוללה מהפכה עולמית בשלוש השנים האחרונות, נראה כי הצעד הנוכחי של OpenAI הוא אחד הראשונים לכיוון של רגולציה אחראית יותר, במטרה להפוך את השימוש בטכנולוגיה זו לבטוח יותר – למשתמשים בודדים ולחברה כולה.
