This post is also available in:
English (אנגלית)
בעידן הבינה המלאכותית והדאגה הגוברת בעולם האקדמיה בנוגע למאמרים הנכתבים על ידי בינה מלאכותית, צוות של חוקרים מאוניברסיטת קנזס מביא חדשות משמעותיות- גלאי טקסטים שנוצרו ע"י בינה מלאכותית במאמרים מדעיים המסוגל להבחין בין תוכן אנושי לכזה שנכתב ע"י מכונה כמעט 100% מהזמן.
במחקר שלהם, הצוות ציין כי בעוד שיש כיום כלים זמינים לזיהוי בינה מלאכותית, אף אחד מהם לא פועל כראוי מול מאמרים מדעיים. פרופסור הת'ר דזאייר אמרה כי "רוב תחום ניתוח הטקסט זקוק לגלאי כללי שיעבוד על כל סוג תוכן". לכן הצוות שלה התמקד בדוחות שנכתבו במיוחד עבור כתבי עת מדעיים בתחום הכימיה.
על פי אתר Techxplore, הגלאי של הצוות הוכשר באמצעות כתבי עת שפורסמו על ידי האגודה האמריקנית לכימיה. הם אספו כ-100 קטעי מבוא שנכתבו על ידי אנשי מקצוע, ואז דרשו מצ'אט GPT לכתוב מבוא משלו המבוסס על תקצירים או על כותרות של דוחות.
כאשר הגלאי סרק את שלושת סוגי הטקסטים, הוא זיהה 100% מהפעמים את הקטעים שנכתבו על ידי בני אדם, כמו גם את הדוחות שנוצרו ע"י מכונה בהתבסס על כותרות בלבד. התוצאות היו גם טובות מאוד בזיהוי טקסטים שנכתבו בהתבסס על קטעי מבוא, עם 98% הצלחה.
כלים מתחרים כיום לא משתווים. המתחרה ZeroGPT מתקשה מאוד לזהות תוכן המיוצר ע"י בינה מלאכותית כשמדובר בדוחות הקשורים למדע, ו-OpenAI לא מצליחה לזהות נכון את מחבר התוכן בממוצע של 80% מהזמן.
"גלאי חדש זה יאפשר לקהילה המדעית להעריך את חדירת צ'אט GPT לכתבי עת בתחום הכימיה, לזהות את ההשלכות של השימוש בו, ולהציג במהירות אסטרטגיות להפחתת הסיכון כאשר מתעוררות בעיות", כך טוענת דסאייר.
בתגובה לשיטפון התוכן שנוצר על ידי בינה מלאכותית, כתבי עת מדעיים משכתבים את הכללים שלהם בנוגע להגשת מאמרים, כאשר רובם אוסרים כליל על חומרים שנוצרו על ידי בינה מלאכותית, ואף דורשים גילוי של כל תהליכי בינה מלאכותית אחרים בהם נעשה שימוש ביצירת המאמרים.
כדי להסביר את הסיכונים האפשריים של שימוש בבינה מלאכותית בכתבי עת מדעיים, דזאייר מסבירה כי שימוש היתר בהם עלול לגרום לשטף של כתבי יד בעלי ערך נמוך. "הם עלולים לגרום לכך שמאמרים מצוטטים מאוד יהיו מיוצגים יתר על המידה, ויתעלמו לחלוטין מיצירות חדשות שעדיין לא ידועות היטב".
היא הוסיפה כי הדבר החשוב ביותר עבורה הוא נטייתה של הבינה המלאכותית "להזות" ולהמציא עובדות שאינן נכונות. עם זאת, היא נותרה אופטימית ומצהירה כי העורכים חייבים כעת להוביל את הדרך באיתור "זיהום הבינה המלאכותית". "כתבי עת צריכים לנקוט צעדים סבירים כדי להבטיח שהמדיניות שלהם לגבי כתיבה של בינה מלאכותית תבוצע, ואנחנו חושבים שזה אפשרי לחלוטין להתגבר על בעיית הזיהוי של בינה מלאכותית".
