עורך דין מסתבך לאחר שהשתמש בצ'אט GPT בבית המשפט

image provided by pixabay

This post is also available in: English (אנגלית)

עורך דין מניו יורק יעלה לשימוע בבית המשפט לאחר שהשתמש במידע שגוי במסגרת תביעה, בגלל שחיפש מידע משפטי בעזרת צ'אט GPT.

צ'אט GPT הוא צ'אטבוט מבוסס בינה מלאכותית שיכול לענות על שאלות בשפה טבעית ו-"אנושית" למדי, ואף יכול לחקות סגנונות כתיבה שונים. מאגר המידע עליו הוא מסתמך הוא האינטרנט כפי שהיה בשנת 2021. לצ'אט GPT היו אינספור משתמשים מאז השקתו בנובמבר 2022, אבל עלו חששות רבים לגבי הסכנה שטומן השימוש בו, של הפצת מידע שגוי.

לפי ה-BBC, מערכת המשפט עומדת בפני נסיבות חסרות תקדים לאחר שהתגלה כי הוכחה שהוגשה בנוגע לתביעה כלל אינה קיימת. עורך הדין שהשתמש בבוט טוען שכלל לא ידע שהוא יכול לספק מידע שגוי.

התביעה המדוברת עוסקת באדם התובע חברת תעופה לגבי פציעה. הצוות המשפטי של התובע הגיש מספר מקרים משפטיים דומים מן העבר בניסיון להוכיח את הלגיטימיות של התביעה. עורכי הדין של חברת התעופה לא יכלו למצוא מספר לא מבוטל מהדוגמאות שהוגשו, וכתבו לשופט בנושא. "נראה ששש מהמקרים שסופקו מכילים החלטות שופט מזויפות, עם ציטוטים מזויפים ואזכורים פנימיים מזויפים", כתב השופט קסטל בהכרזה, בה נדרש הסבר מהצוות המשפטי של התובע.

התגלה שסטיבן א. שוורץ שעבד כעורך דין ב-30 השנים האחרונות השתמש בצ'אט GPT כדי לחפש תביעות דומות למקרה המדובר. שוורץ אמר שהוא "מתחרט מאוד" שהשתמש בבוט, והוסיף שהוא מעולם לא השתמש בו למחקר משפטי לפני, ולא היה מודע לכך שהתוכן שסיפק יכול להיות שקרי או מסולף. בצילומי מסך של שיחות עורך הדין עם הבוט נראה שהוא מבקש מקרים דומים בבית המשפט, וכשבירר עם הבוט האם המקרים שסיפק אמיתיים, הוא "בירר" ואישר שהם אכן אמיתיים, לפי דיווח של ה-BBC.

בסביבה של היום בה השימוש בכלים מבוססי בינה מלאכותית רק גדל, המקרה הזה מציג את הבעיה שעולה כאשר אנשים סומכים על המידע שמסופק להם, מבלי לפקפק בו או לברר אם הוא מבוסס במציאות.