ההשפעה המפתיעה של AI על המערכת המשפטית

This post is also available in: English (אנגלית)

התגלה כי נעשה שימוש בחוקים מזויפים שהומצאו ע"י AI בסכסוכים משפטיים. מצב זה מעלה נושאים של אתיקה וחוק ואף מאיים לערער את האמון במערכות המשפט בעולם.

למרות שעורכי דין מתמחים ביישום ידע וניסיון מקצועי בבית המשפט, מספר עורכי דין לא זהירים נתפסו בשימוש של בינה מלאכותית. המידע שמספקים אלגוריתמים מבוססים בינה מלאכותית לרוב נראה מאוד משכנע, אך לעתים קרובות הוא לא מדויק בשל הניסיון של המודל "למלא את הפערים" כאשר הנתונים שזמינים לו אינם מספקים או שיש בהם חורים (מתייחסים לתופעה הזאת בתור "הזיות" של האלגוריתם).

שימוש בתכנים מומצאים אלה בתהליכים משפטיים הוא בעיה חמורה ביותר, וכאשר הם משולבים עם עורכי דין לחוצים וחוסר גישה לשירותים משפטיים, הדבר עלול לגרום לרשלנות וקיצורי דרך שמובילים לחוסר אמון הציבור במערכת החוק והצדק.

והתופעה הזאת קורית ממש עכשיו. המקרה הידוע ביותר הוא תביעה שהוגשה על ידי נוסע נגד חברת תעופה, בה עורכי הדין לא ידעו שצ'אט GPT יכול "להזות" את החומרים שהוא מספק, הגישו לבית המשפט דוגמאות של תביעות מומצאות לחלוטין, וסבלו מהשלכות חמורות.

גם לאחר מקרה זה משנת 2023, מקרים מזויפים ממשיכים לצוץ במדינות רבות כמו קנדה ובריטניה, ובתי המשפט שלהן מגיבים בדרכים שונות. מספר בתי משפט בארצות הברית הוציאו צווים לגבי השימוש ב-AI גנרטיבי הנעים בין הנחיות לאימוץ אחראי של הטכנולוגיה לבין איסור מוחלט. חברות המשפט בבריטניה ובקולומביה הבריטית, כמו גם בתי המשפט של ניו זילנד, פיתחו גם הם קווים מנחים.

לדברי Techxplore, מומחים טוענים שהפתרון לסוגיה זו טמון בחינוך והדרכה של עורכי דין ושל הציבור הרחב. עורכי דין צריכים ללמוד לבדוק את הדיוק והאמינות של המידע שהם מקבלים, ובתי משפט צריכים לאמץ כללים לגבי השימוש ב-AI גנרטיבי בהליכים משפטיים.