هشدار دادگاه بریتانیا به وکلا درباره استناد نادرست با هوش مصنوعی

دادگاه عالی انگلستان و ولز اعلام کرد که وکلا باید اقدامات جدی‌تری برای جلوگیری از سوءاستفاده از هوش مصنوعی در فعالیت‌های حرفه‌ای خود انجام دهند.
در حکمی که به بررسی دو پرونده اخیر اختصاص داشت، قاضی ویکتوریا شارپ نوشت که ابزارهای تولید محتوای مبتنی بر هوش مصنوعی مانند ChatGPT «قادر به انجام تحقیقات حقوقی قابل اعتماد نیستند».

قاضی شارپ نوشت: «چنین ابزارهایی می‌توانند پاسخ‌هایی ظاهراً منسجم و قابل‌قبول ارائه دهند، اما این پاسخ‌ها ممکن است کاملاً نادرست باشند. این پاسخ‌ها گاهی اوقات با اطمینان ادعاهایی را مطرح می‌کنند که به‌طور کلی نادرست‌اند.»

وی تأکید کرد که این موضوع به معنای ممنوعیت استفاده از هوش مصنوعی در تحقیقات حقوقی نیست، اما وکلا وظیفه حرفه‌ای دارند که قبل از استفاده از نتایج این تحقیقات در کارهای حقوقی، صحت آن‌ها را با منابع معتبر بررسی کنند.

قاضی شارپ با اشاره به افزایش مواردی که وکلا (از جمله در ایالات متحده، وکلای نماینده پلتفرم‌های بزرگ هوش مصنوعی) از اطلاعات نادرست تولیدشده توسط AI استفاده کرده‌اند، گفت: «این امر نشان می‌دهد که نیاز به اقدامات بیشتری برای تضمین رعایت دستورالعمل‌ها و انجام وظایف حرفه‌ای از سوی وکلا وجود دارد.» وی افزود که حکم وی برای نهادهای حرفه‌ای مانند شورای کانون وکلای دادگستری و جامعه حقوقی ارسال خواهد شد.

در یکی از این پرونده‌ها، وکیلی که نماینده مردی برای مطالبه خسارت از دو بانک بود، در لایحه خود به ۴۵ منبع استناد کرده بود؛ اما طبق گفته قاضی، ۱۸ مورد از این منابع اصلاً وجود نداشتند و بسیاری دیگر نیز «حاوی نقل‌قول‌های ذکرشده نبودند، استدلال‌های مورد ادعا را پشتیبانی نمی‌کردند یا هیچ ارتباطی با موضوع درخواست نداشتند».

در پرونده‌ای دیگر، وکیلی که نماینده مردی بود که از خانه‌اش در لندن اخراج شده بود، به پنج پرونده حقوقی استناد کرده بود که وجود خارجی نداشتند. این وکیل منکر استفاده از هوش مصنوعی شد، اما گفت ممکن است این ارجاعات از خلاصه‌های تولیدشده توسط AI که در «گوگل یا سافاری» نمایش داده شده، آمده باشند. قاضی شارپ اظهار داشت که اگرچه دادگاه تصمیم گرفت رسیدگی به جرم بی‌احترامی به دادگاه را آغاز نکند، اما «این تصمیم به‌عنوان رویه تلقی نمی‌شود».

او افزود: «وکلا در صورت عدم رعایت وظایف حرفه‌ای خود در این زمینه، با مجازات‌های شدید مواجه خواهند شد.»

هر دو وکیل یا به نهادهای نظارتی ارجاع داده شدند یا خود داوطلبانه مراجعه کردند. قاضی شارپ خاطرنشان کرد که اگر وکیلی وظایف خود را در برابر دادگاه انجام ندهد، دادگاه اختیار دارد اقدامات مختلفی از جمله «تذکر علنی، تحمیل هزینه، پیگیری قضایی به دلیل بی‌احترامی به دادگاه یا حتی ارجاع به پلیس» اتخاذ کند.