جستجو کردن

وقتی قاضی فریب هوش مصنوعی را می‌خورد: دادگاه تجدیدنظر آمریکا قاضی را از پرونده کنار گذاشت!

دادگاه تجدیدنظر حوزهٔ پنجم آمریکا دستور موقت یک قاضی فدرال را باطل کرد و دستور داد پرونده به قاضی دیگری ارجاع شود. دلیل این تصمیم کم‌سابقه، دستورهایی پر از خطاهای ساختگی بود؛ از خواهان‌هایی که در دعوا حضور نداشتند تا رأیی که اصلاً وجود خارجی ندارد. تا امروز بحث «توهم» هوش مصنوعی در دادگاه‌ها عمدتاً به لوایح وکلا مربوط می‌شد. این بار، پای خود قاضی در میان است.

ماجرا از کجا شروع شد؟
پروندهٔ «فدراسیون معلمان جکسون علیه فیچ» (Jackson Federation of Teachers v. Fitch) به اعتراض علیه قانونی در ایالت می‌سی‌سی‌پی مربوط می‌شود که برنامه‌های تنوع، برابری و شمول (DEI) را در مؤسسات آموزشی دولتی محدود می‌کند. معترضان این قانون را مغایر قانون اساسی آمریکا می‌دانستند.

قاضی هنری وینگیت، از دادگاه فدرال منطقهٔ جنوبی می‌سی‌سی‌پی، دستور موقتی صادر کرد و اجرای این قانون را متوقف ساخت. اما متن این دستور مشکلی جدی داشت.

خطاهایی که نباید اتفاق می‌افتاد
دستور قاضی وینگیت:

  • از یازده شخص و سازمان به‌عنوان خواهان نام می‌برد که اصلاً طرف دعوا نبودند؛
  • از دو مقام دولتی نام می‌برد که علیه آنها دعوایی اقامه نشده بود؛
  • به اظهارنامه‌های چهار نفری استناد می‌کرد که در پروندهٔ دادرسی وجود نداشتند و شاید اصلاً وجود خارجی نداشتند؛
  • از برنامه‌های آموزشی‌ای سخن می‌گفت که گویا به دلیل این قانون حذف شده بودند، بدون هیچ دلیلی؛
  • و عباراتی را به قانون نسبت می‌داد که در متن قانون نبود.

واکنش قاضی: «خطای دفتری»
وقتی وکلای خوانده‌ها این خطاها را گوشزد کردند، قاضی دستور اصلی را از سامانهٔ پرونده حذف کرد و نسخهٔ اصلاح‌شده‌ای را با همان تاریخ صدور قبلی جایگزین کرد. خوانده‌ها خواستند نسخهٔ اصلی برای حفظ سوابق دادرسی بازگردانده شود، اما قاضی نپذیرفت و خطاها را «دفتری» خواند.

ماجرا به رسانه‌های ملی آمریکا کشیده شد و سناتور چاک گراسلی نیز در این باره توضیح خواست. قاضی وینگیت سرانجام پذیرفت که یکی از کارآموزان قضایی‌اش (law clerk) در تهیهٔ پیش‌نویس اولیه از هوش مصنوعی استفاده کرده و آن پیش‌نویس به اشتباه ثبت شده است. با این حال، او تأکید کرد این خطاها بر استدلال حقوقی اصلی و نتیجهٔ تصمیم اثری نداشته است.

نسخهٔ «اصلاح‌شده» هم اصلاح نشده بود
در جلسهٔ رسیدگی در دادگاه تجدیدنظر، طرفین متوجه شدند که نسخهٔ اصلاح‌شده هم همچنان به رأیی از دادگاه تجدیدنظر حوزهٔ چهارم استناد می‌کند که وجود ندارد: Cousins v. School Board of the City of Norfolk. جالب‌تر اینکه شمارهٔ جلد و صفحهٔ این ارجاع، به بخش‌هایی از دو رأی کاملاً متفاوت مربوط بود که هیچ‌کدام به موضوع مورد استناد ربطی نداشتند.

رأی دادگاه تجدیدنظر: «کاری سرهم‌بندی‌شده»
دادگاه تجدیدنظر حوزهٔ پنجم در ۲۲ اکتبر ۲۰۲۶ استدلال «خطای دفتری» را نپذیرفت. قاضی جری اسمیت، نویسندهٔ رأی، رسیدگی دادگاه بدوی را «کاری سرهم‌بندی‌شده» توصیف کرد و از صدور دستورهایی بر پایهٔ واقعیات ساختگی انتقاد کرد.

انتقاد دادگاه به خطاهای واقعی محدود نماند. به نظر دادگاه تجدیدنظر، قاضی بدوی:

  • رویهٔ لازم‌الاتباع، از جمله آرای دیوان عالی آمریکا دربارهٔ اعتراض کلی به قوانین (facial challenge) و صدور دستور موقت را به‌طور جدی نادرست اعمال کرده بود؛
  • دلیل حذف ادعاهای نادرست را توضیح نداده بود؛
  • و توضیح نداده بود چرا پس از حذف اطلاعات نادرست، دستور موقت همچنان موجه است.

دادگاه تجدیدنظر دستور موقت را باطل کرد و گامی غیرمعمول برداشت: دستور داد پرونده پس از بازگشت به دادگاه بدوی، به قاضی دیگری ارجاع شود. دادگاه‌های تجدیدنظر آمریکا چنین اختیاری دارند، اما آن را فقط در موارد استثنایی و برای حفظ ظاهر عدالت به کار می‌برند. به نظر دادگاه، نحوهٔ برخورد قاضی با مطالب ساختگی، در کنار ضعف‌های تحلیل حقوقی او، نگرانی کافی دربارهٔ انصاف ادامهٔ رسیدگی ایجاد کرده بود.

مسئولیت با کیست؟
قاضی وینگیت خطاها را به کارآموز قضایی خود نسبت داد. اما دستورها به نام قاضی و با اقتدار منصب او صادر شده بودند. قضات به‌طور معمول برای پژوهش، نگارش و ویرایش آرا از کارآموزان قضایی کمک می‌گیرند؛ این کمک، مسئولیت قاضی را از بین نمی‌برد.

همین اصل برای وکلا نیز صادق است. مقررات رفتار حرفه‌ای وکلا در آمریکا، وکیل را مسئول نظارت بر کار دستیاران غیروکیل می‌داند. صرف‌نظر از اینکه چه کسی پیش‌نویس اولیه را تهیه کرده، وکیلی که لایحه را به دادگاه تقدیم می‌کند مسئول صداقت، صلاحیت و درستی اظهارات آن است.

درس‌هایی برای حقوقدانان ایرانی
۱. هوش مصنوعی ابزار است، نه مرجع. هیچ استنادی، اعم از رأی، ماده یا مقاله، را بدون مراجعه به منبع اصلی نپذیرید.
۲. مسئولیت قابل واگذاری نیست. امضای شما پای هر سند، یعنی مسئولیت کامل شما، فرقی نمی‌کند پیش‌نویس را چه کسی یا چه چیزی تهیه کرده باشد.
۳. نظارت بر همکاران بخشی از کار حرفه‌ای است. اگر دستیار یا کارآموزتان از هوش مصنوعی استفاده می‌کند، باید بدانید چگونه و خروجی را کنترل کنید.
۴. پنهان کردن خطا، از خود خطا بدتر است. در این پرونده، شیوهٔ برخورد قاضی با خطا، یعنی حذف نسخهٔ اصلی، تاریخ‌گذاری با تاریخ قبلی و «دفتری» خواندن خطاها، نقش مهمی در تصمیم دادگاه تجدیدنظر داشت.

جمع‌بندی
این رأی نشان می‌دهد که خطر هوش مصنوعی در دادرسی، فقط به لوایح وکلا محدود نیست و می‌تواند به خود تصمیمات قضایی هم راه یابد. پیام دادگاه تجدیدنظر روشن است: استفاده از هوش مصنوعی ممنوع نیست، اما هیچ ابزاری جایگزین راستی‌آزمایی و قضاوت حرفه‌ای نمی‌شود. و وقتی خطایی کشف شد، نحوهٔ برخورد با آن به همان اندازهٔ علت وقوعش اهمیت دارد.

منبع خبر:

    • Fifth Circuit Removes Judge from Case After AI Hallucinations in Court Orders, Posted on

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *