نسل ما پیش از آنکه فرصت کند درباره حقوق دیجیتال در کلاس‌های دانشکده حقوق چیزی بخواند، بخش بزرگی از زندگی خود را در محیطی گذرانده است که قواعد آن را شرکت‌های فناوری نوشته‌اند؛ محیطی که در آن، دیده‌شدن، ارتباط‌گرفتن، دریافت اطلاعات و حتی شکل‌گیری بخشی از هویت فردی، به سازوکارهایی وابسته شده است که اغلب از چشم کاربران پنهان می‌مانند. ما هر روز وارد پلتفرم‌هایی می‌شویم که محتوای پیش روی ما را انتخاب می‌کنند، علایقمان را تحلیل می‌کنند و برای نگه‌داشتن توجه‌مان تصمیم می‌گیرند؛ اما به‌ندرت می‌پرسیم چه کسی قواعد این محیط را تعیین کرده و در برابر پیامدهای آن چه مسئولیتی دارد. این پرسش زمانی جدی‌تر می‌شود که کاربر، کودک باشد؛ انسانی که نه‌تنها در معرض آثار فناوری قرار دارد، بلکه در مرحله‌ای از رشد است که سلامت، حریم خصوصی، روابط اجتماعی و شکل‌گیری شخصیت او می‌تواند از نحوه طراحی این محیط تأثیر بپذیرد.
از پلتفرم بی‌طرف تا طراح محیط دیجیتال
پرونده متا در ایالت نیومکزیکوی آمریکا این پرسش را از سطح یک بحث اخلاقی به کانون مناقشه‌ای حقوقی منتقل کرده است. پس از محکومیت ۳۷۵ میلیون دلاری متا در مرحله نخست رسیدگی، دادگاه در مرحله بعدی نیز این شرکت را به پرداخت ۵۶۷ میلیون دلار برای اقدامات جبرانی و کاهش آسیب‌های مورد رسیدگی ملزم کرد؛ به این ترتیب، مجموع مبالغ تعیین‌شده در دو مرحله به ۹۴۲ میلیون دلار رسید. پرونده به ادعاهایی درباره گمراه‌کردن مصرف‌کنندگان در زمینه ایمنی پلتفرم‌ها و به‌خطرانداختن کودکان مربوط بود و بر مبنای حقوق ایالت نیومکزیکو رسیدگی شد. افزون بر محکومیت مالی، اقدامات اصلاحی مرتبط با حفاظت از کودکان نیز در کانون تصمیم دادگاه قرار گرفت. متا با حکم مخالفت کرده و اعلام کرده است که آن را به چالش خواهد کشید؛ بنابراین، وضعیت نهایی پرونده و دامنه آثار حقوقی آن باید با توجه به مراحل بعدی رسیدگی ارزیابی شود. اهمیت این پرونده، بااین‌حال، صرفاً به مبلغ چشمگیر محکومیت آن وابسته نیست. آنچه آن را به موضوعی مهم برای آینده حقوق فناوری تبدیل می‌کند، پرسشی بنیادی‌تر است که آیا شرکتی که محیط دیجیتال را طراحی می‌کند، رفتار کاربران را تحلیل می‌کند و بر محتوایی که در معرض دید آنان قرار می‌گیرد اثر می‌گذارد، می‌تواند در برابر پیامدهای قابل پیش‌بینی طراحی خود همچنان به وصف «واسطه» پناه ببرد؟ برای درک اهمیت این پرسش، باید از تصور سنتی پلتفرم به‌عنوان محلی برای انتشار محتوای دیگران فاصله گرفت. در الگوی کلاسیک، ارائه‌دهنده خدمت اینترنتی عمدتاً زیرساخت ارتباط را فراهم می‌کرد و مسئولیت محتوای منتشرشده از سوی اشخاص ثالث، تابع قواعدی جداگانه بود. در حقوق ایالات متحده، ماده ۲۳۰ قانون نزاکت ارتباطات نقش مهمی در شکل‌گیری حمایت‌های قانونی از خدمات رایانه‌ای تعاملی در برابر برخی دعاوی ناشی از محتوای اشخاص ثالث داشته است. بااین‌حال، این حمایت را نمی‌توان مصونیتی مطلق برای تمام رفتارهای شرکت فناوری دانست؛ حدود آن به متن قانون، ماهیت ادعا و مبنای حقوقی دعوا بستگی دارد. به‌ویژه باید میان مسئولیت ناشی از محتوایی که کاربر منتشر می‌کند و مسئولیت احتمالی ناشی از طراحی یا عملکرد خود محصول تمایز گذاشت. این دو موضوع ممکن است در یک پرونده با یکدیگر ارتباط داشته باشند، اما از نظر تحلیلی یکسان نیستند. پلتفرم‌های امروزی صرفاً محتوای انتخاب‌شده از سوی کاربران را به دیگران منتقل نمی‌کنند. سامانه‌های توصیه‌گر، تنظیمات پیش‌فرض، اعلان‌ها، پخش خودکار، پیشنهاد حساب‌ها و محتواهای تازه و سازوکارهای شخصی‌سازی، همگی می‌توانند در تعیین آنچه کاربر می‌بیند و مدت زمانی که در محیط باقی می‌ماند نقش داشته باشند. الگوریتم ممکن است بر اساس داده‌های رفتاری، محتوایی را برجسته کند؛ طراحی رابط کاربری ممکن است خروج از برنامه را دشوارتر یا ادامه استفاده را آسان‌تر سازد؛ و نظام اعلان‌ها ممکن است کاربر را بارها به محیطی بازگرداند که پیش‌تر آن را ترک کرده است. هیچ‌یک از این ویژگی‌ها به‌تنهایی اثبات‌کننده تخلف حقوقی نیست و افزایش تعامل نیز لزوماً عملی غیرقانونی محسوب نمی‌شود. مسئله زمانی شکل می‌گیرد که ادعا شود یک قابلیت یا مجموعه‌ای از تصمیم‌های طراحی، خطری قابل پیش‌بینی ایجاد کرده یا خطری موجود را تشدید کرده است و شرکت، با وجود آگاهی یا امکان آگاهی از آن، تدابیر متناسبی برای کاهش خطر اتخاذ نکرده است. در چنین وضعیتی، تحلیل حقوقی دیگر نمی‌تواند صرفاً به این پرسش محدود بماند که چه کسی محتوای زیان‌بار را منتشر کرده است؛ بلکه باید نقش خود محصول، میزان کنترل شرکت بر آن، اطلاعات در دسترس و امکان اتخاذ تدابیر پیشگیرانه را نیز بررسی کند.
حقوق کودک در عصر الگوریتم‌ها
این تغییر زاویه نگاه برای حقوق کودک اهمیت ویژه‌ای دارد؛ زیرا کودک پیش از آنکه کاربر یک خدمت تجاری باشد، صاحب حق است. کنوانسیون حقوق کودک، کودک را از حمایت‌های ویژه حقوقی برخوردار می‌داند و در مواد مختلف خود، حق حیات، بقا و رشد، سلامت، حریم خصوصی، دسترسی به اطلاعات، آزادی بیان، مشارکت و حمایت در برابر خشونت و سوءاستفاده را به رسمیت می‌شناسد. ماده ۳ کنوانسیون مقرر می‌کند که در تمام اقدامات مربوط به کودکان، منافع عالی آنان باید ملاحظه‌ای اساسی باشد و ماده ۱۲ نیز حق کودک را برای بیان آزادانه دیدگاه‌های خود در امور مربوط به او مورد تأکید قرار می‌دهد. این حقوق با ورود کودک به یک شبکه اجتماعی، بازی آنلاین یا سامانه هوش مصنوعی از میان نمی‌روند؛ همان‌گونه که استفاده از یک خدمت تجاری، به‌خودی‌خود به معنای صرف‌نظرکردن از حقوق بنیادین نیست. ازاین‌رو، پرسش درباره ایمنی کودکان در محیط دیجیتال نباید تنها به این محدود شود که آیا کودک شرایط استفاده از برنامه را پذیرفته یا والدین اجازه استفاده از آن را داده‌اند. مسئله مهم‌تر آن است که آیا محصول و شیوه اداره آن با حقوق کودک سازگار است و آیا خطرات قابل پیش‌بینی آن به‌طور متناسب شناسایی و مدیریت شده‌اند. در این زمینه، تفسیر عمومی شماره ۲۵ کمیته حقوق کودک سازمان ملل متحد، مصوب سال ۲۰۲۱، سندی مهم به شمار می‌رود. این تفسیر، حقوق کودک را در ارتباط با محیط دیجیتال بررسی می‌کند و نشان می‌دهد که حمایت از حقوق کودک نمی‌تواند صرفاً به رفتار کاربران یا حذف محتوای غیرقانونی محدود بماند. محیط دیجیتال مجموعه‌ای از خدمات، فناوری‌ها، سامانه‌های خودکار، الگوریتم‌ها و شیوه‌های پردازش داده را دربرمی‌گیرد و همین واقعیت اقتضا می‌کند که آثار طراحی، توسعه و بهره‌برداری از فناوری نیز در تحلیل حقوق کودک مورد توجه قرار گیرد. کمیته حقوق کودک بر ضرورت اتخاذ تدابیر دولتی برای حمایت از کودکان در برابر آثار نامطلوب فعالیت‌های تجاری تأکید کرده و در بندهای ۳۸ و ۳۹ این سند، از جمله به ارزیابی آثار فعالیت شرکت‌ها بر حقوق کودک و ضرورت انطباق طراحی، توسعه، بهره‌برداری، توزیع و بازاریابی محصولات و خدمات با استانداردهای مربوط به حقوق کودک پرداخته است. اهمیت این رویکرد در آن است که مسئولیت پیشگیری از آسیب را به مرحله پس از وقوع حادثه محدود نمی‌کند؛ بلکه ارزیابی حقوق کودک را به بخشی از فرایند تصمیم‌گیری درباره محصول تبدیل می‌سازد.
ارزیابی حقوق کودک باید از مرحله طراحی آغاز شود
بر این مبنا، اگر یک پلتفرم برای استفاده کودکان یا نوجوانان طراحی شده باشد، یا در عمل شمار قابل‌توجهی از آنان از خدمات آن استفاده کنند، ارزیابی حقوق کودک می‌تواند مستلزم بررسی پرسش‌هایی مشخص باشد: آیا تنظیمات پیش‌فرض از حریم خصوصی کودک حمایت می‌کنند؟ آیا سازوکارهای توصیه محتوا خطر مواجهه مکرر با محتوای زیان‌بار را افزایش می‌دهند؟ آیا کودک می‌تواند اعلان‌ها را مدیریت کند، از تعامل ناخواسته خارج شود یا محتوای نامناسب را به‌آسانی گزارش دهد؟ آیا سامانه‌های هوش مصنوعی برای تعامل با کاربران کم‌سن‌وسال تدابیر ایمنی متناسب دارند؟ آیا شرکت آثار احتمالی محصول را بر گروه‌های متفاوت کودکان، از جمله کودکان دارای معلولیت یا کودکانی که با آسیب‌پذیری‌های مضاعف مواجه‌اند، بررسی کرده است؟ طرح این پرسش‌ها به معنای آن نیست که هر قابلیت شخصی‌سازی، هر اعلان یا هر سامانه توصیه‌گر ناقض حقوق کودک است. ارزش آن‌ها در این است که ارزیابی ایمنی را از سطح ادعاهای کلی به بررسی مستند و قابل ارزیابی تصمیم‌های طراحی و شیوه اداره محصول منتقل می‌کنند.
از تعهدات حقوق بشری تا مسئولیت حقوقی شرکت‌ها
البته باید میان جایگاه حقوقی تفسیر عمومی شماره ۲۵ و قواعد الزام‌آور مسئولیت مدنی تمایز گذاشت. این سند، تفسیر کمیته ناظر بر اجرای کنوانسیون حقوق کودک است؛ نه معاهده‌ای مستقل که به‌تنهایی یک نظام جهانی و یکسان برای مسئولیت مدنی شرکت‌های فناوری ایجاد کند. تعیین اینکه شرکت در یک دعوای مشخص مسئول است یا خیر، همچنان به حقوق قابل اعمال، مبنای دعوا، ادله موجود و شرایط مقرر در نظام حقوقی مربوط وابسته است. بااین‌حال، این ملاحظه از اهمیت سند نمی‌کاهد؛ زیرا تفسیر عمومی شماره ۲۵ در توضیح نحوه اعمال حقوق کودک در محیط دیجیتال و تبیین اقداماتی که از دولت‌ها انتظار می‌رود، چارچوبی هنجاری و تفسیری فراهم می‌کند که نمی‌توان آن را در بحث تنظیم‌گری پلتفرم‌ها نادیده گرفت. در سطحی گسترده‌تر، اصول راهنمای سازمان ملل درباره کسب‌وکار و حقوق بشر، که در سال ۲۰۱۱ از سوی شورای حقوق بشر تأیید شد، میان وظیفه دولت‌ها برای حمایت از حقوق بشر و مسئولیت شرکت‌ها برای احترام به این حقوق تمایز می‌گذارد. بر اساس این چارچوب، دولت‌ها باید در حدود تعهدات حقوقی خود، از نقض حقوق بشر توسط اشخاص ثالث پیشگیری کنند و سازوکارهای قانونی و نظارتی مناسب را فراهم آورند. شرکت‌ها نیز باید آثار نامطلوب بالفعل و بالقوه فعالیت‌های خود بر حقوق بشر را شناسایی کنند، از ایجاد یا مشارکت در آن آثار جلوگیری کنند، در کاهش آثار منفی بکوشند و در موارد مقتضی برای جبران آن‌ها اقدام کنند. این اصول به‌خودی‌خود جایگزین قوانین مسئولیت مدنی کشورها نیستند و نمی‌توان صرفاً با استناد به آن‌ها نتیجه گرفت که هر شرکت، در هر حوزه قضایی، تحت هر شرایطی ملزم به پرداخت خسارت است. بااین‌حال، چارچوبی مهم برای تحلیل رفتار شرکت‌ها فراهم می‌کنند: فقدان یک قانون اختصاصی درباره فناوری نوظهور یا ناکامی دولت در تنظیم‌گری، به‌خودی‌خود به معنای بی‌اهمیت‌بودن آثار فعالیت شرکت بر حقوق بشر نیست.
مسئولیت مشترک، اما نه یکسان
در مورد کودکان، این مسئولیت می‌تواند مستلزم بررسی آثار طراحی محصول، شیوه پردازش داده‌ها، سازوکارهای گزارش‌دهی، شفافیت سیاست‌های ایمنی و امکان دسترسی به راهکارهای جبرانی باشد. البته مسئولیت شرکت‌ها جایگزین مسئولیت دولت‌ها نیست. وضع مقررات الزام‌آور، نظارت مؤثر و فراهم‌کردن امکان رسیدگی به شکایت‌ها، در چارچوب تعهدات قابل اعمال، همچنان از وظایف نهادهای عمومی است. به همین ترتیب، نمی‌توان تمام بار مدیریت خطر را بر دوش والدین گذاشت؛ خانواده‌ها معمولاً به اطلاعات داخلی شرکت درباره الگوریتم‌ها، آزمون‌های ایمنی، داده‌های رفتاری یا تصمیم‌های طراحی دسترسی ندارند. مراقبت والدین اهمیت دارد، اما این مراقبت نمی‌تواند جایگزین تکالیف قانونی شرکت یا وظایف تنظیم‌گری دولت شود. تقسیم مسئولیت باید بر اساس نقش هر بازیگر، میزان کنترل او بر منبع خطر، توانایی پیشگیری و مبنای تعهد حقوقی‌اش صورت گیرد.
چه زمانی طراحی محصول مبنای مسئولیت حقوقی می‌شود؟
از اینجا می‌توان به مفهوم «وظیفه مراقبت دیجیتال از کودک» رسید؛ مفهومی که برای تحلیل مسئولیت پلتفرم‌ها مفید است، اما نباید بدون توضیح حقوقی به‌عنوان قاعده‌ای تثبیت‌شده و یکسان در حقوق بین‌الملل معرفی شود. در هر پرونده باید مشخص شود که تکلیف مورد ادعا از کجا ناشی می‌شود، معیار مراقبت قابل اعمال چیست، چه رفتاری با آن معیار ناسازگار بوده، آیا خسارتی تحقق یافته و رابطه سببیت میان رفتار مورد ادعا و خسارت چگونه احراز می‌شود. جزئیات این عناصر در نظام‌های حقوقی مختلف تفاوت دارد و ممکن است دعوا بر مبنای قانون حمایت از مصرف‌کننده، قواعد حریم خصوصی، مقررات ایمنی محصول یا مبنای حقوقی دیگری مطرح شده باشد. بااین‌حال، برای تحلیل چنین دعاوی‌ای می‌توان چند عامل را در کنار یکدیگر سنجید: قابلیت پیش‌بینی خطر، آگاهی شرکت یا امکان متعارف آگاهی از آن، نقش طراحی محصول در ایجاد یا تشدید خطر، توانایی واقعی شرکت برای کاهش آن و تناسب تدابیری که اتخاذ کرده است. این عوامل به‌تنهایی آزمون حقوقی واحدی برای همه کشورها نیستند، اما به روشن‌شدن مسئله کمک می‌کنند و مانع از آن می‌شوند که بحث مسئولیت به دو ادعای افراطی فروکاسته شود: اینکه شرکت باید مسئول هر رفتار زیان‌بار کاربران باشد یا اینکه تا پیش از انتشار محتوای غیرقانونی و دریافت گزارش مشخص، هیچ مسئولیتی درباره طراحی محصول ندارد.
حمایت از کودک، بدون نادیده‌گرفتن حقوق او
با این‌همه، حمایت از کودک نباید بهانه‌ای برای نادیده‌گرفتن سایر حقوق او شود. فضای دیجیتال برای کودکان فقط منبع خطر نیست؛ محیطی برای یادگیری، ارتباط، خلاقیت، دسترسی به اطلاعات و مشارکت اجتماعی نیز هست. محدودکردن افراطی دسترسی، نظارت دائمی بر ارتباطات یا جمع‌آوری گسترده اطلاعات هویتی، اگر بدون مبنای قانونی و ارزیابی تناسب انجام شود، می‌تواند خود به حریم خصوصی، آزادی بیان و سایر حقوق کودک آسیب برساند. اصل منافع عالی کودک، مجوزی نامحدود برای تصمیم‌گیری به جای کودک یا حذف او از محیط دیجیتال نیست. این اصل باید با توجه به شرایط مشخص، سن و میزان بلوغ کودک، حقوق درگیر و آثار واقعی تصمیم تفسیر شود؛ افزون بر آن، دیدگاه‌های خود کودک نیز باید به نحو متناسب مورد توجه قرار گیرد. هدف، ساختن محیطی است که در آن کودک بتواند از مزایای فناوری بهره‌مند شود، بی‌آنکه برای دسترسی به این مزایا ناچار باشد در معرض خطرات نامتناسب قرار گیرد یا از حقوق خود صرف‌نظر کند. پرونده نیومکزیکو را باید در همین چارچوب فهمید. این پرونده به‌خودی‌خود قاعده‌ای تازه در حقوق بین‌الملل ایجاد نمی‌کند و رأی یک دادگاه ایالتی آمریکا را نمی‌توان معادل تصمیمی دانست که مسئولیت بین‌المللی متا را احراز کرده باشد. همچنین، نتیجه آن را نباید بدون بررسی مبانی حکم، ادله و مراحل بعدی رسیدگی به همه پلتفرم‌ها و همه نظام‌های حقوقی تعمیم داد. اهمیت پرونده در این است که نشان می‌دهد تصمیم‌های مربوط به طراحی و اداره محیط دیجیتال می‌توانند، در شرایط مقرر در حقوق داخلی، موضوع رسیدگی قضایی و اقدامات اصلاحی قرار گیرند. اگر دادگاه‌ها و قانون‌گذاران در پرونده‌های دیگر نیز به بررسی آثار خود محصول، نه صرفاً محتوای منتشرشده از سوی کاربران، ادامه دهند، ممکن است ارزیابی حقوقی پلتفرم‌ها بیش از گذشته به طراحی، تنظیمات پیش‌فرض، مدیریت خطر و سازوکارهای حمایت از کاربران آسیب‌پذیر معطوف شود. این تحول برای فناوری‌های نوظهور، به‌ویژه سامانه‌های هوش مصنوعی، اهمیتی دوچندان دارد. چت‌بات‌ها، ابزارهای تولید محتوا، سامانه‌های توصیه‌گر، بازی‌های آنلاین و خدمات آموزشی دیجیتال ممکن است به شیوه‌های متفاوتی بر تصمیم‌ها، روابط یا تجربه کودکان اثر بگذارند. در هر مورد، صرف وجود فناوری یا امکان تأثیرگذاری آن برای اثبات مسئولیت کافی نیست؛ باید ماهیت خطر، نقش واقعی محصول، اطلاعات در دسترس ارائه‌دهنده، تکالیف قانونی و رابطه میان رفتار مورد ادعا و آسیب بررسی شود. اما یک اصل تحلیلی روشن است: هرچه نقش یک شرکت در شکل‌دادن به محیط تعامل و کنترل عوامل ایجادکننده خطر بیشتر باشد، ضرورت بررسی دقیق مسئولیت آن نیز جدی‌تر می‌شود. مناقشه اصلی دیگر صرفاً این نیست که پلتفرم‌ها چه محتوایی را باید حذف کنند یا والدین چگونه باید بر استفاده کودکان از اینترنت نظارت داشته باشند. مسئله عمیق‌تر آن است که آیا محصولی که برای کودکان قابل دسترس است، خطرات قابل پیش‌بینی را به‌طور مناسب ارزیابی می‌کند، حقوق آنان را در طراحی و بهره‌برداری مورد توجه قرار می‌دهد و در برابر آسیب‌های احتمالی سازوکارهای مؤثری برای پیشگیری و جبران فراهم می‌آورد یا خیر. پاسخ به این پرسش، نه با محکوم‌کردن کلی فناوری به دست می‌آید و نه با پذیرفتن بی‌قیدوشرط ادعای بی‌طرفی پلتفرم‌ها؛ بلکه به تحلیل دقیق قانون، ادله، طراحی محصول و تعهدات هر یک از بازیگران نیاز دارد.(لینک)
شاید به همین دلیل، مهم‌ترین پیام پرونده ۹۴۲ میلیون دلاری متا خودِ رقم محکومیت نباشد. اهمیت آن در طرح پرسشی است که حقوق نمی‌تواند برای همیشه از آن بگریزد: وقتی یک شرکت محیطی را طراحی می‌کند که کودک در آن ارتباط برقرار می‌کند، اطلاعات دریافت می‌کند، علایقش را شکل می‌دهد و بخشی از زندگی روزمره خود را می‌گذراند، آیا کافی است بگوید صرفاً یک بستر ارتباطی فراهم کرده است؟ یا باید توضیح دهد که خطرات قابل پیش‌بینی این محیط را چگونه شناسایی کرده، برای کاهش آن‌ها چه کرده و تا چه اندازه حقوق کودک را در تصمیم‌های خود جدی گرفته است؟ کودک، پیش از آنکه کاربر باشد، صاحب حق است؛ و پلتفرم، هر اندازه هم که پیچیده، جهانی و الگوریتمی باشد، نمی‌تواند صرفاً به دلیل پیچیدگی فناوری از پاسخ‌گویی حقوقی مصون بماند. آینده حقوق دیجیتال احتمالاً با یک قاعده ساده اما تعیین‌کننده شکل خواهد گرفت: نه هر آسیبی الزاماً مسئولیت پلتفرم است و نه هیچ آسیبی را می‌توان صرفاً به انتخاب کاربر یا بی‌احتیاطی والدین نسبت داد. آنچه اهمیت دارد، تعیین دقیق تکلیف، شناسایی نقش واقعی شرکت در ایجاد یا تشدید خطر و فراهم‌کردن امکان رسیدگی مؤثر است. شاید زمان آن رسیده باشد که در دانشکده‌های حقوق، در کنار این پرسش قدیمی که «چه کسی محتوا را منتشر کرد؟»، پرسشی تازه نیز مطرح نماییم که چه کسی محیط را طراحی کرد، چه خطری را می‌توانست پیش‌بینی کند و در برابر حقوق کودکی که در آن محیط زندگی می‌کند، چه مسئولیتی دارد؟
منابع
https://www.wsj.com/tech/meta-ordered-to-pay-942-million-to-address-harm-to-kids-from-social-media-8ba5aab7
