اگر یک سامانه هوش مصنوعی موجب خسارت شود، مسئولیت با کیست؟

به گزارش اقتصاد معاصر؛ علی نظافتیان با اشاره به قانون ملی توسعه هوش مصنوعی که در مردادماه ۱۴۰۵ تصویب و برای اجرا ابلاغ شده است، اظهار کرد: این قانون ابعاد مختلف توسعه هوش مصنوعی از ساختار حکمرانی و زیرساخت‌ها گرفته تا داده، امنیت، نیروی انسانی، تأمین مالی و توسعه فناوری را مورد توجه قرار داده است.

وی افزود: در میان احکام مختلف این قانون، بند «پ» ماده ۴ از حیث حقوقی و فقهی جایگاه ویژه‌ای دارد؛ زیرا قانون‌گذار در این بند، تدوین اسناد مربوط به «حقوق و مسئولیت‌های مدنی و کیفری» هوش مصنوعی را در کنار «الزامات شرعی و حقوقی هوش مصنوعی» پیش‌بینی کرده و مقرر داشته است این اسناد برای تصویب در مراجع قانونی، با «رعایت موازین شرعی» تدوین شوند.

نظافتیان ادامه داد: اهمیت این حکم در آن است که قانون‌گذار صرفاً به آثار ناشی از استفاده از هوش مصنوعی توجه نکرده، بلکه ضرورت تدوین قواعدی را مطرح کرده است که می‌تواند کل زنجیره ایجاد و بهره‌برداری از این فناوری را دربرگیرد؛ از داده و طراحی الگوریتم گرفته تا توسعه، تولید، عرضه، سازمان‌دهی، استقرار، بهره‌برداری و تصمیم‌گیری مبتنی بر خروجی هوش مصنوعی.

قانون فعلی؛ آغاز مسیر تدوین نظام مسئولیت

این کارشناس حقوق بانکی گفت: نخست باید یک نکته حقوقی روشن شود و آن اینکه بند «پ» ماده ۴، در واقع یک نظام جامع مسئولیت مدنی و کیفری برای هوش مصنوعی ایجاد نکرده، بلکه تدوین اسناد مربوط به این موضوع را در شمار وظایف مرکز مطالعات راهبردی و آزمایشگاه فناوری‌های پایه هوش مصنوعی قرار داده است.

وی افزود: بنابراین، قانون فعلی بیشتر مسیر تدوین نظام حقوقی آینده هوش مصنوعی را مشخص کرده است و باید معلوم شود اگر یک سامانه هوش مصنوعی موجب خسارت شود، مسئولیت چگونه میان طراح، توسعه‌دهنده، تولیدکننده، عرضه‌کننده، مالک، سازمان بهره‌بردار، کاربر حرفه‌ای و تصمیم‌گیرنده انسانی توزیع خواهد شد.

نظافتیان ادامه داد: به همین ترتیب باید روشن شود اگر منشأ خطا، داده نادرست یا ناقص، طراحی نامناسب الگوریتم، نقص فنی، آموزش ناکافی مدل، استفاده نادرست، ضعف نظارت، به‌روزرسانی‌نشدن یا دستکاری و حمله سایبری باشد، مسئولیت متوجه چه شخص یا اشخاصی خواهد بود.

وی تأکید کرد: بنابراین، عبارت «حقوق و مسئولیت‌های مدنی و کیفری» را نباید صرفاً معادل «مسئولیت ناشی از استفاده از هوش مصنوعی» دانست.

از استفاده‌کننده تا زنجیره مسئولیت

این کارشناس حقوق بانکی با بیان اینکه هوش مصنوعی محصول یک فرایند فکری و فنی چند مرحله‌ای است، گفت: سامانه هوشمند ابتدا به داده نیاز دارد، سپس داده در فرایند طراحی و آموزش مدل به کار گرفته می‌شود، مدل توسعه پیدا می‌کند، سامانه عرضه یا در یک سازمان مستقر می‌شود و در نهایت، خروجی آن ممکن است مبنای یک تصمیم انسانی یا حتی تصمیم خودکار قرار گیرد.

وی افزود: بنابراین، خسارت ناشی از عملکرد هوش مصنوعی نیز ممکن است حاصل خطا در هر یک از این مراحل باشد. اگر داده مورد استفاده نادرست، ناقص یا غیرمجاز باشد، مسئولیت داده مطرح می‌شود. اگر الگوریتم از ابتدا به‌گونه‌ای طراحی شده باشد که احتمال خطای جدی و قابل پیش‌بینی داشته باشد، مسئولیت طراح و توسعه‌دهنده مطرح است.

نظافتیان ادامه داد: اگر سامانه معیوب به بازار عرضه شده باشد، مسئولیت تولیدکننده یا عرضه‌کننده قابل طرح خواهد بود. همچنین اگر سازمانی بدون ارزیابی مناسب، سامانه را وارد فرایندهای حساس خود کند، مسئله مسئولیت سازمان بهره‌بردار و مدیران مربوط مطرح می‌شود.

وی افزود: اگر انسان بدون بررسی لازم، خروجی سامانه را مبنای تصمیم نهایی قرار دهد نیز مسئولیت تصمیم‌گیرنده انسانی باید مورد بررسی قرار گیرد. بنابراین، مسئله حقوقی آینده صرفاً یافتن یک «مقصر» نیست، بلکه باید زنجیره مسئولیت در اکوسیستم هوش مصنوعی مشخص شود.

مسئولیت داده؛ حلقه‌ای که نباید نادیده گرفته شود

نظافتیان با اشاره به اهمیت داده در نظام مسئولیت هوش مصنوعی گفت: در بسیاری از مباحث مربوط به مسئولیت هوش مصنوعی، تمرکز بر الگوریتم است؛ در حالی که خطای الگوریتم ممکن است در واقع ناشی از داده‌ای باشد که در اختیار آن قرار گرفته است.

وی افزود: اگر داده‌ها ناقص، نادرست، قدیمی، تبعیض‌آمیز یا بدون رعایت حقوق اشخاص جمع‌آوری شده باشند، تصمیم نهایی سامانه نیز می‌تواند مخدوش شود. در این شرایط نمی‌توان صرفاً به این دلیل که تصمیم نهایی توسط یک الگوریتم گرفته شده است، مسئولیت را به «هوش مصنوعی» نسبت داد.

این کارشناس حقوق بانکی ادامه داد: باید مشخص شود چه کسی داده را تولید، جمع‌آوری، پالایش، تأیید، ذخیره یا در اختیار سامانه قرار داده است و چه استانداردهایی برای صحت و اعتبار آن وجود داشته است. از این منظر، حکمرانی داده بخشی جدایی‌ناپذیر از نظام مسئولیت هوش مصنوعی خواهد بود.

اتلاف و تسبیب در عصر الگوریتم

وی با اشاره به جایگاه موازین شرعی در این حوزه اظهار کرد: اینجاست که بحث «رعایت موازین شرعی» اهمیت واقعی پیدا می‌کند. هوش مصنوعی فناوری جدیدی است، اما مفاهیمی مانند ضرر، ضمان، اتلاف و تسبیب مفاهیم جدیدی نیستند.

نظافتیان گفت: اگر سامانه‌ای بر اثر طراحی نامناسب، داده نادرست یا استفاده ناصحیح موجب از بین رفتن مال یا تضییع حق شخصی شود، پرسش حقوقی و فقهی این است که رابطه میان این خسارت و رفتار اشخاص دخیل چگونه تحلیل می‌شود. در اینجا قواعد مربوط به اتلاف و تسبیب می‌توانند مبنایی برای بررسی مسئولیت قرار گیرند.

وی افزود: برای مثال، اگر شخص یا سازمانی سامانه‌ای را در اختیار داشته باشد و با علم به نقص و خطر آن همچنان از آن استفاده کند، نمی‌توان صرفاً با استناد به خودکار بودن عملکرد سامانه، مسئولیت انسانی را نادیده گرفت. در مقابل، اگر خسارت ناشی از نقصی باشد که برای بهره‌بردار قابل تشخیص یا پیش‌بینی نبوده و به تولیدکننده یا طراح قابل انتساب باشد، باید حدود مسئولیت آنان بررسی شود.

قاعده لاضرر و حمایت از زیان‌دیده

این کارشناس حقوق بانکی با اشاره به قاعده «لاضرر» گفت: قاعده فقهی ـ حقوقی «لاضرر» نیز می‌تواند در این چارچوب مورد توجه قرار گیرد. معنای آن این نیست که هر تصمیم نادرست هوش مصنوعی الزاماً موجب مسئولیت شود؛ بلکه باید میان خطر متعارف، خطای قابل پیش‌بینی، تقصیر، رابطه سببیت و خسارت قابل انتساب تفکیک کرد.

وی افزود: هدف آن است که استفاده از فناوری بهانه‌ای برای تضییع حقوق اشخاص نباشد. اگر هوش مصنوعی قرار است در تصمیم‌های مهم اقتصادی و اجتماعی وارد شود، شخصی که از عملکرد آن زیان دیده است نباید صرفاً به دلیل پیچیدگی فناوری، از امکان احقاق حق و مطالبه خسارت محروم شود.

هوش مصنوعی خودِ «مسئول» نیست

نظافتیان درباره اینکه آیا می‌توان خود هوش مصنوعی را مسئول دانست، اظهار کرد: در وضعیت فعلی حقوقی، هوش مصنوعی نه شخص حقیقی است و نه لزوماً شخص حقوقی. بنابراین نمی‌توان صرفاً به دلیل استقلال نسبی عملکرد یک سامانه، مسئولیت را به خود آن منتقل کرد.

وی افزود: حتی سامانه‌هایی مانند ChatGPT نیز، هرچند ممکن است در پاسخ‌گویی دچار خطا شوند، به خودی خود مانند یک شخص حقیقی یا حقوقی، مسئولیت قانونی مستقل ندارند.

این کارشناس حقوق بانکی ادامه داد: در نتیجه، خطای یک سامانه هوشمند به‌تنهایی به معنای مسئولیت حقوقی خود «ماشین» نیست، بلکه باید مسئولیت در زنجیره انسانی و سازمانی آن جست‌وجو شود؛ از تأمین‌کننده داده و طراح الگوریتم گرفته تا تولیدکننده، عرضه‌کننده، سازمان بهره‌بردار، کاربر حرفه‌ای و تصمیم‌گیرنده انسانی.

وی گفت: از همین منظر، عبارت دیگری از بند «پ» ماده ۴ اهمیت پیدا می‌کند؛ یعنی تأکید قانون‌گذار بر «حفظ و تقویت محوریت عاملیت‌های انسانی». این عبارت می‌تواند مبنای یک اصل مهم در حکمرانی هوش مصنوعی قرار گیرد؛ به این معنا که هوش مصنوعی نباید به ابزاری برای پنهان شدن انسان یا شخص حقوقی پشت الگوریتم و فرار از مسئولیت تبدیل شود.

مسئولیت کیفری؛ پیچیده‌تر از مسئولیت مدنی

نظافتیان با بیان اینکه موضوع مسئولیت کیفری در این حوزه حساس‌تر است، اظهار کرد: بر اساس قوانین و مقررات فعلی، پدیده هوش مصنوعی نه شخصیت حقوقی دارد و نه شخص حقیقی است؛ یعنی در کل، هوش مصنوعی فاقد شخصیت است.

وی افزود: در مسئولیت مدنی، محور اصلی معمولاً جبران خسارت است، اما در مسئولیت کیفری، احراز عناصر قانونی، مادی و معنوی جرم و شرایط انتساب آن ضرورت دارد.

این کارشناس حقوق بانکی گفت: بنابراین، اگر سامانه‌ای تصمیم اشتباهی اتخاذ کند، صرف وقوع نتیجه زیان‌بار برای ایجاد مسئولیت کیفری شخص دیگری کافی نیست. باید مشخص شود چه کسی سامانه را ایجاد یا به کار گرفته، چه میزان از خطر آن اطلاع داشته، آیا مقررات و استانداردهای لازم رعایت شده و آیا میان رفتار شخص و نتیجه مجرمانه رابطه قابل انتساب وجود دارد یا خیر.

وی ادامه داد: از این رو، «مسئولیت کیفری هوش مصنوعی» بیش از آنکه به معنای مجرم شناختن خود ماشین باشد، به تعیین شرایط مسئولیت کیفری اشخاص انسانی و حقوقی دخیل در چرخه هوش م صنوعی مربوط خواهد بود.

موازین شرعی؛ محدودیت فناوری یا مبنای حکمرانی؟

نظافتیان با اشاره به مفهوم «رعایت موازین شرعی» در قانون ملی توسعه هوش مصنوعی گفت: این عبارت را نباید صرفاً یک عبارت تشریفاتی یا مانعی برای توسعه فناوری تلقی کرد. به نظر می‌رسد این عبارت باید به‌عنوان یک مبنای هنجاری برای طراحی نظام مسئولیت هوش مصنوعی مورد توجه قرار گیرد.

وی افزود: قواعد آینده باید ضمن پذیرش نوآوری و توسعه فناوری، اصولی مانند حفظ حقوق اشخاص، منع اضرار ناروا، جبران خسارت، رعایت حقوق مالی و مالکیت، حفظ حریم خصوصی، عدالت و پرهیز از تبعیض ناروا، رعایت عاملیت انسانی و تعیین روشن مسئولیت اشخاص دخیل را مورد توجه قرار دهند.

این کارشناس حقوق بانکی ادامه داد: در این نگاه، «موازین شرعی» نه در برابر فناوری، بلکه در کنار حقوق و فناوری برای ایجاد یک نظام پاسخگو قرار می‌گیرد.

تجربه آمریکا و اتحادیه اروپا

وی در ادامه به رویکردهای حقوقی دیگر کشورها اشاره کرد و گفت: مقایسه رویکرد ایران با آمریکا و اتحادیه اروپا نشان می‌دهد که مسئله مسئولیت هوش مصنوعی در جهان نیز هنوز در مرحله شکل‌گیری و تکامل است، با این تفاوت که هر نظام حقوقی با توجه به ساختار حقوقی و سیاست‌گذاری خود، مسیر متفاوتی را انتخاب کرده است.

نظافتیان افزود: در ایران، بند «پ» ماده ۴ قانون هنوز یک نظام تفصیلی مسئولیت ایجاد نکرده، بلکه تدوین اسناد مربوط به «حقوق و مسئولیت‌های مدنی و کیفری» و الزامات شرعی و حقوقی هوش مصنوعی را مقرر کرده است. بنابراین، قانون‌گذار عملاً طراحی نظام مسئولیت آینده را به مرحله بعدی قانون‌گذاری و مقررات‌گذاری سپرده است.

وی گفت: اهمیت ویژه این حکم در آن است که این مقررات باید «با رعایت موازین شرعی» تدوین شوند؛ موضوعی که امکان بهره‌گیری از قواعدی مانند اتلاف، تسبیب، لاضرر و ضمان را در کنار قواعد جدید فناوری مطرح می‌کند.

این کارشناس حقوق بانکی ادامه داد: در ایالات متحده آمریکا، رویکرد فدرال بیشتر بر اعمال قوانین موجود در حوزه‌هایی مانند حمایت از مصرف‌کننده، تبعیض، رقابت و حریم خصوصی، در کنار مقررات بخشی و چارچوب‌های مدیریت ریسک استوار است. نهادهای فدرال نیز تصریح کرده‌اند که استفاده از هوش مصنوعی، مصونیتی در برابر قوانین موجود ایجاد نمی‌کند.

وی افزود: در کنار این رویکرد، چارچوب مدیریت ریسک هوش مصنوعی NIST نیز بر مدیریت ریسک در سراسر چرخه عمر سامانه، از طراحی و توسعه تا استفاده و ارزیابی، تأکید دارد.

نظافتیان با اشاره به رویکرد اتحادیه اروپا اظهار کرد: اتحادیه اروپا رویکرد منسجم‌تر و مقررات‌محورتری اتخاذ کرده است. قانون هوش مصنوعی اتحادیه اروپا بر مبنای سطح خطر، الزامات متفاوتی برای سامانه‌ها مقرر می‌کند.

وی افزود: برای سامانه‌های پرخطر، ارزیابی و کاهش ریسک، کیفیت داده، ثبت و قابلیت ردیابی فعالیت‌ها، مستندسازی، شفافیت، نظارت انسانی، دقت، استحکام و امنیت سایبری مورد توجه قرار گرفته است. همچنین برای ارائه‌دهندگان و بهره‌برداران، مسئولیت‌هایی در طول چرخه عمر سامانه تفکیک شده است.

وی ادامه داد: در حوزه جبران خسارت نیز اتحادیه اروپا مسیر خود را توسعه داده است؛ قواعد جدید مسئولیت ناشی از محصول، نرم‌افزار، سامانه‌های هوش مصنوعی و برخی خدمات دیجیتال مرتبط را در قلمرو قواعد مسئولیت محصول قرار داده است.

مسئولیت از نتیجه نهایی به کل چرخه عمر منتقل می‌شود

این کارشناس حقوق بانکی با اشاره به تفاوت رویکردهای حقوقی گفت: از مقایسه این سه رویکرد حقوقی می‌توان سه نکته مهم را استخراج کرد. نخست اینکه در هیچ‌یک از این رویکردها نمی‌توان مسئولیت را صرفاً به «ماشین یا سیستم» نسبت داد. مسئولیت به اشخاص و نهادهایی بازمی‌گردد که در طراحی، تولید، عرضه، استقرار، نظارت یا استفاده از سامانه نقش دارند.

وی افزود: دوم اینکه مسئولیت به‌تدریج از «نتیجه نهایی» به «کل چرخه عمر هوش مصنوعی» منتقل می‌شود. یعنی صرفاً بررسی اینکه سامانه در نهایت چه خطایی کرده کافی نیست، بلکه باید مشخص شود داده چگونه تهیه شده، مدل چگونه طراحی و آزمایش شده، چه کسی آن را مستقر کرده و چه نظارتی بر عملکرد آن وجود داشته است.

نظافتیان ادامه داد: سوم اینکه تجربه آمریکا و اتحادیه اروپا نشان می‌دهد استفاده از هوش مصنوعی موجب خروج فعالیت از قلمرو قانون نمی‌شود؛ بلکه متناسب با میزان خطر، باید ابزارهای پیشگیرانه، نظارتی و مسئولیت‌پذیری متناسب ایجاد شود.

وی گفت: از این منظر، برای ایران نیز می‌توان از تجربه تطبیقی یک نتیجه مهم گرفت؛ نظام مسئولیت آینده نباید صرفاً پس از وقوع خسارت به دنبال یافتن مقصر باشد، بلکه باید از مرحله داده و طراحی تا استقرار و بهره‌برداری، سازوکارهای پیشگیری، ثبت، نظارت، شفافیت و پاسخگویی را نیز دربرگیرد.

آزمونی جدی برای نظام بانکی

نظافتیان با اشاره به اهمیت موضوع در نظام بانکی گفت: اهمیت این موضوع در نظام بانکی بیش از بسیاری از حوزه‌هاست. بانک‌ها در آینده بیش از پیش از هوش مصنوعی در اعتبارسنجی، مبارزه با پول‌شویی، کشف تقلب، مدیریت ریسک، ارزیابی مشتری، تشخیص تراکنش‌های مشکوک و وصول مطالبات استفاده خواهند کرد.

وی افزود: اگر سامانه اعتبارسنجی مشتری را به اشتباه پرریسک تشخیص دهد، یا سامانه مبارزه با پول‌شویی یک تراکنش مشروع را مشکوک اعلام کند، دیگر پرسش فقط این نیست که «کاربر هوش مصنوعی چه کسی است؟»

این کارشناس حقوق بانکی ادامه داد: بلکه باید زنجیره کامل بررسی شود؛ اینکه داده از کجا آمده، الگوریتم توسط چه کسی طراحی شده، چه کسی سامانه را انتخاب و مستقر کرده، چه کسی عملکرد آن را کنترل می‌کند، آیا امکان بررسی انسانی وجود داشته و در صورت ورود خسارت، مسئولیت میان چه اشخاصی توزیع می‌شود.

وی گفت: این همان نقطه‌ای است که بحث کلی قانون ملی توسعه هوش مصنوعی به یک مسئله عملی در نظام بانکی تبدیل می‌شود.

ضرورت تدوین نظام جامع مسئولیت

نظافتیان با تأکید بر ضرورت تدوین نظام جامع مسئولیت اظهار کرد: اسناد موضوع بند «پ» ماده ۴ نباید صرفاً مجموعه‌ای از توصیه‌های اخلاقی باشد. لازم است در این اسناد، یک نظام جامع حقوق و مسئولیت در چرخه هوش مصنوعی طراحی شود؛ نظامی که در آن برای هر مرحله، حقوق، تکالیف و مسئولیت‌های مشخص وجود داشته باشد.

وی افزود: از تولید و کیفیت داده تا طراحی و توسعه الگوریتم، از عرضه و استقرار سامانه تا نحوه بهره‌برداری و از تصمیم‌گیری انسانی تا جبران خسارت و مسئولیت کیفری، باید مسئولیت‌ها به‌صورت روشن مشخص شوند.

این کارشناس حقوق بانکی ادامه داد: همچنین باید رابطه میان مسئولیت‌های قراردادی و قانونی روشن شود و مشخص گردد که آیا توافق میان تولیدکننده و بهره‌بردار می‌تواند حقوق شخص ثالث یا زیان‌دیده را محدود کند یا خیر.

وی با اشاره به اینکه بند «پ» ماده ۴ را نباید صرفاً حکمی برای تعیین مسئولیت کاربر هوش مصنوعی دانست، گفت: اهمیت واقعی این حکم در آن است که قانون‌گذار ضرورت تدوین قواعد مربوط به حقوق و مسئولیت‌های مدنی و کیفری در زیست‌بوم هوش مصنوعی را مطرح کرده است؛ زیست‌بومی که در آن داده، الگوریتم، طراح، توسعه‌دهنده، تولیدکننده، عرضه‌کننده، سازمان بهره‌بردار، کاربر و تصمیم‌گیرنده انسانی همگی می‌توانند در ایجاد یک نتیجه نقش داشته باشند.

نظافتیان افزود: در چنین شرایطی، پرسش اصلی دیگر فقط این نیست که «اگر هوش مصنوعی اشتباه کرد، چه کسی مسئول است؟» بلکه پرسش دقیق‌تر این است که اگر خسارتی در زنجیره هوش مصنوعی ایجاد شد، منشأ آن کجاست و مسئولیت چگونه باید در میان عوامل این زنجیره توزیع شود؟

وی ادامه داد: در کنار آن، یک پرسش بنیادین‌تر نیز وجود دارد و آن اینکه «رعایت موازین شرعی» چگونه باید این نظام جدید مسئولیت را هدایت کند؟

این کارشناس حقوق بانکی گفت: در مجموع، در مورد استفاده از ظرفیت‌های فراوان هوش مصنوعی هنوز در ابتدای راه هستیم، اما پاسخ به این پرسش‌ها می‌تواند نقطه اتصال فقه، حقوق و فناوری در عصر هوش مصنوعی باشد؛ جایی که قواعدی مانند اتلاف، تسبیب، لاضرر و ضمان باید در کنار مفاهیم جدیدی همچون داده، الگوریتم، یادگیری ماشین و تصمیم‌گیری خودکار، برای مسائل جدید حقوقی راه‌حل ارائه کنند.

وی افزود: اگر این مأموریت به‌درستی انجام شود، قانون ملی توسعه هوش مصنوعی تنها قانون توسعه یک فناوری نخواهد بود، بلکه می‌تواند زمینه‌ساز شکل‌گیری نظام حقوقی مسئولیت‌پذیر در عصر هوش مصنوعی شود؛ نظامی که در آن نه فناوری قربانی مقررات‌گذاری افراطی شود و نه انسان و حقوق او قربانی قدرت الگوریتم./ایسنا