فصل تجارت - شمس‌الدین جلیلی‌پیران، قاضی دادگستری و دکترای حقوق بین‌الملل در گفت‌وگو با میزان، درباره اینکه آیا استفاده از هوش مصنوعی ممنوعیت قانونی دارد؟ به صورت مشروح پاسخ داد.
جلیلی پیران در این رابطه گفت: برای پاسخ دقیق، باید میان استفاده از هوش مصنوعی و نوع یا شیوه استفاده از هوش مصنوعی تفاوت قائل شد. نمی‌توان صرف استفاده از یک فناوری را، بدون توجه به کاربرد و بدون وجود مبنای قانونی، جرم یا ممنوع تلقی کرد. در مقابل، این موضوع به معنای آن نیست که هر نوع استفاده از هوش مصنوعی، در هر شرایطی و برای هر هدفی، قانونی است.
اصل مهم در حقوق کیفری، قانونی بودن جرم و مجازات است. اصل 36 قانون اساسی مقرر می‌کند حکم به مجازات و اجرای آن باید تنها از طریق دادگاه صالح و به موجب قانون باشد و اصل 37 نیز اصل برائت را مورد تأکید قرار داده است. بنابراین، جدید بودن یک فناوری یا نگرانی نسبت به آثار آن، به تنهایی نمی‌تواند مبنای ایجاد یک مسئولیت کیفری باشد.
در نتیجه، هنگام بررسی قانونی بودن یک کاربرد هوش مصنوعی، باید پرسید این فناوری برای چه کاری استفاده شده، چه داده‌هایی در اختیار آن قرار گرفته، چه خروجی یا اثری ایجاد کرده و آیا رفتار انجام‌شده با قانون تعارض دارد یا خیر.
قانونی بودن اصل استفاده از فناوری، به معنای قانونی بودن هر شیوه استفاده از آن نیست
ممکن است هوش مصنوعی در حوزه‌هایی مانند آموزش، پژوهش، ترجمه، تحلیل داده، برنامه‌نویسی، تولید یا ویرایش محتوا و فعالیت‌های حرفه‌ای مورد استفاده قرار گیرد. اما قانونی بودن اصل استفاده از فناوری، به معنای قانونی بودن هر شیوه استفاده از آن نیست. اگر در جریان استفاده از هوش مصنوعی، حقوق اشخاص، اطلاعات محرمانه، داده‌های مورد حمایت، حقوق مالکیت فکری یا تعهدات قانونی و قراردادی نقض شود، باید همان رفتار مشخص بر اساس مقررات مربوط بررسی شود.
صرف استفاده از هوش مصنوعی جرم نیست
این تفکیک در حوزه کیفری اهمیت بیشتری دارد. اگر شخصی از هوش مصنوعی برای ارتکاب رفتاری استفاده کند که قانون آن را جرم شناخته است، استفاده از فناوری جدید موجب زوال وصف مجرمانه رفتار نمی‌شود. برای مثال، اگر یک ابزار هوش مصنوعی در فرایندی برای تسهیل دسترسی غیرمجاز به داده‌ها یا سامانه‌های رایانه‌ای مورد استفاده قرار گیرد، موضوع باید بر اساس رفتار انجام‌شده و مقررات مربوط به جرایم رایانه‌ای بررسی شود؛ نه اینکه صرف استفاده از هوش مصنوعی جرم تلقی شود.
ماده 1 قانون جرایم رایانه‌ای چه می‌گوید؟
برای نمونه، ماده 1 قانون جرایم رایانه‌ای، دسترسی غیرمجاز به داده‌ها یا سامانه‌های رایانه‌ای یا مخابراتی حفاظت‌شده را جرم‌انگاری کرده است؛ بنابراین اگر فناوری هوش مصنوعی در فرایندی به ارتکاب چنین رفتاری کمک کند، وصف کیفری از رفتار قانونی جرم‌انگاری‌شده ناشی می‌شود، نه از عنوان استفاده از هوش مصنوعی.
باید میان جرم و سایر اشکال نقض قانون نیز تفاوت گذاشت
از سوی دیگر، باید میان جرم و سایر اشکال نقض قانون نیز تفاوت گذاشت. هر نقض حریم خصوصی، هر اختلاف قراردادی، هر مسئله مربوط به مالکیت فکری یا هر استفاده نادرست از داده الزاماً جرم کیفری نیست. ممکن است یک رفتار حسب مورد مسئولیت مدنی، قراردادی، اداری یا حرفه‌ای ایجاد کند، بدون اینکه عناصر یک جرم کیفری در آن جمع باشد.
به همین دلیل، در مواجهه با هوش مصنوعی بهتر است به جای طرح یک ممنوعیت کلی، درباره کاربرد، زمینه استفاده، داده‌های مورد استفاده، آثار رفتار و مقررات حاکم بر آن صحبت کنیم. ممکن است یک کاربرد در یک حوزه مجاز باشد اما همان فناوری با تغییر هدف یا شیوه استفاده، در حوزه دیگری با محدودیت یا مسئولیت قانونی مواجه شود.
مقرره هوش مصنوعی اتحادیه اروپا برای سامانه‌های هوش مصنوعی پرخطر
در حوزه‌های حساس نیز مسئله فقط این نیست که استفاده از فناوری مجاز است یا ممنوع؛ بلکه حدود اختیار، نحوه نظارت، قابلیت بررسی خروجی، امکان اصلاح آن و تعیین شخص مسئول نیز اهمیت پیدا می‌کند. در این زمینه، برای مثال، مقرره هوش مصنوعی اتحادیه اروپا برای سامانه‌های هوش مصنوعی پرخطر، الزامات مشخصی درباره نظارت انسانی پیش‌بینی کرده است.
ماده 14 این مقرره بر امکان نظارت مؤثر اشخاص حقیقی، شناخت قابلیت‌ها و محدودیت‌های سامانه، توجه به خطر اتکای بیش از حد به خروجی سامانه و امکان نادیده گرفتن، اصلاح یا متوقف کردن آن تأکید دارد. این مقرره، قانون ایران نیست و صرفاً یک نمونه تطبیقی از تنظیم حقوقی هوش مصنوعی در اتحادیه اروپا است.
هیچ فناوری خارج از قلمرو قانون نیست
بنابراین، در حقوق ایران نمی‌توان صرف استفاده از هوش مصنوعی را، بدون توجه به نوع کاربرد و بدون وجود مبنای قانونی، جرم یا ممنوع تلقی کرد؛ اما هیچ فناوری خارج از قلمرو قانون نیست. اگر نحوه استفاده از هوش مصنوعی با قانون تعارض داشته باشد، مسئولیت باید بر اساس همان رفتار و مقررات مربوط، با احراز شرایط قانونی تعیین شود.
منبع: نورنیوز