پنل «قانون‌گذاری هوش مصنوعی، اولویت‌ها و محورها» در دومین روز از اینوتکس ۲۰۲۴ در فروم حکمرانی برگزار شد. رضا تقی‌پور انوری، رئیس فراکسیون هوش مصنوعی مجلس شورای اسلامی؛ محمدرضا قاسمی، دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه؛ سهیلا خردمندنیا، مدیر گروه فناوری‌های نوین مرکز پژوهش‌های مجلس؛ سید محمد محمدزاده ضیابری، دبیر کمیسیون هوش مصنوعی و علم داده نظام صنفی‌رایانه‌ای و محمدشهرام معین، مشاور رئیس پژوهشگاه ارتباطات و فناوری اطلاعات میهمانان این پنل بودند.
نباید اجازه دهیم شرکت‌های خارجی بازار ما را بگیرند
رضا تقی‌پور انوری در این پنل عنوان کرد: «با وجود ظرفیت‌های بالایی که در حوزه دانش‌بنیان داریم، اگر از این حوزه حفاظت نکنیم، شرکت‌های خارجی بازار ما را می‌گیرند و جایی برای شرکت‌های دانش‌بنیان ما باقی نمی‌گذارند و ما پیش از این، تجارب تلخی در این زمینه داشته‌ایم.»
او ادامه داد: «در حال حاضر قانون‌گذاری در حوزه هوش مصنوعی اولویت ما نیست، زیرا تا وقتی موضوع وجود خارجی نداشته باشد، قانون گذاری برای آن وجاهت ندارد. یکی از موضوعات مهم در این زمینه داشتن برنامه است که براساس برنامه هفتم توسعه، شش ماه پس از ابلاغ این برنامه، مرکز ملی فضای مجازی و نهاد‌های مربوطه موظف خواهند بود که برنامه ملی هوش مصنوعی را تدوین کنند و به تصویب شورای عالی فضای مجازی برسانند.»
محمدشهرام معین نیز در این پنل ضمن اشاره به تاریخچه فناوری هوش مصنوعی عنوان کرد که در وهله اول باید خطرها و آسیب‌های این فناوری را مشخص کنیم؛ تأثیر هوش مصنوعی روی کودکان و نوجوانان، امنیت ملی و… ازجمله این مخاطرات هستند.
او ادامه داد: «نباید این ذهنیت برای مردم ایجاد شود که این اقدامات خلاف منافع مردم انجام می‌شود. مردم باید بدانند که این کارها برای حفظ منافع آنهاست.»
او تأکید کرد که باید خط قرمزهای خطرناک هوش مصنوعی برای جامعه و حاکمیت روشن شوند.
مقام معظم رهبری فرمودند: در زمینه هوش مصنوعی باید در میان ۱۰ کشور برتر جهان قرار بگیریم
محمدرضا قاسمی، دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه، در پاسخ به این پرسش که تجربه کشورها در زمینه قانون‌گذاری به کدام سمت خواهد رفت، توضیح داد: «ما در زمینه هوش مصنوعی از دنیا عقب هستیم و قرار است درباره قانون‌گذاری و مسائلی که به پیشرفت آن منجر می‌شود فکر کنیم. اسنادی که تاکنون نوشته شده مشخص است و سعی ما بر این است که در این عرصه غافلگیر نشویم. بارها در این وضعیت قرار گرفته‌ایم و نتوانسته‌ایم درباره آن تصمیم درستی بگیریم. نمونه آن شبکه‌های اجتماعی است. رهنمودی که از مقام معظم رهبری دریافت کردیم این است که در زمینه هوش مصنوعی باید در میان ۱۰ کشور برتر جهان قرار بگیریم. ایشان فرمودند این فناوری در اداره آینده دنیا نقش خواهد داشت. این فناوری آینده‌ساز و اقتدارآفرین است و در تمام صنایع کاربرد دارد.»
او در ادامه بیان کرد: «تلاش‌هایی که تاکنون برای کاربردها و توسعه هوش مصنوعی صورت گرفته بسیار مقدماتی است. تا زمانی که در زمینه حقوقی، قضایی، پزشکی و آموزش نتوانیم آن را جانمایی کنیم هنوز در حال غفلت هستیم. ما هنوز نتوانسته‌ایم این رویکرد را شناسایی کنیم که هم از فرصت‌های آن استفاده و هم تهدیدهای آن را شناسایی کنیم.»
وضعیت رگولاتوری هوش مصنوعی در جهان
سهیلا خردمندنیا، مدیر گروه فناوری‌های نوین مرکز پژوهش‌های مجلس درباره وضعیت قانون‌گذاری هوش مصنوعی در کشورها عنوان کرد: «کشورها برای اینکه به هوش مصنوعی قدرتمند اخلاقی و قانونی دسترسی پیدا کنند در چند محور موضوع تنظیم‌گری را دنبال می‌کنند که شامل ایجاد زیرساخت‌های مستحکم و مدیریت مخاطرات احتمالی است. دو رویکرد در زمینه قانون‌گذاری هوش مصنوعی در کشورها وجود دارد: رویکرد توسعه‌محور و رویکرد کنترل‌محور. در رویکرد توسعه‌محور بر این باورند که هوش مصنوعی باید ابتدا به رشد و بلوغ برسد و بعد درباره آن قانون‌گذاری شود.
سخت‌گیری کردن، فقط باعث می‌شود توسعه‌دهندگان داخلی سامانه هوش مصنوعی تحت فشار قرار بگیرند و تمایل به سرمایه‌گذاری در این حوزه کم شود، اما در رویکرد کنترل‌محور بر این باورند که ماهیت هوش مصنوعی با سایر فناوری‌ها متفاوت است و به‌شدت اجتماعی شده، پس باید مخاطرات آن را در نظر بگیریم و آن را کنترل کنیم.»
او ادامه داد: «توسعه هوش مصنوعی برای کشورها بسیار اهمیت دارد، اما پیامدهای اخلاقی آنها را به فکر رگولاتوری انداخته است. ایالات متحده، چین و اتحادیه اروپا در این زمینه پیشروتر از دیگران هستند. قانون‌گذاری هوش مصنوعی به میزان قابل توجهی به ساختار حکمرانی و ویژگی‌های اجتماعی جوامع وابسته است و باید قابلیت انطباق داشته باشد.»
سرعت تحولات هوش مصنوعی بسیار بالا است
سیدمحمد محمدزاده ضیابری، دبیر کمیسیون هوش مصنوعی و علم داده نظام صنفی‌رایانه‌ای، درباره وضعیت رگولاتوری هوش مصنوعی گفت: «در بحث حکمرانی، سه مدل برای هوش مصنوعی وجود دارد: حکمرانی «با»، «بر» و «برای» هوش مصنوعی. اگر به هرکدام از این سه به‌صورت جداگانه نگاه کنیم و نسبت بهشان قانون‌گذاری کنیم به نتیجه نمی‌رسیم. از منظر نظام صنفی، شاید بگوییم که بهتر است قانون نگذاریم، اما در این صورت با چالش‌هایی در آینده مواجه می‌شویم. حکمرانی «با»، توسعه بیشتری به همراه دارد. چیزی که بیش از هر چیز به آن نیاز داریم، حکمرانی «برای» هوش مصنوعی است.»
او در ادامه توضیح داد: «نیازمندی سایر بخش‌ها به‌طور کامل در کانون توجه قرار نگرفته و برخی نیز در مرحله اجرا متوقف باقی مانده است. ما عقب‌ماندگی زیادی در زمینه هوش مصنوعی داریم. مهم‌ترین تفاوت هوش مصنوعی با سایر حوزه‌ها این است که این فناوری به‌سرعت در حال تغییر است. پس در حوزه رگولاتوری باید این تفاوت را در نظر بگیریم و با سرعت بالاتری حرکت کنیم. کشورهای مختلف رویکردهای مختلفی دارند. مثلاً هند قانون‌گذاری بسیار بدی در این زمینه انجام داد و اعلام کرد همه باید برای فعالیت در این زمینه مجوز بگیرند.»
لینک کوتاه: https://karangweekly.ir/qji1
