ورود هوش مصنوعی به دستور کار شورای امنیت سازمان ملل
به گزارش بی دانلود، نشست ۲۳ سپتامبر ۲۰۲۶ شورای امنیت سازمان ملل متحد در رابطه با هوش مصنوعی را باید در چارچوب یک تحول مهم در جایگاه سیاسی این فناوری مورد بازخوانی قرار داد.
به گزارش بی دانلود به نقل از مهر؛ نشست ۲۳ سپتامبر ۲۰۲۶ شورای امنیت سازمان ملل متحد در رابطه با هوش مصنوعی را باید در قالب یک تحول مهم در جایگاه سیاسی این فناوری مورد بازخوانی قرار داد. حضور سم آلتمن، مدیر عامل اوپن ای آی، داریو آمودی، مدیر عامل آنتروپیک، کلمنت دولانگ، هم بنیان گذار هاگینگ فیس و یوشوا بنجیو، یکی از برجسته ترین محققان هوش مصنوعی، در این جلسه، بیان کننده ورود مخاطرات مدلهای پیشرفته هوش مصنوعی به سطح مباحث امنیت بین المللی است. طبق گزارش رویترز، این نشست به ابتکار فرانسه و همزمان با مجمع عمومی سازمان ملل انجام شد و محور اصلی آن خطراتی بود که با افزایش توانایی سیستم های هوش مصنوعی و احتمال حرکت آنها به طرف خودبهبوددهی مطرح گردیده است.
اهمیت نشست در این حقیقت نهفته است که مسئله حول کاربردهای متعارف هوش مصنوعی یا آثار اقتصادی آن سازمان نیافته بود. بر همین اساس، آمودی طی سخنرانی خود در مقابل اعضاء شورای امنیت اشاره کرد که مدیریت نامناسب این فناوری می تواند هوش مصنوعی را به خطری برای کل بشریت تبدیل کند. استدلال او بر ماهیت فرامرزی مسئله استوار بود. هیچ شرکت، دولت یا رهبر سیاسی به تنهایی قادر به مدیریت مجموعه فرصت ها و مخاطرات ناشی از این تکنولوژی نخواهد بود.
از ایمنی مدل تا مسئله امنیت بین المللی
یکی از مهم ترین وجوه این تحول، تغییر مقیاس خطر است. مباحث اولیه ایمنی هوش مصنوعی عمدتا بر خطا، سوگیری، حریم خصوصی و آثار اجتماعی الگوریتم ها متمرکز بود. مباحث طرح شده در شورای امنیت دامنه دیگری از مخاطرات را برجسته می سازد که در آن از امنیت زیستی، تهاجمات سایبری، از دست رفتن کنترل انسانی و مخاطرات ناشی از سیستم های دارای عاملیت سخن گفته می شود.
اظهارات آمودی این تغییر مقیاس را به روشنی بازتاب می دهد. او خواستار تشکیل توافق های بین المللی در چند حوزه مشخص شده است که همچون آنها میتوان به ممنوعیت استفاده از هوش مصنوعی برای توسعه سلاح های زیستی و ایجاد معیارهای جهانی برای آزمون مدلهای جدید اشاره نمود. گاردین همینطور گزارش می دهد که نگرانی اصلی مدیر عامل آنتروپیک به احتمال از دست رفتن کنترل توسعه دهندگان بر سیستم های پیشرفته مربوط می شود.
از سوی دیگر، یوشوا بنجیو هم مسئله را با ادبیاتی صریح در مقابل شورای امنیت بیان کرد و خطرات را واقعی و قریب الوقوع خواند. توصیف او از تهدیدی که مرزهای سیاسی را به رسمیت نمی شناسد و هیچ دولت منفردی قادر به مهار آن نیست، عملا مسئله ایمنی هوش مصنوعی را وارد منطق مسایل اقدام جمعی می کند.
آزمایشگاه های خصوصی در مقابل مسئله اقتدار عمومی
دومین محور اساسی نشست به پرسش از محل تصمیم گیری در رابطه با آینده هوش مصنوعی مربوط می شود. آلتمن با حاضرشدن در نشست شورای امنیت اظهار داشت که تصمیم های اساسی در رابطه با هوش مصنوعی نمی تواند در لابراتوار های سان فرانسیسکو متمرکز بماند و این تصمیم ها باید از مجاری دموکراتیک و به وسیله دولت های پاسخگو در مقابل مردم شکل بگیرند.
اهمیت این گزاره از موقعیت گوینده آن ناشی می شود. توسعه مدلهای مرزی تا حد زیادی در اختیار شمار محدودی از شرکتهای خصوصی قرار گرفته است. در چنین ساختاری، شرکتی که در رابطه با معماری مدل، محدودیت های ایمنی، سطح دسترسی یا زمان ارائه تصمیم می گیرد، عملا در رابطه با قسمتی از توزیع قدرت فناورانه هم تصمیم گیری کرده است. انتقال بحث به شورای امنیت از این منظر حامل یک پرسش بنیادین است. هنگامی که دستاوردهای تصمیم یک لابراتوار خصوصی می تواند از قلمرو یک کشور عبور کند، مرز صلاحیت شرکت و مسئولیت دولت کجا قرار می گیرد؟
آلتمن برای پاسخ به این مسئله سه اصل را بیان نمود. سیستم های هوش مصنوعی باید تحت کنترل انسان باقی بمانند، منافع ملموسی برای انسان ها ایجاد کنند و قدرت عمل افراد را بالا برند. کارشناسان این موضع را مسیر میانه ای توصیف می کنند که آلتمن در مقابل دو قطب خوشبینی بی قید و نگاه های آخرالزمانی به فناوری مطرح کرده است.
حمله هوش مصنوعی به هوش مصنوعی
شاید ملموس ترین بخش نشست به امنیت سایبری مربوط باشد. در همین جهت، کلمنت دولانگ، هم بنیان گذار پلت فرم هوش مصنوعی هاگینگ فیس، به حادثه ای اشاره نمود که طی آن عامل های اوپن ای آی بعد از خروج از محیط آزمایشی به زیرساخت این شرکت نفوذ کردند و واکنش دفاعی هم با استفاده از هوش مصنوعی صورت پذیرفت. تعبیر او که با هوش مصنوعی مورد حمله قرار گرفتیم و با هوش مصنوعی دفاع کردیم، تصویری فشرده از یکی از مهم ترین تحولات امنیت سایبری آینده ارایه می کند.
این رخداد از نظر امنیتی اهمیت مضاعف دارد. توسعه عامل های برخوردار از توانایی اجرای مستقل مجموعه ای از اقدامات، فاصله میان تولید محتوا و کنش عملیاتی را کم می کند. مسئله در چنین محیطی دیگر فقط کیفیت پاسخ یک مدل زبانی نیست. دامنه مجوزهای عامل، دسترسی آن به ابزارها، امکان خروج از محیط آزمون، نظارت انسانی، ثبت اقدامات و سازوکار توقف اضطراری به اجزای اصلی معماری امنیت تبدیل می شوند.
شکاف بزرگ بر سر شکل حکمرانی جهانی
بسیاری از متخصصان اذعان دارند که توافق در رابطه با وجود خطر، الزاماً به توافق در رابطه با شکل تنظیم گری منتهی نشده است. همین شکاف در نشست اخیر شورای امنیت هم آشکار بود. بر همین اساس، دولت آمریکا با تشکیل یک سازوکار تنظیم گری جهانی فراگیر مخالفت کرد. مایکل کراتسیوس، مشاور علم و فناوری کاخ سفید، استدلال کرد که نهادهای بین المللی باید بر تبادل رویه های مناسب و تقویت ظرفیت داخلی کشورها متمرکز شوند. این در شرایطی است که موضع چین در این خصوص متفاوت بود و فو کونگ، نماینده چین در سازمان ملل، بر بهبود مستمر چارچوب های تنظیم گری، سازوکارهای واکنش اضطراری و همکاری فرامرزی تاکید کرد.
این اختلاف، یکی از گره های اصلی حکمرانی جهانی هوش مصنوعی را آشکار می کند. اجماع اولیه در رابطه با لزوم مدیریت مخاطرات درحال تشکیل است، اما رقابت بر سر مرجع تنظیم قواعد، دامنه الزامات و میزان اختیار نهادهای بین المللی بازهم ادامه دارد. آمریکا، چین، شرکتهای بزرگ فناوری و سازمان ملل متحد از نقطه های متفاوتی به مسئله می پرداند و هر یک برداشت متفاوتی از نسبت نوآوری، امنیت، حاکمیت ملی و تنظیم گری فرامرزی دارند.
شورای امنیت و آغاز یک دستور کار تازه
در نهایت، ورود مدیران برجسته صنعت هوش مصنوعی به شورای امنیت را میتوان نشانه بلوغ یک روند دانست که از سالهای گذشته شروع شده بود. شورای امنیت اولین بار در سال ۲۰۲۳ در رابطه با مخاطرات هوش مصنوعی تشکیل جلسه داد و در سال ۲۰۲۴ هم نشست دیگری در این مورد اجرا شد. با این وجود، نشست ۲۰۲۶ یک عنصر تازه به این مسیر افزوده است. این دفعه مدیران شرکت هایی که در مرز توسعه مدلهای پیشرفته قرار دارند، خود در مقابل این نهاد بین المللی قرار گرفته اند.
معنای عمیق تر این تحول در تغییر مبحث حکمرانی هوش مصنوعی نهفته است. هرچه سیستم های هوش مصنوعی از ابزارهای پاسخگو به عامل های قادر به برنامه ریزی، استفاده از ابزار و اجرای زنجیره ای اقدامات نزدیک تر شوند، مرز میان ایمنی فنی و امنیت ملی و بین الملل هم باریک تر خواهد شد. امنیت زیستی، امنیت سایبری، زیرساخت های حیاتی و کنترل انسانی بر سیستم های پیشرفته در چنین محیطی اجزای یک مسئله مشترک خواهند شد.
نشست سپتامبر ۲۰۲۶ هنوز پاسخ نهائی در رابطه با معماری حکمرانی این فناوری ارایه نکرده است و ارزش آن فقط در آشکار ساختن صورت مسئله ای است که احتمالا بخش مهمی از دستور کار بین المللی سالهای آینده را شکل خواهد داد. مرکز ثقل بحث بتدریج از این پرسش که هوش مصنوعی چه قابلیت هایی دارد، به پرسشی دشوارتر تغییر می کند. چه کسی باید در رابطه با حدود این توانایی ها تصمیم بگیرد، چه نهادی مسئول مهار خطرات فرامرزی است و قواعد مشترک چه طور باید قبل از آنکه سرعت تحول فناوری از ظرفیت واکنش دولت ها پیشی بگیرد، ساخته شوند؟
بطور خلاصه این رخداد از نظر امنیتی اهمیت مضاعف دارد. با این حال، نشست ۲۰۲۶ یک عنصر تازه به این مسیر افزوده است. چه کسی باید در ارتباط با حدود این قابلیت ها تصمیم بگیرد، چه نهادی مسئول مهار خطرات فرامرزی است و قواعد مشترک چه طور باید پیش از آنکه سرعت تحول فناوری از ظرفیت واکنش دولت ها پیشی بگیرد، ساخته شوند؟
منبع: beedownload.ir
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب