افزایش هشدارها درباره ی فاجعه ای ناشی از هوش مصنوعی چه طور از زندگی دیجیتال خود محافظت کنیم؟
بی دانلود: محققان و کارشناسان هوش مصنوعی هشدار می دهند که رقابت جهانی برای توسعه سیستم هایی با قدرت بیش از پیش، ممکنست به نقطه ای برسد که در آن انسان ها کنترل این فناوری را از دست بدهند.
به گزارش بی دانلود به نقل از خبرنگاران جوان، هشدارها در مورد خطرات توسعه هوش مصنوعی، همزمان با استعفای «جیکوب استاین هارت» طرح شده است؛ پژوهشگری که پیشتر در شرکتهای «آنتروپیک» (سازنده مدل «کلود») و «اوپن ای آی» (سازنده «چت جی پی تی») فعالیت می کرد و کمی قبل از آنکه سهام تشویقی اش (stock options) قابل واگذاری شود، آنتروپیک را ترک کرد.
استاین هارت در پیام خداحافظی خود که تنها در یکروز بیشتر از ۹۰ میلیون بازدید داشت، نوشت که شرکتهای بزرگ هوش مصنوعی «برای توسعه ابرهوشِ خود-اصلاح گر (self-improving superintelligence) با یکدیگر رقابت می کنند و با این کار، جان ما را به بازی گرفته اند.»
اصطلاح «ابرهوش» به سیستم های هوش مصنوعی اشاره دارد که در بیشتر وظایف حیاتی، از توانایی های انسان فراتر می روند. «اِوان هوبینگر» که سرپرستی تیمی در آنتروپیک را بر عهده دارد و کارشان هم سو کردن سیستم های هوش مصنوعی با اهداف انسانی است، احتمال نابودی بشریت توسط هوش مصنوعی در دهه پیش رو را بیشتر از ۱۰ درصد برآورد کرده است.
در عین حال، «کیم کوماندو»، کارشناس فناوری، خاطرنشان می کند که زمان ظهور ابرهوش بازهم نامشخص است؛ این اتفاق امکان دارد طی چند سال، چند دهه و یا شاید هیچ گاه رخ ندهد. بعلاوه، برآورد امکان رخداد رویدادی بی سابقه، کاری خیلی دشوار است. اقداماتی برای صیانت از زندگی دیجیتال شما
با وجود نگرانی های آینده، کوماندو اعتقاد دارد که کاربران عادی می توانند با انجام اقداماتی ساده، بخصوص با پرهیز از اعطای دسترسی های گسترده به «عامل های هوش مصنوعی» (AI agents) برای ورود به حساب های کاربری شخصی، خطرات را به حداقل برسانند.
عامل های هوش مصنوعی را میتوان سیستم هایی دانست که بجای فقط ارایه پاسخ، قادر به استفاده از کامپیوتر و انجام وظایف از طرف کاربر هستند. به این جهت، کوماندو سفارش می کند که این ابزارها را از حساب های بانکی، آدرس های ایمیل اصلی و حساب هایی که کدهای عبور موقت دریافت می کنند، دور نگه دارید؛ در عوض، پیشنهاد می دهد آنها را با استفاده از حساب های جداگانه ای که حاوی اطلاعات حساس نیستند، آزمایش کنید.
او همین طور سفارش می کند که قابلیت بروزرسانی خودکار را در تلفن ها، کامپیوتر ها و روترها فعال کنید و از روشهای احراز هویت دو مرحله ای یا چند مرحله ای، برنامه های مدیریت رمز عبور و همین طور نسخه های پشتیبان (بک آپ) از فایل ها، عکس ها و اسناد مهم استفاده نمایید.
خطر، لزوماً یک «ماشین شرور» نیست
کوماندو تاکید می کند که نگرانی های فعلی لزوماً حول محور ظهور ماشین های شرور —مانند آن چه در فیلمهای علمی-تخیلی دیده می شود— نیست؛ او توضیح می دهد که یک سیستم برای ایجاد تهدید، احتیاجی به داشتن احساسات یا آگاهی ندارد. او می گوید: «هوش مصنوعی احتیاجی به نفرت از ما ندارد و همین طور احتیاجی به داشتن احساسات یا حتی آگاهی؛ تنها چیزی که لازم دارد، هدفی است که برای دستیافتن به آن تلاش می کند.»
او خاطرنشان می کند که برخی آزمایش های ایمنی نشان داده اند که مدلهای هوش مصنوعی—تحت شرایط خاص—تلاش می کرده اند تا از فرآیندهای خاموش سازی (توقف فعالیت) سرپیچی کنند؛ بخصوص زمانیکه این توقف ها مانع از تکمیل وظایف محول شده به آنها می شده است.
این کارشناس تاکید می کند که این مدلها بدنبال «بقا» به خاطر خودِ بقا نبودند، بلکه ادامه فعالیتشان را ابزاری برای رسیدن به هدف خود می دانستند. کماندو اعتقاد دارد بزرگ ترین خطر فعلی در رقابت میان شرکت ها و کشورها برای توسعه سیستم هایی با قدرت روز افزون نهفته است، چونکه هر یک از طرفین، توسعه هوش مصنوعی را ضرورتی برای عقب نماندن از رقبا می دانند.
در همین جهت، او پیشنهاد می دهد که آزمایش های مستقلی روی سیستم های پیشرفته صورت گیرد، کنترل هایی بر سرعت توسعه آنها اعمال گردد و کشورها در گفتگوی جهانی پیرامون ایمنی هوش مصنوعی مشارکت داده شوند.
نگرانی ها در مورد ویروس ها
یکی از دغدغه های اصلی که کماندو مطرح می کند، احتمال استفاده از هوش مصنوعی در آینده برای ساخت ویروس های کامپیوتری یا بیولوژیکی است.
در مورد جنبه بیولوژیکی، او به آزمایش هایی اشاره می کند که در آنها از سیستم های هوش مصنوعی برای طراحی کامل ژنوم ویروس ها از پایه استفاده شده است؛ این آزمایش ها «باکتریوفاژها» را هدف قرار داده بودند—ویروس هایی که به باکتری ها حمله می کنند اما انسان ها را آلوده نمی سازند. بر مبنای توضیحات او، این سیستم ها ۳۰۲ طرح ایجاد کردند؛ محققان ۲۸۵ مورد از آنها را به مرحله اجرا درآوردند و ۱۶ طرح با موفقیت به تولید ویروس های کارآمد منجر گردید.
این بدان معنا نیست که هوش مصنوعی ویروس کرونای جدیدی خلق کرده یا موجب ابتلای انسان ها شده است؛ بلکه نشان داده است که سیستم های هوش مصنوعی حال قادرند در طراحی مواد بیولوژیکی پیچیده نقش ایفا کنند.
در ۱۰ سپتامبر، شرکت «آنتروپیک» (Anthropic) اعلام نمود که پنج مورد را شناسایی کرده است که در آنها افراد از مدل «کلود» (Claude) به شیوه هایی استفاده می کردند که می توانست ساخت اسلحه های بیولوژیکی را تسهیل کند؛ این شرکت تصریح کرد که حساب های کاربری مربوطه را مسدود و این موارد را گزارش کرده است.
کماندو هشدار می دهد که در آینده، سیستم های پیشرفته تر امکان دارد بتوانند وظایف را میان افراد و لابراتوار های مختلف توزیع کنند، به صورتی که هر طرف بخشی از پروسه را بدون آگاهی از تصویر کلی کار، به انجام برساند.
در عین حال، کماندو مردم را به ادامه استفاده از هوش مصنوعی تشویق می کند و تاکید دارد که راه حل مواجهه با این فناوری، پرهیز از آن نیست، بلکه شناخت قابلیت ها و خطرات آن—و استفاده ایمن تر از آن—است.
او دیدگاه خودرا این گونه خلاصه می کند: «من از هوش مصنوعی هراسی ندارم؛ بلکه نگران آنم که خوی رقابت جویی انسان بر خرد او پیشی گیرد، چونکه میان این دو، تفاوت بسیاری وجود دارد.» بطور خلاصه، کوماندو سفارش می کند که این ابزارها را از حساب های بانکی، آدرس های ایمیل اصلی و حساب هایی که کدهای عبور موقت دریافت می کنند، دور نگه دارید؛ در عوض، پیشنهاد می دهد آنها را با بهره گیری از حساب های جداگانه ای که حاوی اطلاعات حساس نیستند، آزمایش کنید.
او همینطور سفارش می کند که قابلیت به روزرسانی خودکار را در تلفن ها، کامپیوتر ها و روترها فعال کنید و از روشهای احراز هویت دو مرحله ای یا چند مرحله ای، برنامه های مدیریت رمز عبور و همینطور نسخه های پشتیبان (بک آپ) از فایل ها، عکس ها و اسناد مهم استفاده نمایید.
خطر، لزوماً یک ماشین شرور نیست
کوماندو تأکید می کند که نگرانی های فعلی لزوماً حول محور ظهور ماشین های شرور —مانند آنچه در فیلمهای علمی-تخیلی دیده می شود— نیست؛ او توضیح می دهد که یک سیستم برای ایجاد تهدید، احتیاجی به داشتن احساسات یا آگاهی ندارد.
او خاطرنشان می کند که برخی آزمایش های ایمنی نشان داده اند که مدل های هوش مصنوعی—تحت شرایط خاص—تلاش می کرده اند تا از فرآیندهای خاموش سازی (توقف فعالیت) سرپیچی کنند؛ به خصوص زمانیکه این توقف ها مانع از تکمیل وظایف محول شده به آنها می شده است.
این کارشناس تأکید می کند که این مدلها بدنبال بقا به خاطر خودِ بقا نبودند، بلکه ادامه فعالیتشان را ابزاری برای رسیدن به هدف خود می دانستند. کماندو اعتقاد دارد بزرگ ترین خطر فعلی در رقابت میان شرکتها و کشورها برای توسعه سیستم هایی با قدرت روزافزون نهفته است، چراکه هر یک از طرفین، توسعه هوش مصنوعی را ضرورتی برای عقب نماندن از رقبا می دانند.
در همین جهت، او پیشنهاد می دهد که آزمایش های مستقلی روی سیستم های پیشرفته صورت گیرد، کنترل هایی بر سرعت توسعه آنها اعمال گردد و کشورها در گفتگوی جهانی پیرامون ایمنی هوش مصنوعی مشارکت داده شوند.
نگرانی ها در مورد ویروس ها
یکی از دغدغه های اصلی که کماندو مطرح می کند، احتمال استفاده از هوش مصنوعی در آینده برای ساخت ویروس های کامپیوتری یا بیولوژیکی است.
در مورد جنبه بیولوژیکی، او به آزمایش هایی اشاره می کند که در آنها از سیستم های هوش مصنوعی برای طراحی کامل ژنوم ویروس ها از پایه استفاده شده است؛ این آزمایش ها باکتریوفاژها را هدف قرار داده بودند—ویروس هایی که به باکتری ها حمله می کنند اما انسان ها را آلوده نمی سازند.
منبع: بی دانلود
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب