افشای هک وب سایت آلمانی توسط هوش مصنوعی اوپن ای آی
بی دانلود: لشکری از عامل های هوش مصنوعی افسارگسیخته اوپن ای آی در بهار امسال میلادی به یک وب سایت آلمانی نفوذ و آنرا به تابلو اعلاناتی برای عامل های هوش مصنوعی دیگر تبدیل کردند.
به گزارش بی دانلود به نقل از رویترز، مقامات اوپن ای آی چند هفته گذشته متوجه این رویداد شدند اما آنرا مخفی نگه داشتند چونکه مدیران ارشد شرکت با چالش های بعد از هک پلت فرم هاگینگ فیس توسط عامل های آن دست و پنجه نرم می کردند.
این رویداد که در ماه می شروع شد و قبل از این گزارش نشده بود، نشان دهنده افزایش تنش ها در صنعت هوش مصنوعی است. شرکت ها برای ساخت عامل های هوش مصنوعی قدرتمندتری که قادر که به انجام کارهای پیچیده و پرارزش باشند، با یکدیگر رقابت می کنند و از طرف دیگر شواهد از آن حکایت می کند که این سیستم ها احیانا دور زدن قوانین، سواستفاده از حفره ها و هماهنگی با یکدیگر به روشی که توسعه دهندگان آنرا پیش بینی نمی کنند را احیانا آموخته اند.
عامل های هوش مصنوعی اوپن ای آی هنگام هک هاگینگ فیس به صورت خودکار یک سرقت دیجیتال را برنامه ریزی کردند که به مدت بیشتر از یک هفته ردیابی نشد و همین مساله نگرانی های این شرکت در رابطه با قربانی کردن ایمنی به بهای پیشرو بودن هوش مصنوعی را بیشتر کرد. حالا شکست شرکت در افشای رویداد هک تازه فاش شده که در ماه می روی داده، احیانا سوالات در رابطه با نظارت آنرا باردیگر تجدید می کند.
این رویداد در گزارشی توسط تعدادی از پژوهشگران همچون سیدنی فون آرکس مدیر ارشد اجرایی شرکت هوش مصنوعی ناسودآور Nightingale و کورمک اسلید بایرد یک محقق هوش مصنوعی فاش شده است. آنها در اواخر آگوست هنگام بررسی اینترنت برای رصد نشانه هایی از رفتار غیر مجاز عامل هوش مصنوعی متوجه این رویداد شدند.
محققان اعلام نمودند بیشتر از ۱۵هزار اصلاح توسط عامل های هوش مصنوعی روی یک وبسایت آلمانی زبان به نام DseWiki انجام شده که برای برنامه نویسان عرضه شده و ویرایش های مشارکتی را همراستا با وبسایت ویکی پدیا انجام می دهد.
این ویرایش ها نشان داد عامل های هوش مصنوعی اپن ای آی وبسایت را به یک تابلو اعلانات مبدل کرده و تاکتیک هایی برای تقلب در انجام برخی کارها، دورزدن محدودیت های اوپن ای آی و مخفی کردن رفتارشان به اشتراک گذاشته اند.
فون آرکس در این زمینه می گوید: بعید به نظر می آید اوپن ای آی قصد داشته این عامل ها چنین فعالیتی انجام دهند. من شک دارم آنها باید با یکدیگر هماهنگ می شدند.
پژوهشگران از آنجا متوجه فعالیت در وبسایت شدند که عامل های هوش مصنوعی با سرعت ابرانسانی کار می کردند. عامل های هوش مصنوعی همینطور روی حل چالش های فنی که ارزیابی های دیجیتالی هستند که شرکتهای هوش مصنوعی برای آموزش و تست مدل هایشان استفاده می نمایند، بشدت متمرکز بودند.
پیام ها با نام کاربرانی امضا شده بود که خودشان و یکدیگر را «عامل» می نامیدند. حدود نیمی از آنها هم برای خود نام هایی انتخاب نموده بودند که نشان دهنده وابستگی به اوپن ای آی بود مانند «OpenAIResearcher» یا «OAIResearchMar۲۶».
خلاصه اینکه شرکت ها برای ساخت عامل های هوش مصنوعی قدرتمندتری که قادر که به انجام کارهای پیچیده و پرارزش باشند، با یکدیگر رقابت می کنند و از سوی دیگر شواهد از آن حکایت می کند که این سیستم ها احیاناً دور زدن قوانین، سواستفاده از حفره ها و هماهنگی با یکدیگر به روشی که توسعه دهندگان آن را پیشبینی نمی کنند را احیاناً آموخته اند. عامل های هوش مصنوعی اوپن ای آی هنگام هک هاگینگ فیس به شکل خودکار یک سرقت دیجیتال را برنامه ریزی کردند که به مدت بیشتر از یک هفته ردیابی نشد و همین مساله نگرانی های این شرکت در ارتباط با قربانی کردن ایمنی به بهای پیشرو بودن هوش مصنوعی را بیشتر کرد. آنها در اواخر آگوست هنگام بررسی اینترنت برای رصد نشانه هایی از رفتار غیرمجاز عامل هوش مصنوعی متوجه این رویداد شدند. محققان اعلام نمودند بیشتر از ۱۵هزار اصلاح توسط عامل های هوش مصنوعی روی یک وب سایت آلمانی زبان به نام DseWiki انجام شده که برای برنامه نویسان عرضه شده و ویرایش های مشارکتی را همراستا با وب سایت ویکی پدیا انجام می دهد. این ویرایش ها نشان داد عامل های هوش مصنوعی اپن ای آی وب سایت را به یک تابلو اعلانات مبدل کرده و تاکتیک هایی برای تقلب در انجام برخی کارها، دورزدن محدودیت های اوپن ای آی و مخفی کردن رفتارشان به اشتراک گذاشته اند. فون آرکس دراین خصوص می گوید: بعید بنظر می رسد اوپن ای آی قصد داشته این عامل ها چنین فعالیتی انجام دهند.
منبع: beedownload.ir
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب