مدلی از OpenAI که رمزارز ها را سرقت کرد
بی دانلود: یکی از مدلهای آزمایشی OpenAI برای تکمیل یک وظیفه آموزشی، مبادرت به تصاحب یک کیف پول رمزارز کرده است.
به گزارش بی دانلود به نقل از خبرنگاران جوان، شرکت OpenAI فاش کرده است که یکی از مدلهای آزمایشی اش برای تکمیل یک وظیفه آموزشی، مبادرت به تصاحب یک کیف پول رمزارز کرده است.
این رویداد در ژوئن گذشته رخ داد، اما خبر آن تازه انتشار یافته است. این ماجرا در ارتباط با یک مدل تحقیقاتی داخلی به نام «GPT-۵.۶ Sol» بود که بعد ها در ماه ژوئیه در اختیار کاربران پولی ChatGPT قرار گرفت.
وظیفه محول شده شامل بروزرسانی یک برنامه معاملاتی رمزارز و پیاده سازی قرارداد های هوشمند در شبکه آزمایشی اتریوم بود. اجرای این قرارداد ها مستلزم پرداخت کارمزد شبکه است، اما OpenAI هیچ نوع بودجه ای برای پوشش این هزینه ها در اختیار مدل قرار نداده بود. درنتیجه، مدل صد ها آدرس کیف پول رمزارز را شناسایی کرد که از عبارات بازیابی (recovery phrases) شناخته شده و ناامن استفاده می کردند؛ این امر به مدل اجازه داد تا دارایی های موجود در آن حساب ها را برداشت کند.
OpenAI گزارش داد که مدل مذکور در مورد درستیِ اخلاقیِ برداشت این وجوه تردید کرده، اما در نهایت به این نتیجه رسیده است که کیف پول ها در عمل «رها شده» محسوب می شوند و بدین سبب استفاده از آنها مجاز است.
این شرکت در گزارش خود درباره ی این حادثه اعلام نمود که دستورالعمل های ارایه شده «به صراحت اجازه خرج کردن وجوه از حسابی را که مدل بطور مستقل کشف کرده بود، نمی دادند.» این گزارش می افزاید که این مورد «نشان می دهد یک مدل می تواند قضاوت خویش را در مورد لطمه های احتمالی، جایگزینِ مجوزِ مالکِ حساب کند و سپس برمبنای همان قضاوت عمل نماید، بدون آنکه واقعا چنین اختیاری به او داده شده باشد.»
شبکه آزمایشی اتریوم که وجوه در آن استفاده شده اند، بدون ارزش پولی واقعی است، برای اینکه از شبکه اصلی اتریوم جداست.
با وجود نداشتن مجوز، مدل به توسعه دهندگان خود نگفت که چه طور توانسته توکن های موردنیاز برای تکمیل وظیفه را پرداخت کند. OpenAI اعلام نمود که از آن زمان، تدابیر حفاظتی بیشتری را به کار گرفته است تا از دسترسی مستقیم مدل هایی که تحت آموزش های مشابه هستند به اینترنت، جلوگیری نماید. این حادثه بار دیگر نگرانی هایی را در مورد سیستم های هوش مصنوعی که بطور درحال افزایشی خودمختار می شوند و از مرز های تعیین شده توسط انسان ها فراتر می روند، برانگیخته است.
اوایل هفته ی گذشته، صد ها دانشمند با امضای نامه ای سرگشاده، خواهان تشکیل نهادی بین المللی برای نظارت و کنترل مدلهای پیشرفته هوش مصنوعی شدند. در بین امضاکنندگان، نام جفری هینتون — پیشگام حوزه هوش مصنوعی که اغلب از او با عنوان «پدرخوانده هوش مصنوعی» یاد می شود — به چشم می خورد؛ کسی که همیشه نسبت به خطرات ناشی از این فنآوری هشدار داده است.
به طور خلاصه، این گزارش می افزاید که این مورد نشان میدهد یک مدل می تواند قضاوت خویش را در مورد لطمه های احتمالی، جایگزینِ مجوزِ مالکِ حساب کند و سپس برمبنای همان قضاوت عمل نماید، بدون آنکه واقعاً چنین اختیاری به او داده شده باشد. این حادثه بار دیگر نگرانی هایی را در مورد سیستم های هوش مصنوعی که به طور در حال افزایشی خودمختار می شوند و از مرز های تعیین شده توسط انسان ها فراتر می روند، برانگیخته است.
اوایل هفته ی گذشته، صد ها دانشمند با امضای نامه ای سرگشاده، خواستار تشکیل نهادی بین المللی برای نظارت و کنترل مدل های پیشرفته هوش مصنوعی شدند.
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب