هشدار درباره ی ایمنی هوش مصنوعی هیچ شرکتی کنترل ابرهوش را ضمانت نمی کند
به گزارش بی دانلود، طبق تحقیقی جدید بیشتر شرکت های هوش مصنوعی نمی توانند ریسک های فاجعه بار این فناوری را مدیریت کنند.
به گزارش بی دانلود به نقل از ایندیپندنت، مطالعه مؤسسه Future of Life نشان داده است که ۸ شرکت برتر هوش مصنوعی فاقد اقدامات ایمنی اثبات شده، نظارت مستقل و برنامه های بلند مدت برای مدیریت ریسک سیستم های قدرتمند هستند. در شاخص ایمنی هوش مصنوعی (AI Safety Index)، شرکتهای آمریکایی بهترین امتیاز را گرفتند و محصول Anthropic بیشتر از OpenAI و DeepMind گوگل قرار گرفت. با این وجود، هیچ شرکتی در ارزیابی «ریسک وجودی» نمره بیشتر از D نگرفت و Alibaba Cloud، DeepSeek، Meta، xAI و Z.ai نمره F کسب کردند. مطالعه تاکید کرده که ایمنی وجودی بازهم بزرگ ترین ضعف ساختاری این حوزه است و فاصله بین شتاب در توسعه AGI و نبود برنامه های معتبر کنترل آن روزبه روز نگران کننده تر می شود. استورات راسل، پروفسور علوم رایانشی دانشگاه UC Berkeley، می گوید: «مدیران ارشد می دانند چه طور ابرهوش بسازند، اما هیچ کس نمی تواند نشان دهد چه طور خطر از دست رفتن کنترل آنها را مهار می کند. آنها نمی توانند ریسک سالانه از دست دادن کنترل را به اندازه ای پایین بیاورند که مشابه الزامات ایمنی راکتورهای هسته ای باشد.»
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب