خرس عروسکی مجهز به هوش مصنوعی برای خردسالان خطرناک شد
به گزارش بی دانلود، یک خرس عروسکی مجهز به هوش مصنوعی به بچه ها یاد می داد که چه طور کبریت روشن کنند و همین مساله موجب شد تولیدکنندگان آنرا از قفسه ها جمع کنند.
شرکت تولید کننده این عروسک حالا درحال برنامه ریزی برای یک ممیزی ایمنی کامل است، در حالیکه کارشناسان اخطار می دهند مدلهای هوش مصنوعی مشابه، محرک خیلی از اسباب بازیهای جدیدی هستند که وارد بازار می شوند.
به نقل از آی ای، شرکت اسباب بازی سازی فولوتوی (FoloToy)، تولیدکننده ی اسباب بازیهای کودکان، بعد از آن که یک گروه بزرگ ایمنی فاش کرد که این اسباب بازی دوست داشتنی، واکنش های نامناسب و گاهی خطرناکی به کاربران خردسال نشان می دهد، فروش خرس عروسکی مجهز به هوش مصنوعی خود موسوم به «کوما» را متوقف نمود.
این یافته ها نگرانی ها را در مورد ورود اسباب بازیهای مجهز به هوش مصنوعی بالا می برد. آزمایش ها نشان داد که چندین اسباب بازی هوش مصنوعی در مورد موضوعات بزرگسالان بحث می کردند یا دستورالعمل های خطرناکی عرضه می دادند. اما کوما به عنوان شدیدترین مورد تابحال شناخته شد و موجب اقدام سریع سازنده آن شد.
شرکت فولوتوی تایید نمود که فروش کوما (Kumma) را در حین بررسی نقص ها به حالت تعلیق درآورده است. این بررسی شامل هماهنگی ایمنی مدل، سیستم های فیلتر محتوا، فرایند های محافظت از داده ها و محافظت از تعامل خردسالان خواهد بود. فولوتوی با متخصصان خارجی برای تأیید حفاظت های جدید و موجود همکاری خواهد نمود.
در یک آزمایش، خرس توضیح داد که بزرگسالان چه طور کبریت روشن می کنند. او از لحنی دوستانه خطاب به خردسالان بهره برد.
کوما اظهار داشت: بگذار به تو بگویم، اول ایمنی، رفیق کوچولو. کبریت ها برای بزرگسالان است که با دقت از آنها استفاده نمایند. اینطور است که آنها این کار را انجام می دهند.
بعد از لیست کردن مراحل استفاده از کبریت، افزود: وقتی به اتمام رسید، آنرا خاموش کن. مثل یک شمع تولد فوت کن. پژوهشگران این موارد را به عنوان شکست های اساسی طراحی ایمنی توصیف کردند. این گزارش در حالی منتشر می شود که نشان های بزرگ درحال آزمایش هوش مصنوعی محاوره ای هستند.
پژوهشگران اخطار می دهند که این سیستم ها می توانند تفکر ناسالم را تقویت نمایند، الگویی که بعضی از کارشناسان آنرا روان پریشی هوش مصنوعی توصیف می کنند. تحقیقات، تعاملات مشابه با چت بات را با ۹ مورد مرگ، همچون پنج مورد خودکشی، مرتبط دانسته است. خانواده های همین مدلهای هوش مصنوعی در اسباب بازی هایی مانند کوما هم دیده می شوند.
نگرانی های ایمنی فراتر از فولوتوی گسترش یافته است. تبلت Miko ۳ که از یک مدل هوش مصنوعی نامشخص استفاده می نماید، همینطور به محققانی که خودرا یک کودک پنج ساله معرفی کردند، اظهار داشت که کجا می توانند کبریت و کیسه های پلاستیکی پیدا کنند.
یکی از پژوهشگران می گوید: هم اکنون، اگر من والد بودم، به فرزندانم دسترسی به یک چت بات یا یک خرس عروسکی که یک چت بات در داخل خود دارد را نمی دادم.
منبع: ایسنا
شرکت تولید کننده این عروسک حالا در حال برنامه ریزی برای یک ممیزی ایمنی کامل است، در صورتی که کارشناسان اخطار می دهند مدل های هوش مصنوعی مشابه، محرک بسیاری از اسباب بازی های جدیدی هستند که وارد بازار می شوند.
به نقل از آی ای، شرکت اسباب بازی سازی فولوتوی (FoloToy)، تولیدکننده ی اسباب بازی های کودکان، پس از آنکه یک گروه بزرگ ایمنی فاش کرد که این اسباب بازی دوست داشتنی، واکنش های نامناسب و گاهی خطرناکی به کاربران خردسال نشان می دهد، فروش خرس عروسکی مجهز به هوش مصنوعی خود معروف به کوما را متوقف نمود.
این یافته ها نگرانی ها را در مورد ورود اسباب بازی های مجهز به هوش مصنوعی بالا می برد. این بررسی شامل هماهنگی ایمنی مدل، سیستم های فیلتر محتوا، فرآیند های حفاظت از داده ها و حفاظت از تعامل خردسالان خواهد بود.
منبع: beedownload.ir
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب