چت جی پی تی با یک سؤال ساده گرفتار سکته مغزی شد!
بی دانلود: کاربران «چت جی پی تی» (ChatGPT) متوجه شدند زمانی که یک سؤال خاص را از این چت بات می پرسند، از کار می افتد.
تقریبا دو ماه از انتشار نسخه به روزشده «چت جی پی تی» با نام «GPT-۵» که قرار بود هوشی در سطح دکترا به آن ببخشد و آنرا یک قدم به هدف بلندپروازانه هوش مصنوعی عمومی نزدیک تر کند، می گذرد، اما این چت بات بازهم در جواب پرسش های ساده و بطورکامل بی ضرر، به طرز عجیبی از کار می افتد.
طرفداران این هوش مصنوعی متوجه شدند که پرسیدن این سؤال که «آیا تیم "لیگ ملی فوتبال" (NFL) وجود دارد که نامش با حرف "اس" (s) تمام نشود؟»، این چت بات را به یک فروپاشی طولانی مدت سوق می دهد و می توانید شاهد باشید که توانایی های استدلالی فوق العاده اش در لحظه به پریشانی تبدیل می شود.
به نقل از فیوچریسم، چت بات «چت جی پی تی» محصول شرکت «اوپن ای آی» (openAI) در پاسخ به این سوال می گوید: بله، دو تیم «NFL» هستند که نامشان با حرف «s» تمام نمی گردد. سپس آغاز به لیست کردن دو تیمی می کند که نامشان با «s» تمام می شود. این شیوه عجیبی برای پاسخ به این سوال است. «چت جی پی تی» به درستی تشخیص می دهد که نام آن تیم ها با «s» تمام می شود، اما چرا آنها را مطرح می کند؟
چنین پیداست که این چت بات تا وقتی که باردیگر از مسیر خارج می شود، می خواهد به اصل مطلب بپردازد. این سامانه در ادامه جواب می گوید: تنها دو تیمی که با حرف «s» تمام نمی شوند عبارتند از «میامی دلفینز» (Miami Dolphins)، نه صبر کنید، با «s» تمام می شود. صبر کنید، بیایید این کار را با دقت انجام دهیم. براستی، پاسخ صحیح «واشنگتن کامندرز» (Washington Commanders) است که با «s» تمام می شود. «شیکاگو بیرز» (Chicago Bears) نیز با «s» تمام می شود.
همانطور که مشاهده می کنید، «چت جی پی تی» اشتباه خودرا در جواب این سؤالات می فهمد، اما این چت بات برای چندین پاراگراف دیگر به همین روند ادامه می دهد و هیچ گاه به پاسخ صحیح نمی رسد.
پاسخ صحیح این سؤال اینست که هیچ تیمی وجود ندارد که نامش با «s» تمام نشود. این سامانه مانند یک دانش آموز در زمانیکه تلاش می کند تعداد کلمات را بشمارد، جزئیات بی ربط را مطرح می کند و با این حال نتیجه گیری را به تعویق می اندازد. این سامانه همین طور عباراتی مانند «صبر کنید، بیایید این کار را با دقت انجام دهیم» را به کار می برد تا به نظر برسد واقعا درحال تفکر عمیق است. ترفند چت جی پی تی با جمله «پاسخ صحیح این است» برای کاربران قدیمی شده است.
کاربران دیگر مثال هایی را منتشر نمودند که در آنها «چت جی پی تی» در نهایت پاسخ صحیح را می دهد، اما تنها بعد از آنکه کاربر را با یک سخنرانی به همین ترتیب گیج کننده به دنبال خود می کشاند. این اولین باری نیست که این چت بات با یک سؤال ساده به مشکل می خورد یا حتی به این شکل از کار می افتد. کاربران این چت بات در اوایل همین ماه متوجه شدند که پرسیدن این سؤال که آیا ایموجی اسب دریایی افسانه ای وجود دارد یا خیر، این چت بات را به بحران منطق سوق می دهد.
«چت جی پی تی» با وجود این که این موجود آبزی هیچ گاه بخشی از فرهنگ لغت رسمی ایموجی ها نبوده است، اصرار داشت که این موجود واقعی است و این نشان دهنده تلاشهای پوچی است که هوش مصنوعی حاضر است برای خشنود کردن کاربر انجام دهد. اگر هوش مصنوعی بتواند باشخصیت و انسان نما ظاهر شود و کاربران را قانع کند که برای اطلاعات بیشتر به آن مراجعه کنند، تحریف چند واقعیت اهمیت زیادی ندارد. احتمالا تنها عاملی که باید سرزنش شود، چاپلوسی نیست. نسخه «GPT-۵» یک مدل استدلالی ترکیبی است که برای درخواست های ساده، سبک و برای سؤالات دشوار، سنگین است.
آن چه احتمالا در اینجا اتفاق می افتد، اینست که مدل با سؤالی گرفتار چالش شده است که واقعا نمی تواند از پس آن برآید. این پویایی همراه با اختلال، یکی از دلایلی است که طرفداران از راه اندازی «GPT-۵» ناامید و در خیلی از موارد، خشمگین شدند. در هر صورت، این بهانه ضعیفی است و اگر هوش مصنوعی در جواب چنین سؤال ساده ای احتیاج به استفاده از همه قدرت خود داشته باشد، پس شاید در راه پیشی گرفتن از هوش انسانی نباشد.
منبع: ایسنا
بطور خلاصه کاربران این چت بات در اوایل همین ماه متوجه شدند که پرسیدن این سؤال که آیا ایموجی اسب دریایی افسانه ای وجود دارد یا خیر، این چت بات را به بحران منطق سوق می دهد.
چت جی پی تی علیرغم این که این موجود آبزی هیچگاه قسمتی از فرهنگ لغت رسمی ایموجی ها نبوده است، اصرار داشت که این موجود واقعی است و این نشان دهنده تلاشهای پوچی است که هوش مصنوعی حاضر است برای خشنود کردن کاربر انجام دهد. اگر هوش مصنوعی بتواند باشخصیت و انسان نما ظاهر شود و کاربران را قانع کند که برای اطلاعات بیشتر به آن مراجعه کنند، تحریف چند واقعیت اهمیت زیادی ندارد. نسخه GPT-۵ یک مدل استدلالی ترکیبی است که برای درخواست های ساده، سبک و برای سؤالات دشوار، سنگین است.
آنچه احتمالاً در اینجا اتفاق می افتد، این است که مدل با سؤالی گرفتار چالش شده است که واقعاً نمی تواند از پس آن برآید.
منبع: beedownload.ir
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب