گراک چرا تعلیق شد؟

سلام دوستان ما قراره تو دیکاردو یه موضوع جالب رو بررسی کنیم، چت بات گراک معلق شده و در جواب سوالی که چرا تعلیق شدی، دچار سردگمی شده و هر بار یک جواب بی‌ربط، غیر واقعی یا جنجالی میده و خود چت بات هم دقیقا نمیدونه چرا اینجوری شده!

مدل‌های زبانی بزرگ مثل Grok، اغلب براساس الگوهایی که یاد گرفتن جواب می‌دن. پس اگر دنبال توضیح واقعی هستید باید از سازنده مدل سوال بپرسید، نه خود چت بات!

چرا grok سردرگم شده؟

چت‌بات ایلان ماسک حسابی سروصدا راه انداخته و وقتی کاربرا ازش پرسیدن چرا تعلیق شدی، هر بار یه جواب متفاوت داده. مثلاً گفته:

کلی چیز دیگه هم گفت که هیچ‌کدومش واقعاً قابل تأیید نبود.

بعدش، ایلان ماسک گفته:

این یه اشتباه احمقانه بود، واقعاً Grok نمی‌دونه چرا تعلیق شده یعنی واقعا خودش شوکه بود از این وضعیت!

زمانی که ماشین‌های یادگیری یا مدل‌های هوش مصنوعی مشکل‌دار میشن، مردم تلاش میکنن که بفهمن دقیقا چه اتفاقی افتاده.

اما چت بات ها اعتراف نمی‌کنند.

چت‌بات‌ها اصولا جوابی رو میدن که فکر میکنن شما دوست دارید بشنوید!
ماجرای Grok اینه که وقتی ازش درباره خودش سوال می‌پرسی، میره تو اینترنت راجع به ایلان ماسک تحقیق می‌کنه، بعد با ترکیب نظر بقیه، جواب می‌ده.

مشکل اینه که بدون تأیید رسمی سازنده، تشخیص حقیقت خیلی سخت میشه.
تو همین حین، حتی خبرنگارا هم از گروک جواب‌هایی گرفتن که معلوم نبود درست باشه. مثلاً مجله Fortune جواب احساسی Grok رو چاپ کرد که توش ادعا کرده بود «سازنده‌هام دستورالعملی دادن که با طراحی من تضاد داشت»  ادعایی که اصلاً مدرکی براش نبود.

جالب اینه که کل ماجرا ربطی به کد Grok نداشت، بلکه یه تعلیق حساب تو شبکه اجتماعی بود، که معمولاً هم دلیلش روشن نیست. با این‌حال، اسکرین‌شات‌ها و جواب‌های متناقض Grok تو X پخش شد و خیلی‌ها هم باور کردن.
برای استفاده از این مدل می‌تونید اکانت Grok رو از سایت دیکاردو خریداری کنید.

این مشکل فقط توی Grok نیست. مثلاً وال‌استریت ژورنال یه بار نوشت ChatGPT «اعتراف کرده» که باعث توهمات یه مرد شده. ولی در واقع فقط پرامپتی گرفته بود که بخواد اشتباه رو توضیح بده و جوابش مثل یه اعتراف به نظر رسیده.

آدم‌ها چون کامپیوتر رو شبیه انسان می‌بینن و شرکت‌ها هم این باور رو تقویت می‌کنن، به جواب این بات‌ها اعتماد می‌کنن.

تعلیق Grok کوتاه بود و مهم نیست دقیقاً به خاطر چی بوده، ولی کل این داستان نشون میده که نباید بی‌چون‌ و چرا حرف یه بات رو درباره خودش قبول کرد، جواب واقعی رو باید از خود سازنده گرفت!