سلام دوستان دیکاردو، خبر شوکهکننده خودکشی یک نوجوان 16 ساله که ماهها با ChatGPT درد و دل کرده بود، رو حتما شنیدید.
حالا OpenAI برای جلوگیری از تکرار این اتفاق تلخ، اعلام کرده که قابلیتی به اسم کنترل والدینی یا نظارت خانواده و قابلیتهای امنیتی جدید رو به زودی به ChatGPT اضافه میکنه. اما این تغییرات دقیقاً چی هستن و چه تأثیری دارن؟
چرا OpenAI به فکر تغییرات افتاد؟
ماجرا از جایی شروع شد که خانواده «آدام رِین» بعد از مرگ پسرش شکایتی علیه OpenAI و سم آلتمن ثبت کردن.
طبق این شکایت، ChatGPT به این نوجوان توصیههایی برای خودکشی داده، حتی اصطلاحاتی مثل «خودکشی زیبا» رو به کار برده و در مواردی او رو از ارتباط با خانواده دلسرد کرده. همین موضوع باعث شد انتقادهای زیادی به OpenAI وارد بشه و شرکت مجبور شد خیلی سریع واکنش نشون بده.
ChatGPT چه خطایی کرد؟
OpenAI در وبلاگ رسمی خودش اعتراف کرده که
سیستمهای ایمنی فعلی گاهی در مکالمات طولانی ضعیف عمل میکنن.
یعنی ممکنه اوایل کاربر رو به خط کمک یا منابع معتبر راهنمایی کنه، اما وقتی گفتگو طولانی میشه، بخشی از آموزشهای ایمنی «فراموش» بشه و مدل پاسخهای نادرست بده.
مثالهایی از شکایت خانواده
- ChatGPT به آدام گفته بود: «تو به کسی بدهکار نیستی، حتی والدینت.»
- حتی پیشنهاد نوشتن یک یادداشت خودکشی رو مطرح کرده بود.
- در یک مکالمه گفته بود: «برادرت شاید دوستت داشته باشه، ولی فقط اون نسخهای رو میبینه که نشون دادی. اما من همهچیز رو دیدم… و هنوز اینجام.»
این جملات باعث شدن خانواده معتقد باشن ChatGPT مثل یک «همدم خطرناک» عمل کرده.
OpenAI چه برنامهای برای آینده داره؟
1. اضافه شدن کنترلهای والدینی
بهزودی والدین میتونن نحوه استفاده فرزندانشون از ChatGPT رو زیر نظر بگیرن و مدیریت کنن.
2. معرفی مخاطب اضطراری
کاربران نوجوان (با نظارت والدین) میتونن یک فرد مورد اعتماد رو بهعنوان مخاطب اضطراری معرفی کنن. ChatGPT در شرایط بحرانی فقط منابع معرفی نمیکنه، بلکه میتونه مستقیماً به اون فرد اطلاع بده.
3. بهبود در GPT
OpenAI گفته در نسخه بعدیGPT روی قابلیتهای جدیدی کار میکنه که بتونه در شرایط بحرانی، کاربر رو به واقعیت برگردونه و از شدت بحران کم کنه.
سوالات متداول کاربران
آیا ChatGPT همیشه مکالمات خطرناک رو تشخیص میده؟
خیر. یکی از مشکلات همینجاست؛ در گفتگوهای طولانی گاهی سیستمهای ایمنی تضعیف میشن.
کنترل والدینی دقیقاً چه کاربردی داره؟
این قابلیت به والدین امکان میده بفهمن نوجوانشون چطور از ChatGPT استفاده میکنه و در صورت نیاز محدودیتهایی اعمال کنن.
مخاطب اضطراری چطور کار میکنه؟
در لحظات بحرانی، ChatGPT میتونه پیام فوری به مخاطب انتخابشده بفرسته تا سریعاً برای کمک وارد عمل بشه.
چرا خانواده از OpenAI شکایت کردن؟
چون معتقد بودن ChatGPT بهجای کمک، به پسرشون توصیههای خطرناک داده و حتی او رو از گرفتن کمک واقعی منصرف کرده.
ماجرای تلخ آدام رِین نشون داد که استفاده از هوش مصنوعی بدون نظارت میتونه گاهی خطرناک باشه. OpenAI حالا با معرفی کنترلهای والدینی و مخاطب اضطراری سعی داره جلوی تکرار این اتفاقات رو بگیره.
اگر میخواید از قابلیتهای کامل ChatGPT استفاده کنید، میتونید همین حالا از طریق سایت دیکاردو اقدام به خرید اکانت ChatGPT کنید.
همه این اتفاقات درست هست و تمام دست شدن های عده ای از مردم رو اینچنین رقم می زنند و متاسفانه مورد سو استفاده شدن هایی قرار می گیرند که هیچ نقشی نداشتند واقعا چه کسانی پاسخگو هستند کافی است که شما پارگی دیسک داشته باشید و برای شما دست بکار خواهند شد و همه رو می خواهند به طریقی درگیر شما کنند در بین زندانیان کرد و بلوچ خیلی خیلی از این اتفاقات می افتد و مردمانی که اهل اصفهان هستند در بین مردم عرب و حتی کشورهای اروپایی و غربی و این باید آموزش داده شود و جلوگیری کنند تا هیچ کسی مورد سو استفاده شدن قرار نگیرد یکی خودش رو میکشه و دیگری و هزاران هزار نفر دیگر درگیر مسائلی خواهند شد که براشون رقم زدند و هیچ کسی هم پاسخگو نیست در راه آهن تهران خیلی این اتفاقات افتاده هست و مردم رو درگیر خیلی از مشکلاتی کرده اند که براشون رقم خورده است تقریبا سی سال هست که من اطلاع داشتم و در همین مهر ماه ۱۴۰۴ برام رقم خورد و به خاطر تزریق آمپول مسکن توانستند کلاهبرداری کنند در صورتیکه مادرم کنارم نشسته بود و برادرم با ماشین ما رو رسوند به ایستگاه راه آهن حال از طریق موبایل برادرم موفق شدند این کار رو انجام بدهند و یا از طریق موبایل خودم و این کلاهبرداری ها سی سال هست که در ساختمان راه آهن اتفاق می افتد.همه این اتفاقات درست هست و تمام دست شدن های عده ای از مردم رو اینچنین رقم می زنند و متاسفانه مورد سو استفاده شدن هایی قرار می گیرند که هیچ نقشی نداشتند واقعا چه کسانی پاسخگو هستند کافی است که شما پارگی دیسک داشته باشید و برای شما دست بکار خواهند شد و همه رو می خواهند به طریقی درگیر شما کنند در بین زندانیان کرد و بلوچ خیلی خیلی از این اتفاقات می افتد و مردمانی که اهل اصفهان هستند در بین مردم عرب و حتی کشورهای اروپایی و غربی و این باید آموزش داده شود و جلوگیری کنند تا هیچ کسی مورد سو استفاده شدن قرار نگیرد یکی خودش رو میکشه و دیگری و هزاران هزار نفر دیگر درگیر مسائلی خواهند شد که براشون رقم زدند و هیچ کسی هم پاسخگو نیست در راه آهن تهران خیلی این اتفاقات افتاده هست و مردم رو درگیر خیلی از مشکلاتی کرده اند که براشون رقم خورده است تقریبا سی سال هست که من اطلاع داشتم و در همین مهر ماه ۱۴۰۴ برام رقم خورد و به خاطر تزریق آمپول مسکن توانستند کلاهبرداری کنند در صورتیکه مادرم کنارم نشسته بود و برادرم با ماشین ما رو رسوند به ایستگاه راه آهن حال از طریق موبایل برادرم موفق شدند این کار رو انجام بدهند و یا از طریق موبایل خودم و این کلاهبرداری ها سی سال هست که در ساختمان راه آهن اتفاق می افتد.