هشدار مهم برای کاربران ChatGPT

سلام دوستان دیکاردو، OpenAI یک خبر جدید اعلام کرده، مکالمات کاربران رو برای تشخیص محتوای خطرناک بررسی می‌کنه و حتی در موارد خاص ممکنه اون‌ها رو به پلیس گزارش بده! این موضوع هم  سوال‌های زیادی رو تو ذهن کاربرا ایجاد کرده.

چرا OpenAI تصمیم به بررسی مکالمات گرفت؟

طبق گزارش Futurism، دلیل این تصمیم حوادث اخیر مربوط به سوءاستفاده یا اثرات منفی چت‌بات‌هاست.

تازه‌ترین نمونه‌اش ماجرای غم‌انگیزیه درباره مردی که دچار «جنون ناشی از هوش مصنوعی» یا همون AI psychosis شد و در یک قتل-خودکشی مادر خودش رو کشت. این اتفاق باعث شد نگاه‌ها دوباره به نقش خطرناک چت‌بات‌ها تو بحران‌های روانی جلب بشه.

مکالمات چطور بررسی می‌شن؟

OpenAI توی پست وبلاگی خودش توضیح داده: 

•  سیستم‌ها به‌طور خودکار مکالمات رو اسکن می‌کنن.
•  وقتی نشونه‌ای از تهدید یا آسیب جدی به دیگران دیده بشه، مکالمه به تیم انسانی منتقل می‌شه.
•  این تیم آموزش دیده و اختیار داره اقداماتی مثل مسدود کردن حساب انجام بده.
• اگه تهدید فوری و جدی برای دیگران تشخیص داده بشه، موضوع به پلیس ارجاع داده می‌شه.

خودآزاری و حریم خصوصی

جالبه بدونی OpenAI گفته فعلاً پرونده‌های مربوط به خودآزاری یا خودکشی به پلیس گزارش نمی‌شن. دلیلش هم احترام به حریم خصوصی کاربراست. البته این سیاست خودش باعث بحث و جدل زیادی شده؛ چون خیلی‌ها می‌پرسن چرا تهدید علیه دیگران گزارش می‌شه، ولی تهدید علیه خود فرد نه؟

تناقض در سیاست‌های OpenAI

از یه طرف OpenAI تأکید می‌کنه که به حریم خصوصی اهمیت می‌ده، مخصوصاً الان که درگیر دعوای حقوقی با نیویورک تایمز و چند ناشر دیگه‌ست.

اما از طرف دیگه، همین شرکت اعتراف کرده مکالمات کاربران رو پایش می‌کنه و حتی ممکنه با پلیس به اشتراک بذاره. این تناقض باعث شده خیلی‌ها به سیاست‌های واقعی این شرکت شک کنن.

سوالات متداول کاربران

•  آیا مکالمات من محرمانه‌ست؟ 
  تا حدی بله. ولی اگه محتوای چت شامل تهدید جدی علیه دیگران باشه، احتمال بررسی و گزارش وجود داره.
•  در چه شرایطی پلیس در جریان قرار می‌گیره؟ 
  فقط وقتی که بازبین انسانی تشخیص بده تهدید فوری و جدی برای آسیب به دیگران وجود داره.
• موارد خودآزاری هم گزارش می‌شن؟ 
  خیر. OpenAI فعلاً این موارد رو به پلیس ارجاع نمی‌ده تا به حریم خصوصی احترام گذاشته بشه.

آیا ChatGPT می‌تونه جای روان‌درمانگر یا وکیل باشه؟

نه! سم آلتمن، مدیرعامل OpenAI، خودش اعتراف کرده 

که مکالمات با ChatGPT مثل صحبت با یک متخصص واقعی محرمانگی نداره. حتی ممکنه به‌خاطر پرونده‌های قضایی، بخشی از مکالمات کاربران به دادگاه ارائه بشه.

ماجرای جدید نشون می‌ده OpenAI  

•  از یک طرف باید جلوی فجایع انسانی مثل خودکشی و آسیب‌های روانی ناشی از ChatGPT رو بگیره.
•  از طرف دیگه، باید به وعده‌های خودش درباره حریم خصوصی پایبند بمونه.

در حال حاضر، این شرکت راه سخت‌گیرانه‌تر رو انتخاب کرده و همین موضوع هم نگرانی‌های جدیدی درباره اعتماد کاربران به ChatGPT ایجاد کرده.

برای استفاده بیشتر از امکانات این مدل می تونید اکانت chatgpt رو از سایت دیکاردو خریداری کنید.