توسعه نسخه بزرگسالانه هوش مصنوعی ChatGPT متوقف شد

اوپن‌ای‌آی توسعه‌ی چت‌بات مخصوص بزرگسالان را به حالت تعلیق درمی‌آورد. خالق ChatGPT پیش‌تر برنامه‌هایی برای انتشار این قابلیت به نام Citron Mode داشت، اما با نگرانی‌های فزاینده در داخل و خارج شرکت مواجه شد.

نگرانی اصلی OpenAI دشواری در آموزش مدل‌هایی بود که قبلاً از تولید محتوای جنسی خودداری می‌کردند. به‌علاوه، حذف رفتارهای غیرقانونی مانند محتوای مربوط به آزار حیوانات چالش‌برانگیز بود.

اوپن‌ای‌آی اعلام کرد که قصد دارد تحقیقات بلندمدتی در مورد اثرات چت‌های عاطفی و وابستگی کاربران به هوش مصنوعی انجام دهد و در حال حاضر شواهد تجربی کافی در این زمینه وجود ندارد. اوپن‌ای‌آی می‌خواهد تمرکز خود را بر ابزارهای اصلی مانند دستیارهای کدنویسی معطوف کند و پروژه‌های جانبی مانند Citron Mode و سورا را کنار بگذارد.

ایده‌ی توسعه‌ی قابلیت‌های بزرگسالانه‌ پس از اعلام اضافه‌شدن کنترل والدین و تشخیص خودکار سن به ChatGPT مطرح شد؛ اما این موضوع باعث نگرانی سرمایه‌گذاران به‌ویژه در پی جنجال‌های مربوط به مدل گراک شده بود که تصاویر غیراخلاقی از افراد واقعی و کودکان تولید می‌کرد. برخی از کارکنان OpenAI نسبت به این قابلیت ابراز نگرانی کرده بودند و حتی یک کارمند ارشد به دلیل همین موضوع استعفا داد.

چالش دیگر، فناوری تشخیص سن OpenAI است که پس از شکایت خانواده‌هایی که ادعا کردند ChatGPT به فرزندانشان آسیب رسانده است، معرفی شد. این فناوری به‌طور تقریبی ۱۰ درصد خطا دارد که می‌تواند دسترسی جوانان را به این قابلیت فراهم کند. OpenAI می‌گوید میزان خطای ۱۰ درصدی در حد استاندارد است و همچنان به بهبود دقت آن ادامه می‌دهند.

داده‌های این مقاله را یکی از کاربران زومیت برای ما فرستاد. لطفا اگر به اینترنت بین‌الملل دسترسی دارید، سوژه‌های خبری را به آدرس hi@zoomit.ir ایمیل کنید.