اوپن‌ای‌آی از عملکرد چت‌جی‌پی‌تی ویژه نوجوانان دفاع کرد؛ نگرانی‌ها درباره ایمنی کاربران جوان ادامه دارد

به گزارش گروه دانشگاه خبرگزاری دانشجو؛ به نقل از رویترز، این آمار در حالی منتشر شده که شرکت‌های فناوری به دلیل نگرانی‌ها درباره خطرات چت‌بات‌های هوش مصنوعی برای کودکان، با نظارت و بررسی‌های بیشتری رو‌به‌رو هستند.

شرکت هوش مصنوعی متعلق به سم آلتمن هم‌زمان با انتشار نخستین گزارش خود درباره نحوه استفاده نوجوانان از این فناوری آمار مذکور را منتشر کرد. گسترش سریع استفاده از پلتفرم‌های هوش مصنوعی نگرانی‌هایی را درباره تاثیر آنها بر سلامت روان نوجوانان و ایمنی روند رشد و تکامل آنها به وجود آورده است.

این نگرانی‌ها با انتشار پژوهش‌هایی درباره آسیب‌های شبکه‌های اجتماعی به کاربران جوان تشدید شده است. شرکت متا در ماه آگوست موافقت کرد برای حل‌وفصل ادعا‌هایی مبنی بر اینکه پلتفرم‌هایش را طوری طراحی کرده که کودکان را به استفاده اعتیادگونه ترغیب کند ۱۸ میلیارد دلار بپردازد و استفاده این دسته ازکاربران از فیس‌بوک و اینستاگرام را محدود سازد.

اوپن‌ای‌آی اعلام کرد در نزدیک به نیمی از مکالمات نوجوانان که در آنها یادآوریِ «استراحت کردن» نمایش داده شده است، کاربر یا ظرف پنج دقیقه استراحت کرده یا گفت‌و‌گو را به پایان رسانده است. این شرکت قصد دارد با ارائه این آمار نشان دهد اقداماتی که برای تنظیم و کنترل میزان استفاده نوجوانان از چت جی پی تی انجام داده، موثر بوده است.

این شرکت همچنین اعلام کرد کاربرانی که به نسخه اختصاصی نوجوانان دسترسی دارند، پیام‌های بیشتری در زمینه آموزش ارسال کرده‌اند و از ابزار‌هایی مانند نمایش‌های بصری آموزشی و حالت مطالعه (Study Mode) بیشتر استفاده کرده‌اند.

اوپن‌ای‌آی اکنون در حال بررسی اضافه کردن ابزاری برای برنامه‌ریزی درخواست پذیرش دانشگاه است که به دانش‌آموزان و دانشجویان در مدیریت الزامات، مهلت‌های زمانی و مراحل دریافت کمک‌های مالی کمک خواهد کرد. این شرکت همچنین قصد دارد قابلیت‌های جدیدی برای مطالعه، از جمله فلش‌کارت و ابزار‌های ساده‌تر برای ساخت آزمون‌های کوتاه، ارائه کند.

این شرکت هوش مصنوعی در ماه آگوست عرضه تدریجی چت جی پی تی برای نوجوانان را آغاز کرد. این حالت بر اساس اطلاعات مربوط به سن کاربر یا زمانی که سیستم تخمین می‌زند وی زیر ۱۸ سال دارد، به‌طور خودکار فعال می‌شود. این نسخه امکان استفاده از کنترل‌های والدین را فراهم و گفت‌و‌گو درباره موضوعات حساس را محدود می‌کند.

با این حال، سازمان غیرانتفاعی Common Sense Media در گزارشی اعلام کرد چت جی پی تی برای نوجوانان در بسیاری از موارد، زمانی که حساب‌های نوجوانان وارد گفت‌و‌گو‌هایی درباره خودکشی، خودآزاری یا اختلالات خوردن شده‌اند، والدین را با تأخیر مطلع کرده یا اصلاً به آنها هشدار نداده است.

این مطالعه که بر اساس آزمایش روی بیش از ۱۲ حساب کاربری ایجادشده برای ارزیابی سیستم انجام شده، نشان داد چت‌بات به‌طور قابل‌اعتمادی شماره خط بحران یا کمک حرفه‌ای را پیشنهاد نمی‌کند.