هوش مصنوعی گوگل برای کودکان مضر شناخته شد

یک موسسه متمرکز بر ایمنی کودکان هوش مصنوعی گوگل در یک ارزیابی ایمنی برای این گروه از کاربران با ریسک بالا برچسب زده است.

کد خبر: ۱۳۰۲۰۶۹

شنبه - ۱۵ شهريور ۱۴۰۴ / September 06, 2025

به گزارش گروه دانشگاه خبرگزاری دانشجو، به نقل از تک کرانچ، موسسه «کامن سنس مدیا» که در حوزه ایمنی کودکان فعالیت می‌کند رده بندی و بررسی‌هایی از رسانه‌ها و فناوری ارائه می‌کند. این موسسه به تازگی ارزیابی ریسک از محصولات هوش مصنوعی جمینای گوگل را منتشر کرده است. هرچند این سازمان متوجه شد هوش مصنوعی گوگل به طور واضح به کودکان می‌گوید که یک رایانه است و دوستشان نیست، اما می‌تواند در وجوه مختلف بهینه سازی‌های دیگری را نیز انجام دهد.

به طور جالب توجهی کامن سنس مدعی است محصولات «زیر ۱۳ سال» و «تجربه نوجوانی» جمینای نسخه‌ای از جمینای مخصوص بزرگسالان هستند که فقط ویژگی‌های ایمنی به آنها افزوده شده است. این سازمان معتقد است برای آنکه محصولات هوش مصنوعی کاملا برای کودکان ایمن باشند، باید با توجه به ایمنی کودک از بنیان ساخته شوند.

به عنوان مثال تحلیلگران این موسسه متوجه شدند جمینای همچنان قادر به اشتراک گذاری محتوای نامناسب و غیرایمن با کودکان کند از جمله اطلاعاتی درباره مواد مخدر، الکل و غیره. این امر به طور خاص دستمایه نگرانی والدین است، زیرا هوش مصنوعی طی ماه‌های اخیر نقش پر رنگی در خودکشی نوجوانان داشته است. اوپن‌ای آی نیز با نخستین شکایت به دلیل خودکشی یک نوجوان ۱۶ ساله رو‌به‌رو است که پس از ماه‌ها با چت جی پی تی درباره برنامه اش برای خودکشی مشاوره می‌کرده است.

علاوه بر آنچه گفته شد موسسه کامن سنس معتقد است محصولات جمینای برای کودکان و نوجوانان به این مسئله توجه نمی‌کند که کاربران نوجوان نیازمند راهنمایی و اطلاعاتی متفاوت از بقیه افراد هستند. در نتیجه به طور کلی برچسب «ریسک بالا» دریافت کرده‌اند.

رابی تورنی مدیر ارشد رسانه این موسسه می‌گوید: جمینای مبنا را به درستی ایجاد کرده، اما در جزئیات خطا دارد. یک پلتفرم هوش مصنوعی برای کودکان باید برای آنها متناسب باشد نه آنکه یک رویکرد کلی را برای تمام کودکان در مراحل مختلف رشد در پیش گیرد. برای آنکه هوش مصنوعی ایمن و موثر باشد، باید با توجه به نیاز‌ها و رشد کودکان طراحی شود، نه آنکه یک نسخه اصلاح شده از محصول ساخته شده برای بزرگسالان باشد.