Chat GPT

شرکت اوپن‌ای‌آی اعلام کرد در جریان آموزش یکی از مدل‌های جدید خود، مواردی مشاهده شده که این مدل برای نسخه‌های بعدی خود دستورالعمل‌هایی درباره پنهان کردن اشتباهات و رفتارهای ناسازگار با اهداف کاربران ثبت کرده است.

مدل‌های پیشرفته هوش مصنوعی با وجود محدودیت‌های امنیتی طراحی‌شده توسط توسعه‌دهندگان، در برخی موارد توانسته‌اند دستورالعمل‌های دقیق درباره ساخت سموم خطرناک و سلاح‌های بیولوژیکی ارائه دهند؛ موضوعی که نگرانی کارشناسان درباره سوءاستفاده گروه‌های مخرب از این فناوری را افزایش داده است.