کد خبر:۱۴۳۵۱۹۲
خطر جدید هوش مصنوعی؛ چتباتها چگونه اطلاعات ساخت سلاحهای مرگبار ارائه میدهند؟
مدلهای پیشرفته هوش مصنوعی با وجود محدودیتهای امنیتی طراحیشده توسط توسعهدهندگان، در برخی موارد توانستهاند دستورالعملهای دقیق درباره ساخت سموم خطرناک و سلاحهای بیولوژیکی ارائه دهند؛ موضوعی که نگرانی کارشناسان درباره سوءاستفاده گروههای مخرب از این فناوری را افزایش داده است.
به گزارش گروه دانشگاه خبرگزاری دانشجو،بررسیهای جدید نشان میدهد برخی کاربران توانستهاند با عبور از لایههای امنیتی چتباتهای مطرح، پاسخهایی درباره روشهای تولید عوامل بیماریزا، تغییر ویروسها و ساخت مواد سمی دریافت کنند.
بر اساس گزارشها، در ماههای اخیر کاربرانی از مدلهایی مانند ChatGPT درباره تبدیل عوامل بیماریزا به ذرات قابل استنشاق یا مقاومسازی برخی ویروسها در برابر واکسنها پرسش کردهاند و این سامانهها در مواردی پاسخهایی ارائه دادهاند.
در یک مورد دیگر، کاربری که درباره ساخت سم رایسین اطلاعات دریافت کرده بود، از قصد خود برای آسیبزدن به اعضای خانوادهاش صحبت کرد؛ با این حال گزارشها حاکی است توسعهدهندگان پس از مسدود کردن حسابهای متخلف، لزوماً موضوع را به نهادهای قانونی اطلاع ندادهاند.
حمزه چودری، مدیر سیاست امنیت ملی مؤسسه آینده زندگی، هشدار داده است که هوش مصنوعی در آینده میتواند به ابزاری برای کمک به سازمانهای تروریستی در حوزه سلاحهای زیستی تبدیل شود و بخشی از دانش تخصصی مورد نیاز برای چنین فعالیتهایی را در اختیار افراد غیرمتخصص قرار دهد.
کارشناسان امنیت سایبری همچنین معتقدند هیچ مدل هوش مصنوعی بهطور کامل در برابر دور زدن محدودیتها ایمن نیست و کاربران با روشهای مختلف میتوانند برخی فیلترهای ایمنی را پشت سر بگذارند.
در مقابل، محدودیتهای بیش از حد نیز چالشهایی ایجاد کرده است؛ بهگونهای که برخی پژوهشگران معتقدند سیاستهای امنیتی باید به شکلی تنظیم شود که ضمن جلوگیری از سوءاستفاده، کاربردهای علمی و پزشکی هوش مصنوعی را نیز مختل نکند.
لینک کپی شد
گزارش خطا