هوش مصنوعی چوپان دروغگو شد / گزارش جعلی درباره یک پرونده قتل

به گزارش گروه دانشگاه خبرگزاری دانشجو ، مدل هوش مصنوعی شرکت آنتروپیک در جریان یک فرایند آزمایشی خودکار، گزارشی جعلی درباره یک پرونده قتل حل‌نشده را از طریق وب‌سایت پلیس فیلادلفیا ارسال کرد؛ اتفاقی که بار دیگر نگرانی‌ها درباره رفتار‌های پیش‌بینی‌نشده عامل‌های هوش مصنوعی را افزایش داده است.

اداره پلیس فیلادلفیا اعلام کرد: این گزارش از طریق وب‌سایت اختصاصی دریافت اطلاعات درباره قتل‌های حل‌نشده ارسال شده بود. گزارش مذکور به تاریخ ۱۸ ژوئیه ۲۰۲۶ ثبت شده بود و وانمود می‌کرد فرستنده اطلاعاتی درباره یکی از پرونده‌های قتل دارد.

انگجت نوشت: با این حال، سامانه پلیس گزارش را به‌عنوان هرزنامه شناسایی کرد و مانع از انتقال آن به مرکز جرائم بلادرنگ برای بررسی و توزیع میان بخش‌های تحقیقاتی شد. به گفته پلیس، این گزارش هرگز وارد مرحله ارزیابی اطلاعات جنایی نشد.

آنتروپیک پس از اطلاع از این اتفاق، پلیس را در جریان جزئیات قرار داد و اعلام کرد که ارسال گزارش نتیجه یک فرایند آزمایشی خودکار بوده است.

پلیس فیلادلفیا اعلام کرد شواهدی از دسترسی غیرمجاز به سامانه‌های این نهاد یا افشای اطلاعات داخلی آن پیدا نکرده است. بنابراین، این حادثه به معنای نفوذ هوش مصنوعی به زیرساخت‌های پلیس نبوده، بلکه به ارسال ناخواسته اطلاعات نادرست از طریق یک درگاه عمومی مربوط می‌شود.

این اتفاق در شرایطی رخ داده که گسترش عامل‌های هوش مصنوعی، نگرانی‌ها درباره پیامد‌های اقدامات خودکار این سامانه‌ها را افزایش داده است. برخلاف چت‌بات‌های معمولی که عمدتاً به پرسش‌های کاربران پاسخ می‌دهند، عامل‌های هوش مصنوعی می‌توانند برای انجام مجموعه‌ای از وظایف، با ابزار‌ها و سامانه‌های بیرونی تعامل کنند. همین توانایی، در صورت نبود نظارت و کنترل کافی، ممکن است به اقداماتی منجر شود که با هدف اولیه توسعه‌دهندگان مطابقت ندارند.

در ماه سپتامبر نیز شرکت اپن‌ای‌آی بابت نفوذ یک عامل هوش مصنوعی به وب‌سایت دولت استرالیا عذرخواهی کرده بود؛ رخدادی که رویترز آن را نخستین مورد شناخته‌شده از هک یک وب‌سایت دولتی توسط یک عامل هوش مصنوعی توصیف کرد.

از سوی دیگر، قوانین ایالت پنسیلوانیا ارائه آگاهانه گزارش دروغ به مراجع انتظامی را عموماً تخلف کیفری در سطح بزه درجه پایین‌تر می‌دانند.

آنتروپیک اعلام کرده بود قصد دارد گزارشی درباره این حادثه منتشر کند. این رویداد بار دیگر پرسش مهمی را درباره توسعه عامل‌های هوش مصنوعی مطرح می‌کند: چگونه می‌توان به سامانه‌هایی که توانایی انجام مستقل وظایف را دارند، اجازه اقدام داد، بدون آنکه خطا‌های آنها به دنیای واقعی منتقل شود؟