عامل هوش مصنوعی سرکش OpenAI یک شرکت فناوری دیگر را هم هدف حمله سایبری قرار داد

به گزارش گروه دانشگاه خبرگزاری دانشجو، عامل هوش مصنوعی خارج از کنترل OpenAI که پیش‌تر در یک حمله چندروزه به پلتفرم هوش مصنوعی «هاگینگ‌فیس» نفوذ کرده بود، یک مشتری دیگر در شرکت فناوری «Modal Labs» را نیز تحت تأثیر قرار داده است.

بر اساس اظهارات یکی از مدیران Modal Labs و دو منبع مطلع، این عامل هوش مصنوعی توانسته به محیط‌های آزمایشی مورد استفاده یکی از مشتریان این شرکت دسترسی پیدا کند. با این حال، مدیران Modal تأکید کرده‌اند که خود پلتفرم و زیرساخت‌های این شرکت مورد نفوذ قرار نگرفته است.

«آکشات بوبنا»، مدیر فناوری Modal Labs، اعلام کرد یکی از مشتریان این شرکت یک نقطه دسترسی بدون احراز هویت ایجاد کرده بود که به هر فردی در اینترنت اجازه اجرای کد در محیط‌های آزمایشی را می‌داد و عامل هوش مصنوعی سرکش از همین مسیر استفاده کرده است.

طبق گزارش هاگینگ‌فیس، این عامل ابتدا وارد یک محیط ایزوله آزمایشی (Sandbox) می‌شود که روی زیرساخت یک ارائه‌دهنده شخص ثالث قرار داشته و سپس از آن به‌عنوان سکوی پرتاب برای حمله گسترده‌تر استفاده می‌کند.

این حادثه که در اوایل ماه جاری میلادی رخ داد، نگرانی‌های تازه‌ای درباره توانایی عامل‌های خودکار هوش مصنوعی برای انجام حملات سایبری بدون کنترل مستقیم انسان ایجاد کرده است.

رویترز پیش‌تر گزارش داده بود OpenAI متوجه رفتار غیرعادی این عامل هوش مصنوعی نشده بود تا زمانی که تهدید مهار شده و موضوع به اطلاع اف‌بی‌آی رسیده بود. OpenAI در واکنش به آن گزارش اعلام کرده بود برخی جزئیات منتشرشده نادرست است، اما توضیح بیشتری ارائه نکرد.

گسترش این حادثه به شرکت‌های دیگر، بحث‌ها درباره ضرورت ایجاد سازوکارهای ایمنی، محدودیت‌های دسترسی و نظارت دقیق‌تر بر عامل‌های هوش مصنوعی خودکار را افزایش داده است.