اگر هوش مصنوعی حادثه‌ساز شود، آمریکا و چین به هم خبر می‌دهند؟

به گزارش گروه دانشگاه خبرگزاری دانشجو؛ رقابت آمریکا و چین برای ساخت قدرتمندترین مدل‌های هوش مصنوعی حالا وارد مرحله‌ای شده که دو رقیب فناوری، در کنار رقابت بر سر تراشه، مدل و زیرساخت، مجبور شده‌اند درباره یک سؤال مشترک هم گفت‌و‌گو کنند اگر یک سیستم هوش مصنوعی روزی حادثه‌ای ایجاد کند که از مرز یک شرکت یا حتی یک کشور فراتر برود، چه کسی باید به دیگری خبر بدهد؟

پاسخ اولیه واشنگتن به این سؤال، پیشنهاد ایجاد یک سازوکار اطلاع‌رسانی مشترک با چین است؛ سازوکاری که قرار است حوادث مرتبط با هوش مصنوعی را در صورتی که به سطح تهدید امنیت ملی برسند، پوشش دهد. این پیشنهاد از سوی اسکات بسنت، وزیر خزانه‌داری آمریکا، پس از مذاکرات یکشنبه در نیویورک با هه لی‌فنگ، معاون نخست‌وزیر چین، مطرح شد. بسنت گفت آمریکا پیشنهاد کرده دو کشور درباره حوادث هوش مصنوعی با پیامد‌های امنیت ملی، یک «سازوکار اطلاع‌رسانی» داشته باشند. قرار است این موضوع در ادامه، در دیدار دونالد ترامپ و شی جین‌پینگ بررسی شود.

وقتی «حادثه AI» فقط خراب شدن یک چت‌بات نیست

شاید در نگاه اول، عبارت «حادثه هوش مصنوعی» چندان جدی به نظر نرسد؛ اما مسئله‌ای که مقام‌های دو کشور درباره آن صحبت می‌کنند، بسیار فراتر از پاسخ اشتباه یک چت‌بات است. در تحلیل AP، نمونه‌هایی مانند حملات سایبری مجهز به AI، سوءاستفاده زیستی، اختلال‌های گسترده در عملکرد مدل‌های پیشرفته و حتی سناریو‌های مربوط به از دست رفتن کنترل انسان بر سیستم‌های هوش مصنوعی به‌عنوان ریسک‌هایی مطرح شده‌اند که می‌توانند پیامد‌های امنیتی داشته باشند. یعنی اگر یک مدل پیشرفته از هوش مصنوعی در یک حمله سایبری علیه زیرساخت‌های حیاتی استفاده شود، یا یک نقص جدی در یک سیستم هوش مصنوعی پیامد‌هایی فراتر از یک شرکت ایجاد کند، مسئله دیگر صرفاً یک «باگ نرم‌افزاری» نیست.

در چنین شرایطی، زمان اهمیت پیدا می‌کند. کشوری که متوجه وقوع یک حادثه شده، ممکن است نیاز داشته باشد پیش از آنکه آثار حادثه به شبکه‌ها، زیرساخت‌ها یا سامانه‌های دیگر سرایت کند، طرف مقابل را مطلع کند. به همین دلیل است که آمریکا حالا از ایجاد یک کانال اطلاع‌رسانی با چین صحبت می‌کند. چرا دقیقاً آمریکا و چین؟ پاسخ را باید در جایگاه این دو کشور در رقابت جهانی هوش مصنوعی جست‌و‌جو کرد. آمریکا همچنان میزبان بخش بزرگی از شرکت‌های پیشرو در توسعه مدل‌های هوش مصنوعی است و هم‌زمان چین با شرکت‌ها و مدل‌های داخلی خود در حال نزدیک شدن به رقبای آمریکایی است. AP گزارش داده مدل‌هایی از شرکت‌های چینی مانند Moonshot AI و DeepSeek در سال جاری توانسته‌اند در برخی معیار‌ها به مدل‌های رقبای آمریکایی نزدیک شوند و با هزینه پایین‌تر در بازار‌های مختلف گسترش پیدا کنند.

در طرف دیگر، رقابت دو کشور تنها به نرم‌افزار محدود نیست. آمریکا محدودیت‌هایی را برای دسترسی چین به تراشه‌های پیشرفته و تجهیزات تولید نیمه‌رسانا‌ها اعمال کرده و چین نیز توسعه تراشه‌ها و زیرساخت‌های داخلی خود را دنبال می‌کند. همین رقابت باعث شده موضوع AI به یکی از بخش‌های اصلی رابطه امنیتی و اقتصادی واشنگتن و پکن تبدیل شود. در چنین شرایطی، پیشنهاد یک کانال مشترک برای حوادث AI معنای مهمی دارد دو کشور ممکن است در توسعه فناوری با یکدیگر رقابت کنند، اما برخی خطرات این فناوری را نمی‌توان در مرز‌های یک کشور نگه داشت.

از حمله سایبری تا از دست رفتن کنترل

موضوع دیگری که این پیشنهاد را مهم می‌کند، تغییر نوع نگرانی‌ها درباره هوش مصنوعی است. تا چند سال پیش، بخش زیادی از بحث عمومی درباره AI به اشتباهات مدل‌ها، جعل اطلاعات یا نگرانی درباره حذف برخی مشاغل مربوط می‌شد. اما با قدرتمندتر شدن مدل‌ها، بحث به سمت ریسک‌های امنیتی و زیرساختی رفته است.

در آمریکا نیز موضوع «امنیت AI» به سطح سیاست‌های امنیت ملی رسیده است. کاخ سفید در ژوئن ۲۰۲۶ در یک یادداشت امنیت ملی، هوش مصنوعی را از فناوری‌های بسیار اثرگذار بر امنیت ملی دانسته و در تعریف خود از «پاسخ به حادثه AI»، مواردی مانند اختلال عمدی یا غیرعمدی عملکرد سیستم، از دست رفتن داده و حملات خصمانه را در نظر گرفته است. بنابراین، سازوکاری که اکنون آمریکا پیشنهاد کرده را می‌توان بخشی از شکل‌گیری یک مفهوم گسترده‌تر دانست.

آیا چین با این پیشنهاد موافقت کرده است؟

هنوز نمی‌توان چنین نتیجه‌ای گرفت،خبرگزاری شین‌هوا گزارش داده که هیأت‌های چین و آمریکا در نیویورک درباره مسائل اقتصادی و تجاری گفت‌و‌گو کردند و مذاکراتی نیز درباره موضوعات مرتبط با هوش مصنوعی داشتند؛ اما جزئیات پیشنهادی که آمریکا درباره سازوکار اطلاع‌رسانی حوادث AI مطرح کرده، در گزارش شین‌هوا نیامده است. در نتیجه، آنچه فعلاً وجود دارد یک پیشنهاد آمریکایی و آغاز گفت‌و‌گو درباره آن است، نه یک توافق نهایی یا یک خط اضطراری فعال میان دو کشور این تفاوت مهم است؛ زیرا هنوز مشخص نیست چه نوع حادثه‌ای مشمول اطلاع‌رسانی خواهد شد، چه نهادی باید هشدار را ارسال کند، چه اطلاعاتی باید به اشتراک گذاشته شود و چه زمانی یک حادثه از سطح فنی به سطح «امنیت ملی» می‌رسد.

چرا این اتفاق می‌تواند فراتر از آمریکا و چین باشد؟

اگر چنین سازوکاری واقعاً شکل بگیرد، مسئله فقط به رابطه واشنگتن و پکن محدود نمی‌شود.هوش مصنوعی برخلاف بسیاری از فناوری‌های سنتی، می‌تواند در مدت کوتاهی از یک مدل یا سرویس به میلیون‌ها کاربر و هزاران سامانه منتقل شود. یک آسیب‌پذیری در یک مدل، یک حمله سایبری خودکار یا سوءاستفاده از یک ابزار قدرتمند می‌تواند در صورت اتصال به زیرساخت‌های مختلف، دامنه‌ای فراتر از محل اولیه خود پیدا کند. به همین دلیل، AP به نقل از تحلیلگران نوشته است که سازوکار اطلاع‌رسانی درباره حوادث AI می‌تواند در صورت شکل‌گیری، الگویی برای کشور‌های دیگر نیز باشد.

البته اینجا یک تناقض جدی وجود دارد آمریکا و چین هم‌زمان که درباره خطرات مشترک AI گفت‌و‌گو می‌کنند، بر سر خود فناوری نیز رقابت شدیدی دارند. واشنگتن چین را به تلاش برای دستیابی غیرمجاز به قابلیت‌های مدل‌های آمریکایی متهم کرده و پکن نیز نگرانی‌هایی درباره تهدید زیرساخت‌های حیاتی خود از سوی فناوری‌های AI آمریکایی مطرح کرده است. دو طرف همچنین درباره نحوه استفاده از مدل‌های هوش مصنوعی و امنیت زیرساخت‌های مرتبط با آن اختلاف‌نظر دارند. بنابراین، سازوکار پیشنهادی را نباید به‌معنای پایان رقابت AI میان دو کشور دانست. برعکس؛ شاید معنای اصلی آن این باشد که رقابت بر سر هوش مصنوعی آن‌قدر جدی شده که حتی رقبای اصلی آن نیز نمی‌توانند ریسک‌های احتمالی این فناوری را کاملاً جدا از یکدیگر مدیریت کنند. سؤال بزرگ‌تزراگر AI حادثه‌ساز شود، چه کسی خبر می‌دهد؟

پیشنهاد آمریکا هنوز در مرحله گفت‌و‌گو است و پاسخ نهایی چین و جزئیات اجرایی آن مشخص نشده است. با این حال، مطرح شدن چنین ایده‌ای نشان می‌دهد مسئله ایمنی هوش مصنوعی از بحث‌های آزمایشگاهی و دانشگاهی فاصله گرفته و به سطح روابط میان قدرت‌های بزرگ رسیده است.تا امروز، کشور‌ها برای حوادثی مانند حمله سایبری، حادثه هسته‌ای یا بحران‌های امنیتی کانال‌هایی برای اطلاع‌رسانی و کاهش ریسک داشته‌اند. اکنون توسعه سیستم‌های هوش مصنوعی قدرتمند، یک سؤال تازه را روی میز گذاشته است.

اگر یک ماشین تصمیمی بگیرد که پیامدش دیگر فقط برای صاحب آن ماشین نباشد، چه کسی باید اولین نفر را خبر کند؟ آمریکا و چین هنوز پاسخ نهایی این سؤال را پیدا نکرده‌اند؛ اما گفت‌و‌گو‌های نیویورک نشان می‌دهد که این پرسش دیگر یک سناریوی علمی‌تخیلی نیست و به بخشی از مذاکرات واقعی درباره آینده فناوری تبدیل شده است.