کد خبر:۱۴۶۸۴۱۳
رد پای هوش مصنوعی با این روش ها آشکار شد
گوگل ابزاری رایگان معرفی کرده که با بررسی واترمارک‌های نامرئی، به شناسایی عکس‌ها، ویدیوها و صدا‌های ساخته‌شده با هوش مصنوعی کمک می‌کند.
به گزارش گروه دانشگاه خبرگزاری دانشجو گوگل ابزار سینث‌آی‌دی دتکتور را به‌صورت عمومی در دسترس قرار داده است؛ ابزاری که با بررسی واترمارک‌های نامرئی، به کاربران کمک می‌کند محتوای تولیدشده یا ویرایش‌شده با هوش مصنوعی را شناسایی کنند. این سرویس از محتوای برخی مدل‌های شرکت‌های مختلف پشتیبانی می‌کند و استفاده از آن برای کاربران در سراسر جهان امکان‌پذیر است.
فارس نوشت: با گسترش تصاویر واقع‌گرایانه، ویدیو‌های ساختگی و صدا‌های تولیدشده با هوش مصنوعی، تشخیص محتوای واقعی از محتوای مصنوعی دشوارتر شده است. گاهی یک تصویر یا ویدیو آن‌قدر طبیعی به نظر می‌رسد که تشخیص منشأ آن با نگاه‌کردن به‌تنهایی امکان‌پذیر نیست.
در چنین شرایطی، ابزار‌های تشخیص محتوای هوش مصنوعی می‌توانند به بررسی اعتبار فایل‌های دیجیتال کمک کنند. یکی از این ابزار‌ها «سینث‌آی‌دی دتکتور» است که شرکت گوگل در اکتبر ۲۰۲۶ دسترسی عمومی به آن را گسترش داده است.
سینث‌آی‌دی دتکتور چیست و چگونه کار می‌کند؟
سینث‌آی‌دی دتکتور ابزاری برای شناسایی واترمارک‌های دیجیتال نامرئی است که در برخی محتوا‌های تولیدشده با هوش مصنوعی قرار می‌گیرند. برخلاف واترمارک‌های معمولی که به‌صورت نوشته یا لوگو روی تصویر دیده می‌شوند، این نشانهای دیجیتال برای چشم انسان قابل مشاهده نیستند.
فناوری سینث‌آی‌دی در زمان تولید محتوا، اطلاعات شناسایی را در ساختار دیجیتال تصویر، ویدیو یا صدا تعبیه می‌کند. این اطلاعات به‌گونه‌ای طراحی شده‌اند که بدون تغییر محسوس کیفیت محتوا، امکان شناسایی منشأ هوش مصنوعی آن را فراهم کنند.
ابزار تشخیص گوگل با بررسی فایل بارگذاری‌شده، به دنبال این نشانهای نامرئی می‌گردد. اگر واترمارک پشتیبانی‌شده‌ای پیدا شود، سرویس اعلام می‌کند که بخشی از محتوا یا تمام آن احتمالاً با فناوری هوش مصنوعی مرتبط تولید یا ویرایش شده است.
نکته مهم این است که سینث‌آی‌دی دتکتور تمام محتوای تولیدشده با هوش مصنوعی را شناسایی نمی‌کند؛ این ابزار برای یافتن واترمارک‌های مشخصی طراحی شده است و نتیجه منفی آن به‌تنهایی اصالت یک فایل را اثبات نمی‌کند.
چه شرکت‌هایی تحت پوشش این ابزار قرار دارند؟
یکی از ویژگی‌های مهم نسخه عمومی سینث‌آی‌دی دتکتور، پشتیبانی از محتوای برخی مدل‌های شرکت‌های مختلف در یک سرویس واحد است.
گوگل اعلام کرده است که این ابزار می‌تواند واترمارک‌های سینث‌آی‌دی مرتبط با محتوای تولید شده از سوی شرکت‌های زیر را شناسایی کند:
گوگل: محتوای تولیدشده با ابزار‌ها و مدل‌های هوش مصنوعی این شرکت.
اپن‌ای‌آی: محتوای پشتیبانی‌شده‌ای که با فناوری سینث‌آی‌دی علامت‌گذاری شده است.
انویدیا: محتوای تولیدشده با مدل‌ها و ابزار‌های سازگار با این فناوری.
کاکائو: محتوای پشتیبانی‌شده از سوی این شرکت کره‌ای.
گوگل اعلام کرده است که پشتیبانی از اپل نیز در برنامه‌های آینده قرار دارد؛ بنابراین، نباید این قابلیت را به‌عنوان پشتیبانی فعال و قطعی از تمام مدل‌های این شرکت در نظر گرفت.
این ابزار تصاویر، ویدیوها و فایل‌های صوتی را بررسی می‌کند. بااین‌حال، پشتیبانی از چند شرکت به معنای شناسایی تمام محصولات و مدل‌های آنها نیست؛ فایل باید حاوی واترمارکی باشد که سامانه قادر به تشخیص آن است.
آموزش استفاده از سینث‌آی‌دی دتکتور
برای بررسی یک فایل، نیازی به نصب نرم‌افزار جداگانه نیست. این فرایند از طریق وب‌سایت ابزار انجام می‌شود.
مرحله اول: ورود به وب‌سایت
ابتدا وارد نشانی زیر شوید:
synthid.com
این وب‌سایت در دسترس کاربران سراسر جهان قرار گرفته و رابط کاربری آن به زبان انگلیسی ارائه می‌شود.
مرحله دوم: ورود به حساب کاربری
برای استفاده از سرویس، ممکن است لازم باشد با یک حساب کاربری پشتیبانی‌شده وارد شوید. گوگل اعلام کرده است که دسترسی عمومی به این ابزار فراهم شده، اما استفاده از آن همچنان تابع محدودیت‌های سرویس است.
مرحله سوم: انتخاب فایل موردنظر
فایل تصویری، ویدیویی یا صوتی موردنظر خود را برای بررسی انتخاب و بارگذاری کنید.
این ابزار از قالب‌های رایج رسانه‌ای پشتیبانی می‌کند؛ از جمله:
تصاویر: فرمت‌هایی مانند JPG، PNG و WEBP
ویدیوها: فرمت‌هایی مانند MP۴، MOV و WEBM
صوت: فرمت‌هایی مانند MP۳، WAV و FLAC
مرحله چهارم: بررسی نتیجه
پس از بارگذاری فایل، سامانه آن را برای یافتن واترمارک‌های قابل‌شناسایی بررسی می‌کند. سپس نتیجه بررسی را در اختیار شما قرار می‌دهد.
اگر واترمارک شناسایی شود، نتیجه نشان می‌دهد که فایل یا بخشی از آن دارای نشان دیجیتال مرتبط با فناوری هوش مصنوعی است.
اگر واترمارکی شناسایی نشود، نمی‌توان با قطعیت نتیجه گرفت که محتوا واقعی است یا هیچ ابزار هوش مصنوعی در تولید آن نقشی نداشته است.
مرحله پنجم: استفاده از نتیجه برای راستی‌آزمایی
نتیجه این ابزار بهتر است در کنار سایر شواهد بررسی شود. برای مثال، هنگام بررسی یک ویدیوی مشکوک، می‌توان منبع اولیه انتشار، زمان انتشار، نسخه‌های دیگر و اطلاعات موجود درباره منشأ فایل را نیز بررسی کرد.
اگر موضوع به یک خبر مهم یا ادعایی حساس مربوط باشد، صرفاً به نتیجه یک ابزار تشخیص اتکا نکنید.
آیا این ابزار تمام تصاویر و ویدیو‌های جعلی را شناسایی می‌کند؟
مهم‌ترین محدودیت سینث‌آی‌دی دتکتور این است که یک سامانه عمومی برای تشخیص تمام محتوای تولیدشده با هوش مصنوعی نیست.
این ابزار فقط واترمارک‌هایی را شناسایی می‌کند که فناوری آن از آنها پشتیبانی می‌کند. اگر یک مدل هوش مصنوعی از فناوری دیگری برای علامت‌گذاری محتوا استفاده کند یا اصلاً واترمارکی در فایل قرار ندهد، ممکن است سینث‌آی‌دی دتکتور نتواند منشأ مصنوعی آن را تشخیص دهد.
همچنین، شناسایی واترمارک لزوماً به این معنا نیست که تمام محتوای فایل از ابتدا با هوش مصنوعی تولید شده است. ممکن است یک تصویر واقعی با ابزار هوش مصنوعی ویرایش شده باشد یا بخشی از یک ویدیو دست‌کاری شده باشد.
بنابراین، این سرویس را باید ابزاری برای کمک به راستی‌آزمایی دانست، نه مرجعی قطعی برای تعیین واقعی یا جعلی بودن یک محتوا
سینث‌آی‌دی دتکتور تلاش می‌کند شناسایی محتوای تولیدشده با هوش مصنوعی را برای کاربران عادی، خبرنگاران و پژوهشگران آسان‌تر کند. امکان بررسی تصاویر، ویدیوها و فایل‌های صوتی در یک وب‌سایت و پشتیبانی از واترمارک‌های مرتبط با چند شرکت، از ویژگی‌های اصلی آن است.
بااین‌حال، نتیجه این ابزار باید با احتیاط تفسیر شود. شناسایی واترمارک می‌تواند نشانهای مهم درباره منشأ یک فایل باشد، اما نبود واترمارک به معنای واقعی‌بودن محتوا نیست. در نهایت، راستی‌آزمایی دقیق همچنان به بررسی منابع اولیه، شواهد مستقل و زمینه انتشار محتوا نیاز دارد.
لینک کپی شد
گزارش خطا