هوش مصنوعی در جست‌و‌جو؛ دقت کمتر، نگرانی بیشتر؟

ویژگی جدید گوگل، به جای نمایش سنتی نتایج جست‌و‌جو، پاسخ‌هایی تولید می‌کند که توسط مدل‌های هوش مصنوعی ساخته شده‌اند. اما این پاسخ‌ها همیشه دقیق نیستند و حذف کامل این قابلیت هنوز برای کاربران امکان‌پذیر نیست.

کد خبر: ۱۲۷۴۲۳۱

دوشنبه - ۲۶ خرداد ۱۴۰۴ / June 16, 2025

به گزارش گروه دانشگاه خبرگزاری دانشجو، مرور کلی هوش مصنوعی، جستجوی گوگل را متحول کرده است. در اینجا نحوه کار آنها و نحوه انصراف از آنها آورده شده است.

مردم هر ساله برای جستجوی میلیارد‌ها سوال به اینترنت مراجعه می‌کنند. این سوالات از دنبال کردن رویداد‌های جهان و افراد مشهور گرفته تا یادگیری کلمات جدید و کمک گرفتن برای انجام کار‌های روزمره متغیر است.

یکی از رایج‌ترین سوالاتی که اخیراً استرالیایی‌ها می‌پرسیدند این بود: چگونه یک ماشین دست دوم را بررسی کنیم؟

اگر این سوال را در ابتدای سال ۲۰۲۴ از گوگل می‌پرسیدید، فهرستی از نتایج جستجوی مجزا به شما نمایش داده می‌شد و ترتیب نمایش آنها به عوامل مختلفی بستگی داشت. اگر همین سوال را در پایان سال می‌پرسیدید، تجربه کاملاً متفاوت بود.

دلیلش این است که گوگل، که حدود ۹۴٪ از بازار موتور‌های جستجوی استرالیا را کنترل می‌کند، در اکتبر ۲۰۲۴ «بررسی اجمالی هوش مصنوعی» را به استرالیا معرفی کرد. این خلاصه نتایج جست‌و‌جو که توسط هوش مصنوعی تولید می‌شوند، انقلابی در نحوه جست‌و‌جو و یافتن اطلاعات توسط افراد ایجاد کرده‌اند. آنها همچنین تأثیر قابل توجهی بر کیفیت نتایج دارند.

اما این خلاصه‌های جستجوی هوش مصنوعی چگونه کار می‌کنند؟ آیا قابل اعتماد هستند؟ و آیا راهی برای انصراف وجود دارد؟

ترکیب اینترنت

موتور‌های جستجوی قدیمی با ارزیابی ده‌ها معیار مختلف و تلاش برای نمایش نتایجی که به نظرشان به بهترین وجه با عبارات جستجوی شما مطابقت دارند، کار می‌کنند.

آنها خود محتوا، از جمله میزان منحصر‌به‌فرد بودن، به‌روز بودن و جامع بودن آن، و همچنین نحوه ساختار و سازماندهی آن را در نظر می‌گیرند.آنها همچنین روابط بین محتوا و سایر بخش‌های وب را در نظر می‌گیرند. اگر منابع معتبر به محتوا لینک بدهند، می‌تواند تأثیر مثبتی بر جایگاه آن در نتایج جست‌و‌جو داشته باشد.

آنها سعی می‌کنند نیت جستجوگر را استنباط کنند - اینکه آیا آنها سعی در خرید چیزی، یادگیری چیز جدیدی یا حل یک مشکل عملی دارند. آنها همچنین جنبه‌های فنی مانند سرعت بارگذاری محتوا و اینکه آیا صفحه امن است را در نظر می‌گیرند.

همه اینها در مجموع یک امتیاز نامرئی برای هر صفحه وب ایجاد می‌کند که بر دیده شدن آن در نتایج جست‌و‌جو تأثیر می‌گذارد. اما هوش مصنوعی همه اینها را تغییر می‌دهد.

گوگل تنها موتور جستجویی است که خلاصه‌های هوش مصنوعی را به طور برجسته در صفحه اصلی نتایج خود نمایش می‌دهد. بینگ و داک‌داک‌گو هنوز از طرح‌بندی‌های سنتی نتایج جست‌و‌جو استفاده می‌کنند و خلاصه‌های هوش مصنوعی را فقط از طریق برنامه‌های همراه مانند Copilot و Duck.ai ارائه می‌دهند.

به جای هدایت کاربران به یک صفحه وب خاص، جستجوی مولد مبتنی بر هوش مصنوعی، صفحات وب و منابع مختلف را بررسی می‌کند تا آنچه را که می‌گویند ترکیب کند. سپس سعی می‌کند نتایج را به روشی کوتاه، محاوره‌ای و آسان برای فهم خلاصه کند.

در تئوری، این می‌تواند منجر به پاسخ‌های غنی‌تر، جامع‌تر و احتمالاً منحصر به فردتر شود. اما هوش مصنوعی همیشه درست عمل نمی‌کند.

جست‌و‌جو‌های هوش مصنوعی چقدر قابل اعتماد هستند؟

نمونه‌های اولیه جستجوی مبتنی بر هوش مصنوعی گوگل از سال ۲۰۲۴ نشان می‌داد که کاربران «حداقل یک سنگ کوچک در روز» بخورند - و اینکه می‌توانند از چسب غیرسمی برای چسباندن پنیر به پیتزا استفاده کنند.

یک مسئله این است که ماشین‌ها برای تشخیص طنز یا تقلید مسخره‌آمیز تجهیزات ضعیفی دارند و می‌توانند از این مطالب برای پاسخ دادن به جای شواهد مبتنی بر واقعیت استفاده کنند.

تحقیقات نشان می‌دهد که میزان به اصطلاح «توهمات» مواردی که در آن ماشین‌ها پاسخ‌ها را از خودشان درمی‌آورند  حتی با پیچیده‌تر شدن مدل‌هایی که آنها را هدایت می‌کنند، رو به افزایش است.

ماشین‌ها در واقع نمی‌توانند تشخیص دهند چه چیزی درست و چه چیزی نادرست است. آنها نمی‌توانند ظرافت‌های اصطلاحات و زبان محاوره‌ای را درک کنند و فقط می‌توانند بر اساس ریاضیات پیچیده پیش‌بینی‌هایی انجام دهند. اما این پیش‌بینی‌ها همیشه درست از آب در نمی‌آیند، که این یک مشکل است - به خصوص برای سوالات حساس پزشکی یا سلامت یا هنگام جستجوی مشاوره مالی است.

به جای ارائه خلاصه، مرور‌های اخیر هوش مصنوعی گوگل، شروع به افزودن لینک‌هایی به منابع برای جنبه‌های کلیدی پاسخ نیز کرده‌اند. این می‌تواند به کاربران کمک کند تا کیفیت کلی پاسخ را ارزیابی کنند و ببینند که هوش مصنوعی ممکن است اطلاعات خود را از کجا دریافت کند. اما شواهد نشان می‌دهد که گاهی اوقات موتور‌های جستجوی هوش مصنوعی منابعی را ذکر می‌کنند که شامل اطلاعاتی که ادعا می‌کنند، نیستند.

تأثیرات دیگر جستجوی هوش مصنوعی چیست؟

خلاصه‌های جستجوی هوش مصنوعی، نحوه تولید و کشف اطلاعات را متحول می‌کنند و اکوسیستم موتور‌های جست‌و‌جو را که بیش از دو دهه به آن عادت کرده‌ایم، تغییر شکل می‌دهند. آنها در حال تغییر نحوه‌ی فرمول‌بندی پرسش‌های جست‌و‌جو توسط جویندگان اطلاعات هستند - از کلمات کلیدی یا عبارات کلیدی به سمت سوالات ساده، مانند سوالاتی که در مکالمات روزمره استفاده می‌کنیم.

برای ارائه دهندگان محتوا، خلاصه‌های هوش مصنوعی تغییرات قابل توجهی را ایجاد می‌کنند تضعیف تکنیک‌های سنتی بهینه‌سازی موتور جست‌و‌جو، کاهش ترافیک مستقیم به وب‌سایت‌ها و تأثیر بر دیده شدن برند.

نکته قابل توجه این است که ۴۳٪ از مرور‌های هوش مصنوعی به خود گوگل لینک می‌دهند. این موضوع تسلط گوگل را به عنوان یک موتور جست‌و‌جو و یک وب‌سایت تقویت می‌کند. ادغام قریب‌الوقوع تبلیغات در خلاصه‌های هوش مصنوعی، نگرانی‌هایی را در مورد قابل اعتماد بودن و استقلال اطلاعات ارائه شده ایجاد می‌کند.

از اینجا به کجا؟

مردم همیشه باید از محدودیت‌های کلیدی خلاصه‌های هوش مصنوعی آگاه باشند. پرسیدن حقایق ساده‌ای مانند «ارتفاع اولورو چقدر است؟» ممکن است به پاسخ‌های دقیقی منجر شود.

اما طرح سوالات پیچیده‌تر یا تفرقه‌انگیزتر، مانند «آیا المپیک ۲۰۳۲ باعث ورشکستگی کوئینزلند خواهد شد؟»، ممکن است کاربران را ملزم به باز کردن لینک‌ها و کاوش عمیق‌تر برای درک جامع‌تر کند.

گوگل گزینه‌ی مشخصی برای غیرفعال کردن کامل این ویژگی ارائه نمی‌دهد. شاید ساده‌ترین راه کلیک روی تب «وب» در زیر نوار جست‌و‌جو در نتایج جست‌و‌جو یا اضافه کردن «-ai» به عبارت جست‌و‌جو باشد. اما این کار می‌تواند تکراری شود.

برخی از راه‌حل‌های فنی‌تر، ایجاد دستی فیلتر جستجوی سایت از طریق تنظیمات کروم است. اما این موارد نیاز به اقدام فعال کاربر دارند.

در نتیجه، برخی از توسعه‌دهندگان افزونه‌هایی برای مرورگر ارائه می‌دهند که ادعا می‌کنند این جنبه را حذف می‌کنند. برخی دیگر از کاربران به طور کامل موتور‌های جست‌و‌جو را تغییر می‌دهند و به ارائه‌دهندگانی روی می‌آورند که خلاصه‌های هوش مصنوعی ارائه نمی‌دهند، مانند Bing و DuckDuckGo. «این مقاله از The Conversation تحت مجوز Creative Commons بازنشر شده است.»