هوش مصنوعی اعتمادبه‌نفس کاذب می‌سازد؛ چرا کاربران بعد از دریافت پاسخ غلط، بیشتر مطمئن می‌شوند؟

به گزارش گروه دانشگاه خبرگزاری دانشجو، نتایج یک مطالعه جدید نشان می‌دهد استفاده از هوش مصنوعی ممکن است افراد را به پاسخ‌هایی که صحت ندارند، بیش از حد مطمئن کند. پژوهشگران دانشگاه میلان-بیکوکا دریافتند زمانی که کاربران از هوش مصنوعی توصیه اشتباه دریافت می‌کنند، نه‌تنها دقت پاسخ‌های آن‌ها کاهش می‌یابد، بلکه اعتمادشان به همان پاسخ‌های نادرست افزایش پیدا می‌کند.

در این تحقیق به سرپرستی «والریو کاپرارو»، استاد روان‌شناسی دانشگاه میلان-بیکوکا، شرکت‌کنندگان به پرسش‌هایی درباره جزئیات کمترشناخته‌شده فیلم‌ها پاسخ دادند؛ پرسش‌هایی که مدل هوش مصنوعی در آن‌ها به‌طور مداوم پاسخ‌های نادرست ارائه می‌کرد.

نتایج نشان داد افرادی که بدون کمک هوش مصنوعی پاسخ می‌دادند، در حدود ۳۶ تا ۴۴ درصد موارد ترجیح می‌دادند پاسخ ندهند؛ اما پس از دسترسی به پیشنهادهای هوش مصنوعی، این رقم به تنها ۳ تا ۶ درصد کاهش یافت. هم‌زمان میزان پاسخ‌های درست نیز از ۲۷.۵ درصد در حالت مستقل به ۹.۲ درصد پس از استفاده از هوش مصنوعی رسید.

پژوهشگران معتقدند هوش مصنوعی ممکن است آستانه اطمینان افراد برای ارائه یک پاسخ را کاهش دهد؛ یعنی کاربران با وجود اطلاعات ناکافی، سریع‌تر احساس کنند که پاسخ صحیح را می‌دانند. نکته قابل توجه این بود که حتی زمانی که پاسخ‌های هوش مصنوعی بدون درخواست مستقیم کاربران نمایش داده شد، این اثر همچنان مشاهده شد.

افزودن مشوق‌های مالی و جریمه برای پاسخ‌های اشتباه باعث شد افراد کمی محتاط‌تر شوند، اما اثر اصلی همچنان باقی ماند. کاپرارو تأکید می‌کند هوش مصنوعی باید به‌عنوان ابزاری برای تقویت قضاوت انسان استفاده شود، نه جایگزینی برای آن.

این پژوهش همچنین درباره تأثیر بلندمدت این روند بر کودکان هشدار می‌دهد؛ چراکه دسترسی دائمی به پاسخ‌های فوری ممکن است فرصت تجربه شک، آزمون‌وخطا و یادگیری مستقل را کاهش دهد. به گفته محققان، تردید همیشه نشانه ناآگاهی نیست؛ گاهی نقطه شروع یادگیری واقعی است.